Robotutveckling som främjar integration och mångfald

Hur utvecklar vi sociala robotar som får alla att känna sig inkluderade och representerade? Frågan står i fokus för forskarna Ginevra Castellano och Katie Winkle, och även för en internationell konferens i Stockholm i mars.

– Om vi inte är försiktiga med vilka data vi använder för att bygga system, får vi en teknik som inte fungerar, säger Ginevra Castellano, professor i intelligenta interaktiva system.

Artificiell intelligens har gjort det möjligt att utveckla robotar som interagerar med människor och tillgodoser mänskliga behov. Samtidigt krävs att AI används på ett ansvarsfullt sätt för att teknologin ska påverka samhället positivt. Det säger Ginevra Castellano, föreståndare för Uppsala Social Robotics Lab vid Uppsala universitet.

– En viktig del av att skapa en etisk och pålitlig artificiell intelligens och robotik är att se till att de är inkluderande och syftar till att minska diskriminering och partiskhet. Då måste vi få med alla i designprocessen, särskilt de grupper eller användare som kan vara underrepresenterade på grund av bland annat kön, etnicitet, religion, kultur eller ålder.  

Risk för partiskhet

Ansiktsigenkänning är ett exempel på system som kan försvåra och göra mer skada än det hjälper, om det inte byggs på representativa data. Det menar kollegan och biträdande universitetslektorn Katie Winkle, ingenjör och doktor i robotik.

– Tekniken kan bli väldigt bra på att identifiera enbart vissa typer av människor, något som kan leda till orättvisa, särbehandling, till och med utestängning från beslutsprocesser. Därför är det viktigt att vi möter de här utmaningarna nu, säger Katie Winkle.

Stöd inom sjukvården

På Uppsala Social Robotics Lab utformas och tränas robotar för användning inom områden som utbildning och hälsovård. Just nu undersöker forskarna hur sociala robotar kan bistå vid screening av kvinnor för tecken på förlossningsdepression. Det tvärvetenskapliga projektet bygger på samarbeten med bland annat psykiatriker, experter på perinatal depression och genusvetare.

– När vi utformar den här typen av robotteknik är det viktigt att vi inte bara resonerar om den specifika användarens behov. Det handlar också om de samhällsnormer som omger depression och moderskap och som är viktiga nyckelelement att ta hänsyn till i designen, säger Ginevra Castellano.

Stor internationell forskningskonferens

Forskargruppens projekt kommer att presenteras på världens största konferens i människa-robotinteraktion, HRI 2023, i Stockholm den 13-16 mars. Konferensen hålls för första gången under sin 18-åriga existens i Sverige och samlar internationella forskare inom områden som artificiell intelligens, design, psykologi och samhällsvetenskap.

Där är även Ginevra Castellano konferensordförande och Katie Winkle en av tre lokala organisationsordföranden. Katie Winkle har nominerats till ett pris för bästa artikel vid konferensen, med titeln "Feministisk interaktion mellan människa och robot: Principer och praktik för bättre och mer etisk människa-robotrelation".

Vad hoppas ni att konferensen ska leda till?
– Vi hoppas på en ökad medvetenhet om ämnet och om behovet av att ta itu med samspelet mellan människa och robot för alla. Och att fler ska känna till vilken god forskning som bedrivs i Sverige och Uppsala inom människa-robotinteraktion, säger Ginevra Castellano.

Anneli Björkman