Kan en robot göra fel?
Vem ansvarar om en robot begår ett fel? Hur reagerar människor på beslut som fattas av en dator? Det är några av frågorna som man försöker besvara i ett nytt forskningsprojekt vid Helsingfors universitet.
Projektet om moralfilosofi inom robotik leds av forskaren i kognitionsvetenskap Michael Laakasuo. Han säger att man vill förstå hur människans moraliska tankemönster fungerar i förhållande till robotar och intelligenta maskiner. Forskningsrönen kan översättas till praktisk nytta senast i det skedet då man i framtiden blir tvungen att fatta beslut om hur maskinerna ska kontrollers och hur lagstiftningen kring dem ser ut.
– Det kan vara lättare att stifta lagar och skapa it-praxis om vi förstår hur människor förhåller sig till artificiell intelligens, säger Laakasuo.
Som en del av forskningen kommer människor att få se känsloladdade videosnuttar där robotar fattar felaktiga beslut. Det kan handla om att de ger fel mediciner till en åldring som sedan drabbas av komplikationer eller dör.
Efter det tillfrågas åskådarna hur fel de anser att roboten agerat. Laakasuo säger att människan har en tendens att humanisera robotar, och att det kan leda till att roboten, inte personen som skrivit datorkoden som roboten följer, ses som skyldig till vårdfelet.
Robotar fattar allt fler beslut
Robotar och intelligenta maskiner får mer och mer makt i takt med att vi överlåter flera beslut till dem. Laakasuo lyfter upp navigatorn som exempel. Baserat på bristfällig information fattar en navigator beslut om den snabbaste rutten som också kan vara den kortaste. Om många navigatorer fattar samma beslut stockas rutten snabbt.
– I sådana fall kan man ha mer skada än nytta av att ha lagt ut beslutsfattandet på en maskin och inte själv fattat beslutet baserat på den helhetssyn man har och maskiner saknar, säger Laakasuo.
För att granska sin egen inställning till beslut som fattas av robotar kan man fundera över en situation där en robot eller en smarttelefon ska välja om den ska rädda ett barn eller en vuxen ur ett brinnande hus.
– Genom påhittade scenarier kan man själv fundera över hur känslokallt det är om beslutet fattas av en maskin.