Kan människor förstå robotar som lär sig själva?

På Centrum för tillämpade autonoma sensorsystem (AASS) vid Örebro universitet har fyra AI-forskare ägnat de senaste åren åt att utveckla nya modeller för programmering och styrning av robotar. Målet har varit dels att göra det lättare för användarna att förstå vad som händer ”bakom skalet”, dels att utveckla robotar som lär av sina misstag och anpassar sig till förändringar som sker.

Alla de fyra forskarna har anställningar i stora industriföretag, vilket gör att deras forskning utgår från utmaningar i företagen. Genom företagsforskarskolan CoAIRob får doktorander arbeta tätt tillsammans med industrin för att utveckla framtidens AI-system och stärka företagens AI-kompetens. 

– Vi försöker göra det lättare för fler att lära robotar nya uppgifter. Om endast programmerare kan styra robotar begränsar det användningsområdena i vardagen. Vi har visat hur en robot kan lära sig en uppgift efter en enda demonstration, förklarar  David Cáceres Domínguez, forskare i datavetenskap vid Örebro universitet.

Svårt för människor att lita på robotar

För att styra robotar används bland annat så kallade beteendeträd (”behavior trees”). Dessa är omfattande och kan vara svåra att överblicka för en vanlig användare.

– Många modeller för robotinlärning sker idag i en ”black box”. Roboten lär sig vad den ska göra men människor kan inte förstå beslutsprocessen som ligger bakom. Det gör det svårt för människor att lita på det som sker och att rätta till misstag. Designen av det beteendeträd som styr roboten är avgörande, säger David Cáceres Domínguez, som utvecklat en metod för lärande beteendeträd som utgår från att människors visar vad som ska göras så att robotar kan lösa problem självständigt.

Robotar som lär av sina misstag

Utmaningen är att kombinera avancerad styrning med förmågan att lära och anpassa till en oförutsägbar värld. Genom att göra robotens beteende enklare att överblicka och programmera, samtidigt som roboten tillåts lära från sina misstag, sänks tröskeln för vardagsanvändning, exempelvis för anställda i industrimiljö.

– Det är möjligt att kombinera tydliga, strukturerade instruktioner med robotar som lär av händelser. Traditionellt har det funnits en motsättning mellan system som är flexibla och lär av misstag, och system som är noggrant programmerade och enkla att förstå. I min forskning visar jag att detta går att kombinera effektivt säger Marco Iannotta, forskare i datavetenskap vid Örebro universitet, som utvecklat modeller som låter robotar anpassa sina handlingar till exempelvis storleken på ett objekt eller olika hinder, samtidigt som det är överskådligt och förutsägbart.

Säkrare trafik och sänkta kostnader

En annan modell för styrning är ”planning domains” som bygger på skriftliga instruktioner i stil med: ”om detta sker, gör detta”. Den kan vara tydligare – men svårare att överblicka. När robotar ska användas i vardagen skapar detta problem och kräver anpassning, exempelvis vid utvecklingen av självkörande fordon.

– Genom att data är strukturerad så att människor kan förstå hur självkörande fordon uppträder, kan ingenjörer lättare inspektera, bekräfta och rätta till systemen, samtidigt som vanliga användare förstår vad fordonet gör och varför det sker. Det innebär säkrare trafik, bättre använda resurser och sänkta kostnader för införande av självkörande bilar, säger Simona Gugliermo, forskare i datavetenskap vid Örebro universitet, som använder forskningen i sitt arbete på Scanias avdelning för självkörande fordon.

Öppnar för mer användning i industri och sjukvård

Om en robot kan lära sig vad som händer när den exempelvis tappar något som är halt kan den också fungera bättre tillsammans med människor – och andra robotar – i en industri eller liknande.

Detta öppnar för smartare automation i exempelvis tillverkningsindustri, logistik eller sjukvård, där robotar kan ta över upprepade eller fysiskt krävande arbetsuppgifter medan människor kan fokusera på det som kräver kunskap, kreativitet eller omtanke.

–Det är möjligt att få robotarna att hantera oväntade situationer självständigt och att interagera med människor även när något oväntat händer. Det gör att de kan användas mer både i komplexa miljöer i industri, byggande, gruvdrift och mycket annat, säger Paolo Forte, forskare i datavetenskap vid Örebro universitet som särskilt studerat hur detta kan göras snabbare och billigare med hjälp av allmänna AI-modeller.

Forskarskolan CoAIRob startade våren 2021 och finansieras av näringslivet, Örebro universitet samt KK-stiftelsen.

Sveriges största program för AI-forskning (WASP) har finansierat delar av forskningen som beskrivs i artikeln. WASP (Wallenberg AI, Autonomous Systems and Software Program) är ett nationellt initiativ för forskning och utbildning inom artificiell intelligens, autonoma system och mjukvaruutveckling som ska bidra till att Sverige tar en internationellt erkänd och ledande position inom AI.

Forskarna kan nås via Björn Sundin, forskningskommunikatör vid Örebro Universitet, på: 0790-676889 eller via e-post nedan.

Forskarna kan nås via Björn Sundin, forskningskommunikatör vid Örebro Universitet, på: 0790-676889 eller via kontaktuppgift nedan:

David Cáceres Domínguez, forskare i datavetenskap: david.caceres-dominguez@oru.se

Paolo Fortez, forskare i datavetenskap: paolo.forte@oru.se

Simona Gugliermoz, forskare i datavetenskap: +46 70 0860892, simona.gugliermo@oru.se

Marco Iannottaz, forskare i datavetenskap: marco.iannotta@oru.se

Mer information om forskningen på AASS: Centrum för tillämpade autonoma sensorsystem (AASS)