Vem har ansvaret för att artificiell intelligens, AI, inte bygger in diskriminering i algoritmerna? Och vem tar ansvaret om AI skadar människor eller miljön? AI ger ofantliga möjligheter men väcker också farhågor när det gäller bland annat jämställdhet och diskriminering.

I september 2020 ställdes ingenjörer och forskare från hela världen inför dessa och andra frågor om etiskt hållbar AI-utveckling, vid ett hackathon i Köpenhamn. Resultatet har nu  sammanställts i en ny rapport -  ”Addressing Ethical Dilemmas in AI: Listening to Engineers”. 

– Vi måste ha tillit till AI om vi ska kunna använda den för att lösa många av vår tids utmaningar på ett miljövänligt och smart sätt. För att bygga den tilliten behöver ingenjörer utrymme och forum för diskussioner om AI-utvecklingen där de kan dela erfarenheter och goda exempel, säger Ulrika Lindstrand, förbundsordförande Sveriges Ingenjörer och vice ordförande för Association of Nordic Engineers (ANE).

“Ditch the algorithm!” var ett av stridsropen 2020. Att AI kan ta kommandot utan att människor kan göra något för att protestera är en het debattfråga, inte minst på den internationella arenan. Samtidigt anses AI rymma lösningar på många stora samhällsutmaningar. Utvecklingen går fort på områden som finans, klimatomställning, hälso- och sjukvård och logistik. 

– Våra medlemmar har en unik ställning när AI utvecklas och införs eftersom att de både utvecklar systemen och själva arbetar med dem eller är föremål för dem, säger Ulrika Lindstrand, förbundsordförande Sveriges Ingenjörer och vice ordförande ANE.

I rapporten formulerar ingenjörerna både problemställningar och möjliga sätt att agera. De uttrycker också att de är beredda att ta sitt ansvar för hantera risker och problem, men att det inte går att lösa på egen hand. Andra intressenter som politiker, myndigheter och företag måste också träda in. 

Hackathonet arrangerades av Association of Nordic Engineers, (ANE), Data Ethics ThinkDoTank (DataEthics.eu), Institute of Electrical and Electronics Engineers (IEEE) och forskare från Department of Computer Science vid Köpenhamns universitet.

Några av de rekommendationer som formuleras i rapporten är:

• Skapa ett ramverk för styrning av AI -utveckling och peka ut var ansvaret bör ligga
• Ta med alla intressenter och berörda i designen av olika system
• Utveckla och sprid goda exempel på hur vi tar hand om etiska dilemman vid AI-utveckling
• Skapa forum där ingenjörer kan få hjälp att definiera och diskutera etiska problem och lösningar
• Skapa bättre teknisk dokumentation och certifiering
• Skapa system för tydligare utprovning och testning av AI-system före sjösättning, och fortsätt testa genom hela systemens livscykel.