Ny rapport: Kunskapsbrister om AI innebär risk för diskriminering
Många arbetsgivare känner inte till att de redan idag använder sig av artificiell intelligens, AI, eller annat automatiserat beslutsfattande. Det visar den rapport om AI och risker för diskriminering i arbetslivet som Diskrimineringsombudsmannen, DO, publicerar idag. Att arbetsgivare har denna kunskap är avgörande för att arbeta förebyggande för att motverka diskriminering vid tillämpning av tekniken, skriver DO.
DO:s rapport består av två delar, dels en forskningsöversikt över befintlig forskning på området risker för diskriminering som användandet av AI och annat automatiserat beslutsfattande kan medföra. Dels ingår en forskningsbaserad undersökning med 100 stora arbetsgivare och 10 rekryteringsföretag om i vilken utsträckning och i vilka sammanhang som arbetsgivare använder sig av teknikerna och vilken kunskapsnivå arbetsgivare har om risker för diskriminering.
Rapporten visar att risker för diskriminering kan uppkomma eftersom den data som AI-system tränas på återspeglar historiska och befintliga ojämlikheter och grupprelaterade skillnader i arbetslivet. Samtidigt visar undersökningen att det är få arbetsgivare som känner till att de redan idag använder sig av AI och annat automatiserat beslutsfattande. Resultaten visar också att användare riskerar att bli mindre noggranna och kritiska när de använder sig av teknikerna genom att acceptera utfallet av systemen som något neutralt, objektivt och värderingsfritt. Bristande transparens och möjlighet till granskning är en annan utmaning. Stora företag med rekryteringsbehov upphandlar till exempel delar av rekryteringsföretag som i sin tur använder sig av datadrivna digitala tjänster ägda av globala teknikbolag som automatiserar matchning. Detta kan försvåra transparens och möjlighet till granskning vilket kan leda till risker för diskriminering.
–Rapporten visar alltså att det finns en risk för att AI används utan att arbetsgivare och beslutsfattare förstår hur eller att de använder sådana system. Både AI-användare och AI-utvecklare måste ta ett ansvar för att förebygga risker för diskriminering. Utan möjlighet till ansvarsutkrävande riskerar felaktiga eller diskriminerande AI-system att inte upptäckas och åtgärdas och det kan få allvarliga konsekvenser för den enskilde. säger Ann Frisell ansvarig utredare för DO:s rapport.
Rapportens forskningsöversikt visar att det finns stora forskningsluckor om risker för diskriminering vid användandet av AI och annat automatiserat beslutsfattande i arbetslivet.
Nyckelord
Kontakter
Clas LundstedtPressansvarig
Foto: Hans Alm
Länkar
DO arbetar för ett samhälle fritt från diskriminering.
Läs mer om vår verksamhet på www.do.se.
Följ Diskrimineringsombudsmannen
Abonnera på våra pressmeddelanden. Endast mejladress behövs och den används bara här. Du kan avanmäla dig när som helst.
Senaste pressmeddelandena från Diskrimineringsombudsmannen
Diskriminering när bank nekade kvinna provanställning18.4.2024 09:07:00 CEST | Pressmeddelande
En kvinna blev diskriminerad när hon nekades en provanställning hos en bank till följd av graviditet. Den bedömningen gör DO och begär därför att banken betalar diskrimineringsersättning till kvinnan.
Kvinna diskriminerades genom flygbolags uniformsregler11.4.2024 09:07:00 CEST | Pressmeddelande
Ett flygbolag, som tillämpar ett uniformsreglemente som inte tillåter religiösa symboler, diskriminerade en kvinna genom att neka henne fortsatt anställning med hänvisning till att hon inte var beredd att arbeta utan slöja. Den bedömningen gör Diskrimineringsombudsmannen, DO, och stämmer därför flygbolaget för diskriminering som har samband med religion eller annan trosuppfattning och kön.
Antalet anmälningar till DO fortsätter att öka10.4.2024 08:51:35 CEST | Pressmeddelande
Antalet anmälningar om diskriminering till Diskrimineringsombudsmannen, DO, fortsätter att öka. Mellan åren 2022 och 2023, var ökningen 9 procent. Det visar DO:s årliga statistikrapport som publiceras idag.
Nekades fortsatt arbete på grund av graviditet9.4.2024 09:07:00 CEST | Pressmeddelande
Det var diskriminering när en restaurang- och sportbar i norra Mälardalen nekade en gravid kvinna fortsatt timanställning. Det anser Diskrimineringsombudsmannen, DO, som nu begär att den tidigare arbetsgivaren ska betala diskrimineringsersättning till kvinnan.
Diskriminering när busschaufför utsatte resenär för trakasserier8.4.2024 09:07:00 CEST | Pressmeddelande
DO begär att ett regionalt länstrafikbolag ska betala diskrimineringsersättning till en kvinna för trakasserier. Enligt DO har trakasserierna haft samband med etnisk tillhörighet.
I vårt pressrum kan du läsa de senaste pressmeddelandena, få tillgång till pressmaterial och hitta kontaktinformation.
Besök vårt pressrum