Parlamentet redo att förhandla om de första reglerna om trygg och transparent AI

• Fullständigt förbud mot att använda artificiell intelligens, AI, för biometrisk övervakning, känsloigenkänning och prediktiv övervakning
• Generativa AI-system som ChatGPT måste upplysa om att innehållet är AI-genererat
• AI-system som används för att påverka väljare ska anses utgöra hög risk

På onsdagen antog Europaparlamentet sin förhandlingsposition om rättsakten om artificiell intelligens inför förhandlingarna med EU-länderna om lagens slutgiltiga utformning. Förhandlingspositionen antogs med 499 röster för, 28 emot och 93 nedlagda röster. Reglerna ska se till att AI som utvecklas och används i Europa är helt i linje med EU:s rättigheter och värden gällande bland annat mänsklig tillsyn, säkerhet, integritet, transparens, icke-diskriminering samt socialt och miljömässigt välbefinnande.

Förbjudna AI-metoder

Reglerna är riskbaserade och fastställer skyldigheter för leverantörer och de som använder AI-system beroende på systemets risknivå. AI-system med en risknivå så hög att den hotar människors säkerhet ska därför förbjudas, till exempel de som används för social poängsättning (klassificering av människor på grundval av deras sociala beteende eller personliga egenskaper). Ledamöterna vill även förbjuda inkräktande och diskriminerande användning av AI, exempelvis

• system för biometrisk fjärridentifiering i realtid och i efterhand på allmänt tillgängliga platser,
• system för biometrisk kategorisering som använder sig av känsliga data (till exempel kön, hudfärg, etniskt ursprung, medborgarskap, religion, politisk övertygelse),
• system för prediktiv övervakning (baserade på profilering, plats eller tidigare brottsligt beteende),
• användning av system för känsloigenkänning inom brottsbekämpning och gränsförvaltning, på arbetsplatsen eller inom utbildningsinstitutioner och
• oriktad skrapning av ansiktsbilder från nätet eller övervakningskameror för att skapa databaser för ansiktsigenkänning, något som kränker mänskliga rättigheter och rätten till integritet.

AI-system med hög risk

Ledamöterna har sett till att klassificeringen av högrisktillämpningar nu också innefattar AI-system som avsevärt skadar miljön eller vår hälsa, säkerhet eller grundläggande rättigheter. AI-system som används för att påverka väljare och valresultat lades till i högrisklistan. Också AI-system som används i rekommendationssystem på sociala medieplattformar (med över 45 miljoner användare) har hamnat på listan.

Skyldigheter gällande AI-system för allmänna ändamål

Leverantörer av grundmodeller – en ny och snabb utveckling inom AI – måste bedöma och begränsa eventuella risker (för människors hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatsprincipen) samt registrera sina modeller i en EU-databas innan de släpps på EU-marknaden. Generativa AI-system baserade på sådana modellser, som ChatGPT, måste uppfylla transparenskraven genom att upplysa om att innehållet är AI-genererat och hjälpa till att skilja så kallade deepfake-bilder från riktiga. De måste också vidta skyddsåtgärder som hindrar att olagligt innehåll genereras. Leverantörer måste också offentliggöra detaljerade sammanfattningar av de upphovsrättsskyddade data som har använts för att träna AI:n.

EU främjar innovation och skyddar medborgarnas rättigheter

För att främja innovation inom AI-tekniken och stödja små och medelstora företag har ledamöterna lagt till undantag för forskningsverksamhet och AI-komponenter som publiceras med licenser för öppen källkod. Den nya lagen främjar så kallade regulatoriska sandlådor, alltså verkliga miljöer som upprättats av offentliga myndigheter för att testa AI:n innan den används.

Slutligen vill ledamöterna främja medborgarnas rätt att lämna in klagomål om AI-system och få förklaringar för beslut kring AI-system med hög risk som har en betydande inverkan på deras grundläggande rättigheter. Ledamöterna har också förändrat rollen för EU:s AI-kontor. Kontoret får i uppdrag att övervaka hur AI-reglerna tillämpas.

Citat

Efter omröstningen sa medföredraganden Brando Benifei (S&D, Italien) så här: ”Alla ögon är riktade mot oss i dag. Medan stora teknikföretag slår larm om sina egna skapelser har EU gått före och föreslagit ett konkret svar på de risker som AI börjar utgöra. Vi vill att AI:s positiva potential för kreativitet och produktivitet ska utnyttjas, men vi kommer under förhandlingarna med rådet också att kämpa för att skydda vår position och motverka faror för våra demokratier och friheter."

Medföredragande Dragoş Tudorache (Renew Europe, Rumänien) sa: ”AI-lagen kommer att bli tongivande i hela världen för utvecklingen och styrningen av artificiell intelligens och säkerställa att denna teknik, som kommer att radikalt förändra våra samhällen genom de enorma fördelar den kan erbjuda, utvecklas och används i enlighet med de europeiska värdena demokrati, grundläggande rättigheter och rättsstatsprincipen.”

Nästa steg

Förhandlingar med rådet om lagens slutgiltiga utformning kommer att inledas senare i dag.

Presskonferens

Medföredraganden Brando Benifei (S&D, Italien) och Dragoş Tudorache (Renew Europe, Rumänien) samt Europaparlamentets talman Roberta Metsola kommer att hålla en presskonferens om resultatet av dagens omröstning och vilka steg som ska tas härnäst. Presskonferensen hålls i dag den 14 juni klockan 13.30.

Genom att främja denna lagstiftning svarar Europaparlamentet på medborgarförslag från konferensen om Europas framtid om att säkerställa mänsklig tillsyn av alla AI-relaterade processer (förslag 35(3)), om att fullt ut utnyttja potentialen hos pålitlig AI (35(8)) och om att använda AI och översättningsteknik för att övervinna språkbarriärer (37(3)).

• Följ ärendet i lagstiftningsdatabasen 
• Den antagna texten kommer att finnas tillgänglig här (klicka på 14.06.2023) 
• Videoklipp från plenardebatten (13.06.2023) 
• Europaparlamentets utredningstjänst: Artificiell intelligens