Ny rapport: Barn larmar om AI – vuxenvärlden hinner inte med

Justitieminister Gunnar Strömmer pekar på att Sverige kan göra mer nationellt för att snabbt få bort övergreppsmaterial från plattformar – även när materialet är AI-genererat eller manipulerat. Han jämför med det arbete regeringen nu bedriver för att kunna beordra plattformar att ta bort gängens rekryteringsmaterial riktat till unga.

– Jag tror att vi kan göra mer nationellt för att polisen ska kunna beordra plattformar att plocka ner material när man ser det. Det ska kunna ske inom en timme, och gör man inte det ska man drabbas av dryga sanktioner, säger Gunnar Strömmer.

Rapporten “Det är coolt med tekniken, men man märker att människorna som styr den inte hinner med” bygger på en litteraturöversikt, expertintervjuer och fokusgrupper med barn och unga. Den visar hur AI redan förändrar förutsättningarna för både förövare och de aktörer som arbetar för att skydda barn.

Förövare kan med hjälp av AI skapa manipulerade nakenbilder, generera nytt övergreppsmaterial, anpassa grooming till enskilda barn och använda falska identiteter eller relationer för att vinna barns förtroende. Samtidigt används AI i dag för att upptäcka känt övergreppsmaterial, identifiera riskbeteenden, analysera stora datamängder och minska den psykiska belastningen för yrkesverksamma som granskar materialet.

Barnen i rapportens fokusgrupper beskriver själva glappet mellan deras digitala vardag och vuxenvärldens ansvar: “Det är coolt med tekniken, men man märker att människorna som styr den inte hinner med.” Det märks inte minst i hur sexuellt kränkande och manipulerade bilder redan har blivit en del av ungas vardag: “Människor blir inte ens chockade längre över det. De har blivit vana med det. De har blivit vana med att den här personen sprider falska bilder på en.”

Childhood och ChildX menar att Sverige nu måste ta ett tydligare ansvar för att skyddet av barn utvecklas i samma takt som tekniken.

– AI är redan en del av barns verklighet. Därför måste barns rätt till skydd byggas in i lagstiftning, teknik och plattformar från början. Vi kan inte låta förövare vara snabbare än samhällets skyddssystem, säger Britta Holmberg, global program- och påverkanschef och vice generalsekreterare, Childhood.

Rapporten lyfter särskilt tre områden där åtgärder behövs: moderniserad och teknikneutral lagstiftning, långsiktiga investeringar i AI-verktyg för brottsbekämpning och stöd, samt tydligare krav på plattformar att förebygga, upptäcka och agera mot sexuella övergrepp mot barn online.

Jämställdhetsminister Nina Larsson lyfter att rapporten ger ett viktigt underlag för det fortsatta arbetet mot övergreppsmaterial, grooming och sexuell exploatering av barn.

– Den här rapporten är viktig eftersom den fungerar som ammunition och ett bra underlag. Den visar på den utmaning och det enorma problem vi har i samhället idag med övergreppsmaterial mot barn, och hur barn groomas och utnyttjas på olika sätt. Det är något vi måste jobba på med all kraft vi kan, på flera nivåer och i alla delar av samhället, säger Nina Larsson, jämställdhetsminister.

Barn och unga efterfrågar själva bättre åldersverifiering, mänsklig moderering, tydligare regler och trygga digitala stödvägar när något har hänt.

– Barnen ser riskerna, men också lösningarna. De ber inte vuxenvärlden att stoppa tekniken. De ber oss ta ansvar för hur den används. Det är skillnaden mellan att lämna barn ensamma i utvecklingen och att faktiskt skydda dem, säger Ida Östensson, generalsekreterare, ChildX.

Childhood och ChildX vill se att Sverige säkerställer att lagstiftningen omfattar AI-genererade och manipulerade sexuellt kränkande bilder av barn, förbjuder skadliga funktioner som möjliggör sådana manipulationer, investerar i AI-verktyg för att upptäcka övergrepp och identifiera utsatta barn, ställer tydligare krav på plattformars säkerhetsarbete och mänskliga moderering samt stärker kunskapen hos yrkesverksamma som möter barn.

Sverige har ambitionen att bli världsledande inom AI. Då måste skyddet av barn vara en självklar del av den ambitionen.

Ta del av den fullständiga rapporten här:"Det är coolt med tekniken, men man märker att människorna som styr den inte hinner med"

För mer information kontakta:
Charles Mingo Bennström, pressansvarig Childhood: charles.bennstrom@childhood.org

Matilda Wiechel, kommunikations- och insamlingschef ChildX: matilda@childx.se