AI och desinformation på sociala medier – kunskapsluckor i forskningen trots bred användning

Samtidigt är användningen redan bred. Generativ AI används i allt från journalistik, marknadsföring och utbildning till emotionellt stöd och AI‑kompanjoner. Men tekniken används också i bedrägerier, desinformation och andra former av vilseledande innehåll.

– Det finns ett växande gap mellan den snabba teknikutvecklingen och den vetenskapliga kunskapen, som inte utvecklas i samma takt. Eftersom AI har stor påverkan på samhället, inte minst på medierna, är det viktigt att den akademiska kunskapen kompletteras med mer snabbrörliga kunskapsformer som följer utvecklingen närmare, säger utredare Jacob Strandell på Mediemyndigheten. 

Kunskapsluckor i forskningen

Rapporten identifierar flera centrala brister i dagens kunskapsläge:

• Begränsad forskning om hur barn och unga påverkas
• Få studier om nordiska förhållanden
• Brist på studier av flera av de största sociala plattformarna
• Otillräcklig kunskap om bredare samhällskonsekvenser

Dessutom domineras forskningen av studier från ett fåtal länder och plattformar, med begränsad tvärvetenskaplig bredd.

Stort behov av mer aktuell och praktiknära kunskap

En viktig slutsats är att behovet av aktuell, samhällsrelevant och praktiknära kunskap är stort. I takt med att utvecklingen går snabbt blir rapporter och analyser utanför akademin – så kallad grålitteratur – allt viktigare för att förstå utvecklingen här och nu.

Om rapporten och Mediemyndigheten

Studien bygger på en genomgång av internationell forskning och relevant grålitteratur om AI‑genererat innehåll i sociala medier, med fokus på användning, risker och konsekvenser. Uppdraget till FOI är en del av Mediemyndighetens arbete med att följa och analysera utvecklingen inom medieområdet. Mediemyndigheten kommer att fortsatt utveckla kunskapsunderlag som stödjer policyutveckling, tillsyn och insatser för medie‑ och informationskunnighet (MIK).