Avgörande satsningar för Sveriges AI-utveckling presenteras

AI Sweden gjorde nyligen den första stora språkmodellen för nordiska språk, GPT-SW3, fritt tillgänglig som en öppen resurs. Nu tas två nya centrala steg inom både svensk utveckling och svensk användning av stora språkmodeller.

Den ena satsningen handlar om att utveckla den första stora multimodala språkmodellen i och för Sverige. Detta följer den internationella utvecklingen på området. Modellen kommer ha en generell förmåga att lösa en stor mängd olika uppgifter, inklusive att interagera med externa verktyg som databaser och webbläsare. Den kommer även att kunna hantera och generera bilder och ljud. Denna nya modell kommer sedan, likt GPT-SW3, att utgöra en ny nationell resurs för Sverige.

– Sedan vi började arbetet med GPT-SW3 har frontlinjen flyttats, från renodlade språkmodeller till modeller som även hanterar ljud och bild. För Sveriges digitala suveränitet är det avgörande med egen kompetens och egen teknik, eftersom det ger oss inflytande över träningsdata och skapar rådighet över tekniken. Genom att starta bygget av de här modellerna nu är vi med i täten av den tekniska utvecklingen, säger Magnus Sahlgren, Head of NLU på AI Sweden.

Parallellt görs en satsning av AI Sweden tillsammans med partners för att bygga en gemensam digital assistent för offentlig sektor. Assistenten kommer att utvecklas genom att finjustera en stor språkmodell, exempelvis GPT-SW3, med hjälp av data genererade av medarbetare i offentliga organisationer. Inte olik ChatGPT, men skräddarsydd för svensk offentlig sektor och utvecklad med våra demokratiska värden, normer och samhälleliga mångfald och där data som matas in hanteras säkert. Assistentens användning och utveckling representerar ett nytt arbetssätt för offentlig sektor. Den kommer att skapa en självförstärkande spiral av kontinuerlig förbättring och anpassning, där varje medarbetares bidrag direkt medverkar till att forma en mer intelligent och effektiv digital assistent.

Genom att stödja medarbetare i deras textbaserade arbetsuppgifter kommer assistenten att förenkla offentliganställdas vardag och frigöra tid för mer mellanmänskliga och värdefulla uppgifter. Den ska vara lättanvänd och tillgänglig för alla medarbetare, oavsett deras tekniska kompetens, och ska bland annat kunna utföra uppgifter som att:

• Sammanfatta och analysera stora textmassor.
• Förbättra och redigera texter för att göra dem mer lättlästa och strukturerade.
• Skapa nya texter som rapporter, handlingar och ansökningar, anpassade efter specifika mallar och riktlinjer.
• Klassificera dokument och skapa beslutsunderlag i handläggningsprocesser.
• Ta fram individualiserat stöd åt medborgare.

– Sverige står inför en stor välfärdsutmaning. Offentlig sektor behöver moderna verktyg och smarta arbetssätt där de med hjälp av AI kan få så stor effekt som möjligt med ökad kvalitet. Många organisationer är för små för att kunna bygga en sån här resurs på egen hand och de stora är beroende av de små för att uppnå de datamängder som krävs för att utveckla verkligt kapabla AI-produkter. Den gemensamma digitala assistenten för offentlig sektor är en unik lösning som genom nationell samverkan stärker Sveriges förmåga att nyttja kraften i AI, säger Jonatan Permert, AI-transformationsstrateg, AI Sweden.

Genom dessa två satsningar stärker Sverige sin digitala suveränitet och sin AI-förmåga. Genom att både utveckla kompetensen kring stora språkmodeller och genom att göra avancerade AI-resurser brett tillgängliga ökar Sveriges nationella handlingsutrymme. Satsningarna bör ses som modern infrastruktur, där en central aktör samordnar utvecklingen av resurser eller tjänster som varje enskild aktör inte har förmåga eller resurser att göra på egen hand.

– Det är alltid glädjande att höra om spännande AI-initiativ från olika aktörer. Rätt använt kan AI bidra till ökad innovationsförmåga, stärkt konkurrenskraft, bättre välfärd och effektivare offentlig förvaltning. Det här är utmärkta exempel på konkreta förslag som leder till bättre förutsättningar för konkurrenskraftig, säker och etisk AI-utveckling i Sverige, både inom den offentliga förvaltningen och inom näringslivet, säger civilminister Erik Slottner.

Fakta om satsningarna

Framtidens digitala assistent för offentlig sektor

Projektets mål är att utveckla en digital assistent baserad på AI-teknik. Den ska vara ett stöd till medarbetare inom offentlig sektor i en stor variation av textrelaterade arbetsuppgifter.

Assistenten kommer att baseras på en svensk språkmodell och tränas med hjälp instruktionsdata genererade av medarbetarna.

Utvecklingen av assistenten planeras i flera faser. Det är den första fasen som nu finansieras av Vinnova och partners. Den pågår fram till sommaren 2024. Från offentlig sektor deltar Kungsbacka kommun, Tjörns kommun, Göteborgs stad, Region Skåne, Region Halland och Västra Götalandsregionen. Intel är projektets hårdvarupartner och kommer att bistå projektet med all hårdvara som krävs.

I fas två, som planeras pågå till årsskiftet 2025/2026, förväntas antalet kommuner och regioner öka avsevärt.

Från 2026 är ambitionen att assistenten ska vara klar att förvaltas för långsiktig drift.

Multimodal språkmodell

AI Sweden tar nästa kliv efter den första nordiska storskaliga språkmodellen
GPT-SW3. Målet är en storskalig, multimodal modell som vid sidan av text också kan hantera bild och ljud.

Utvecklingen av modellen planeras till olika faser. Det är den första fasen, som pågår fram till sommaren 2024, som nu finansieras av Vinnova. Under perioden samlas bland annat data för träning av modellen in.

Etapp två planeras fram till slutet av 2024. Under perioden planeras den storskaliga träningen av den nya modellen ske.

Ambitionen är en modellfamilj där den största versionen har minst 100 miljarder parametrar.

Alla modeller som utvecklas inom detta projekt planeras vara öppna och därmed nedladdningsbara och tillgängliga för modifiering, finjustering, forskning och kommersialisering.