AI-kapprustningen leder till harmagedon

-Det handlar om en kraftig obalans mellan hur kraftfull AI är och hur långt arbetet med säkerheten kring AI har kommit – så kallad AI-alignment. AI-alignment går ut på att få AI att bete sig i linje med mänskliga värderingar, säger Olle Häggström i Consids podd Digitala influencer-podden.

Länge ansågs AGI (artificiell generell intelligens) som avlägset. OpenAI:s ChatGPT och GPT-4, tillsammans med liknande AI från deras konkurrenter, omkullkastar dock de gamla tidtabellerna. Den omfattande rapporten om GPT-4:s prestanda som Microsoft nyligen släppte talar om ”gnistor av AGI”, och osäkerheten om vart detta leder är stor, men AGI kan mycket väl ligga runt hörnet.

Mänskligheten befinner sig i ett unikt skede där vi är i färd med att automatisera just den egenskap som ligger bakom vår dominans på planeten: intelligensen. Då behöver vi ha säkerställt att maskinen har rätt drivkrafter, men detta arbete ligger efter och försummas av OpenAI och deras konkurrenter, till följd av den stress som deras tävlan om marknadsdominans ger upphov till, menar Olle Häggström.

-Det finns en kapplöpningsdynamik här där OpenAI å ena sidan, och Google å andra sidan, tävlar om marknadsdominans, det är enorma summor på spel… det skapar osunda marknadsincitament som gör att de rusar framåt okontrollerat, säger Olle Häggström. 

I dokumentationen om GPT-4 medger OpenAI att riskerna är stora. De skriver att den kritiska nivå då den på egen hand kan påbörja systematisk resursanskaffning ”troligen” inte har uppnåtts och att ”mer forskning behövs”. Olle Häggström tycker att det behövs överenskommelser om att lugna ned tempot.

-Vi behöver förbereda oss på möjligheten att den här tekniken kan komma väldigt snabbt. Alignment-forskningen måste få en rimlig chans att hinna i kapp. För om vi misslyckas med det – då kan det gå hur illa som helst, säger Olle Häggström.