Gamla metoder kan göra AI mer pålitligt

– Sedan ChatGPT lanserades 2023 har många beskrivit stora språkmodeller som 'intelligenta', med 'gnistor' av artificiell generell intelligens. Men bilden av AI som tänker själv och lär sig som människor stämmer inte ännu. Det krävs andra angreppssätt för att träna AI-verktyg om de ska bli mer pålitliga, säger Rishi Hazra.

Att skilja mellan hype och verklighet blir särskilt viktigt i takt med att AI-system i allt högre grad används inom planering, beslutsfattande och identifiering av säkerhetsbrister – områden där korrekt resonemang är avgörande. Stora språkmodeller anpassar sig efter mönster – de resonerar inte på riktigt.

Begränsningar i dagens system

– Inom datavetenskap kallas detta för 'Clever Hans-effekten', uppkallad efter en häst i början av 1900-talet som man trodde kunde lösa matteproblem. Det visade sig senare att hästen bara svarade på signaler från sin tränare. På samma sätt förlitar sig dagens språkmodeller på mönster i träningsdata – de resonerar inte egentligen, säger Rishi Hazra.

Rishi Hazras forskning lyfter fram begränsningarna hos dagens modeller och pekar mot en mer tillförlitlig, säker och trovärdig AI – där dagens språkmodeller kombineras med beprövade, klassiska AI-verktyg. Klassiska metoder och språkmodeller kompletterar varandra och ger bättre resultat i områden som kräver resonemang, till exempel robotik.

Gammaldags metoder kompletterar

– Dagens språkmodeller kan kombineras med 'gammaldags' metoder från datavetenskapen som erbjuder en noggrannhet som språkmodellerna själva inte kan uppnå. Traditionella AI-verktyg kräver mycket manuellt arbete och är svårare att skala upp, men tillsammans med stora språkmodeller kan de fungera mycket bra, förklarar Rishi Hazra.

Hans forskning bidrar till AI-agenter som kan arbeta självständigt och ta sig an olösta forskningsproblem. Rishi Hazra forskar i Centrum för tillämpade autonoma sensorsystem (AASS) vid Örebro universitet och ingår även i företaget Metas grupp för "AI Research Agents", där han arbetar med utveckling av modeller för hur AI-verktyg kan bedriva forskning självständigt.

Mer information: Rishi Hazra, forskare vid Örebro universitet: +46 734767094 eller +44 7353117994, e-post: rishi.hazra@oru.se