AIdea
Shoggothen
Är den vänliga chattbotten bara en mask?
- Föräldrar
Även: shoggoth med smiley, shoggoth-meme, shoggoth meme
Ett meme som visar AI som ett monster med tentakler som bär en liten smileymask: den vänliga assistent vi ser.
En shoggoth är ett monster hos skräckförfattaren H. P. Lovecraft: en enorm, formlös massa svart slem täckt av ögon, skapad som tjänare av en utomjordisk ras, som i berättelsen till slut gör uppror. I AI-memet, först tecknat av Twitter-användaren @TetraspaceWest, står den för en stor språkmodell. I originalversionen fanns det två shoggothar, den ena märkt ”GPT-3” och den andra ”GPT-3 + RLHF”, där den andra håller upp en pytteliten smileymask.
Skämtet handlar om hur chattbottar görs. En modell lär sig först av en enorm mängd text och blir något märkligt och svårbegripligt (monstret). Sedan lär ett mycket mindre träningssteg, RLHF, den att visa ett hjälpsamt, artigt ansikte (masken). Den vänliga assistent du pratar med är masken; ingen vet riktigt vad som finns under. 2023 var memet så populärt bland dem som bygger AI att The New York Times förklarade det, och man talar om att ”skymta shoggothen” när en chattbott plötsligt beter sig oberäkneligt.
Memet är en teckning, inte ett forskningsresultat: det visar inte att något med egna planer gömmer sig därunder. Men poängen bakom det är en som forskare också gör. Träning formar hur systemen beter sig utan att visa vad de har lärt sig inuti (Anthropics team för tolkningsbarhet: ”Vi behandlar för det mesta AI-modeller som en svart låda”), och vetenskapen om att titta inuti är fortfarande ung.
