AIdea
De shoggoth
Is de vriendelijke chatbot alleen een masker?
- Ouders
Ook: shoggoth met smiley, shoggoth-meme, shoggoth meme
Een meme die AI afbeeldt als een monster met tentakels dat een klein smileymasker draagt: de vriendelijke assistent die wij zien.
Een shoggoth is een monster van horrorschrijver H. P. Lovecraft: een enorme, vormeloze massa zwarte drab vol ogen, door een buitenaards ras als dienaar geschapen, die in het verhaal uiteindelijk in opstand komt. In de AI-meme, voor het eerst getekend door Twitter-gebruiker @TetraspaceWest, staat hij voor een groot taalmodel. In de oorspronkelijke versie waren er twee shoggoths, een met het label ‘GPT-3’ en een met ‘GPT-3 + RLHF’, waarbij de tweede een piepklein smileymasker omhooghoudt.
De grap gaat over hoe chatbots worden gemaakt. Een model leert eerst van een enorme hoeveelheid tekst en wordt iets vreemds en moeilijk te begrijpen (het monster). Daarna leert een veel kleinere trainingsstap, RLHF, het een behulpzaam, beleefd gezicht te tonen (het masker). De vriendelijke assistent met wie je praat, is het masker; niemand weet precies wat eronder zit. In 2023 was de meme onder mensen die AI bouwen zo populair dat The New York Times hem uitlegde, en men spreekt van ‘een glimp van de shoggoth opvangen’ als een chatbot zich ineens grillig gedraagt.
De meme is een cartoon, geen bevinding: hij laat niet zien dat er iets met eigen plannen onder schuilgaat. Maar het punt erachter maken onderzoekers ook. Training vormt hoe deze systemen zich gedragen zonder te laten zien wat ze vanbinnen hebben geleerd (het interpreteerbaarheidsteam van Anthropic: ‘We behandelen AI-modellen grotendeels als een black box’), en de wetenschap van naar binnen kijken is nog jong.
