Shoggothen

Forældre, forælder, mor, far, familie, børn

Også: shoggoth med smiley, shoggoth-meme, shoggoth meme

Et meme, der viser AI som et monster med tentakler, der bærer en lille smiley-maske: den venlige assistent, vi ser.

En shoggoth er et monster fra gyserforfatteren H. P. Lovecraft: en enorm, formløs masse sort slim dækket af øjne, skabt som tjener af en fremmed race, og som i historien til sidst gør oprør. I AI-memet, først tegnet af Twitter-brugeren @TetraspaceWest, står den for en stor sprogmodel. I den oprindelige udgave var der to shoggother, den ene mærket »GPT-3« og den anden »GPT-3 + RLHF«, hvor den anden holder en lillebitte smiley-maske op.

Joken handler om, hvordan chatbots bliver lavet. En model lærer først af en enorm mængde tekst og bliver til noget mærkeligt og svært at forstå (monsteret). Derefter lærer et meget mindre træningstrin, RLHF, den at vise et hjælpsomt, høfligt ansigt (masken). Den venlige assistent, du taler med, er masken; ingen ved helt, hvad der er nedenunder. I 2023 var memet så populært blandt folk, der bygger AI, at The New York Times forklarede det, og man taler om at »skimte shoggothen«, når en chatbot pludselig opfører sig uberegneligt.

Memet er en tegning, ikke et forskningsresultat: Det viser ikke, at noget med egne planer gemmer sig nedenunder. Men pointen bag er en, forskere også fremfører. Træning former, hvordan disse systemer opfører sig, uden at vise, hvad de har lært indeni (Anthropics team for fortolkelighed: »Vi behandler for det meste AI-modeller som en sort boks«), og videnskaben om at kigge indenfor er stadig ung.