Shoggoth-ul

Părinți, părinte, mamă, mama, tată, tata, familie, copii

Și: shoggoth cu emoticon, meme-ul shoggoth, shoggoth meme

Un meme care înfățișează IA ca pe un monstru cu tentacule purtând o mică mască zâmbitoare: asistentul prietenos pe care îl vedem.

Un shoggoth este un monstru al scriitorului de groază H. P. Lovecraft: o masă uriașă și fără formă de mâzgă neagră acoperită de ochi, creată ca servitor de o rasă extraterestră, care în poveste se revoltă în cele din urmă. În meme-ul despre IA, desenat prima dată de utilizatorul de Twitter @TetraspaceWest, reprezintă un model mare de limbaj. În versiunea originală erau doi shoggothi, unul etichetat „GPT-3” și altul „GPT-3 + RLHF”, iar al doilea ținea în mână o mască minusculă zâmbitoare.

Gluma este despre cum se fac chatboturile. Un model învață mai întâi dintr-o cantitate uriașă de text și devine ceva ciudat și greu de înțeles (monstrul). Apoi un pas de antrenare mult mai mic, RLHF, îl învață să arate o față serviabilă și politicoasă (masca). Asistentul prietenos cu care vorbești este masca; nimeni nu știe cu adevărat ce e dedesubt. În 2023, meme-ul era destul de popular printre cei care construiesc IA încât The New York Times să-l explice, iar oamenii vorbesc despre „a zări shoggoth-ul” când un chatbot începe brusc să se poarte imprevizibil.

Meme-ul este o caricatură, nu o descoperire: nu arată că dedesubt se ascunde ceva cu planuri proprii. Dar ideea din spatele lui o susțin și cercetătorii. Antrenarea modelează comportamentul acestor sisteme fără să arate ce au învățat în interior (echipa de interpretabilitate a Anthropic: „Tratăm modelele IA în mare parte ca pe o cutie neagră”), iar știința de a privi înăuntru este încă tânără.