AIdea
Shoggoth
Je prijazni klepetalnik le maska?
- Starši
Tudi: shoggoth s smeškom, mem s shoggothom, shoggoth meme
Mem, ki UI prikazuje kot pošast z lovkami, ki nosi majhno masko smeška: prijaznega pomočnika, ki ga vidimo.
Shoggoth je pošast pisatelja grozljivk H. P. Lovecrafta: ogromna, brezoblična gmota črne sluzi, prekrita z očmi, ki jo je kot služabnika ustvarila nezemeljska rasa in se v zgodbi na koncu upre. V memu o UI, ki ga je prvi narisal uporabnik Twitterja @TetraspaceWest, predstavlja velik jezikovni model. V izvirni različici sta bila dva shoggotha, eden z oznako »GPT-3« in drugi z »GPT-3 + RLHF«, pri čemer je drugi držal drobceno masko smeška.
Šala govori o tem, kako nastajajo klepetalniki. Model se najprej uči iz ogromne količine besedila in postane nekaj čudnega in težko razumljivega (pošast). Nato ga veliko manjši korak učenja, RLHF, nauči kazati ustrežljiv, vljuden obraz (maska). Prijazni pomočnik, s katerim se pogovarjaš, je maska; nihče zares ne ve, kaj je pod njo. Leta 2023 je bil mem med ljudmi, ki gradijo UI, tako priljubljen, da ga je razložil The New York Times, o »bežnem pogledu na shoggotha« pa se govori, ko se klepetalnik nenadoma začne vesti nepredvidljivo.
Mem je karikatura, ne ugotovitev: ne dokazuje, da se pod njim skriva nekaj z lastnimi načrti. A misel za njim zagovarjajo tudi raziskovalci. Učenje oblikuje vedenje teh sistemov, ne da bi pokazalo, kaj so se naučili v notranjosti (Anthropicova ekipa za razložljivost: »Modele UI večinoma obravnavamo kot črno škatlo«), znanost o vpogledu v notranjost pa je še mlada.
