AIdea
Shoggoth
Je přátelský chatbot jen maska?
- Rodiče
Také: shoggoth se smajlíkem, meme se shoggothem, shoggoth meme
Meme, které zobrazuje AI jako chapadlovité monstrum s malou maskou smajlíka: přátelského asistenta, kterého vidíme.
Shoggoth je monstrum hororového spisovatele H. P. Lovecrafta: obrovská beztvará masa černého slizu pokrytá očima, kterou jako služebníka stvořila mimozemská rasa a která se v příběhu nakonec vzbouří. V meme o AI, které jako první nakreslil uživatel Twitteru @TetraspaceWest, představuje velký jazykový model. V původní verzi byli dva shoggothové, jeden s popiskem „GPT-3“ a druhý s „GPT-3 + RLHF“, přičemž ten druhý držel drobnou masku smajlíka.
Vtip je o tom, jak se chatboti vyrábějí. Model se nejprve učí z obrovského množství textu a stane se z něj něco podivného a těžko pochopitelného (monstrum). Pak ho mnohem menší krok tréninku, RLHF, naučí ukazovat ochotnou, zdvořilou tvář (maska). Přátelský asistent, se kterým mluvíš, je maska; nikdo úplně neví, co je pod ní. V roce 2023 bylo meme mezi lidmi, kteří vyvíjejí AI, natolik populární, že ho vysvětloval The New York Times, a o „zahlédnutí shoggotha“ se mluví, když se chatbot najednou začne chovat nevyzpytatelně.
Meme je kreslený vtip, ne vědecký poznatek: neukazuje, že se pod ním skrývá něco s vlastními plány. Ale myšlenku, která za ním stojí, zastávají i výzkumníci. Trénink formuje chování těchto systémů, aniž by ukázal, co se uvnitř naučily (tým Anthropic pro interpretovatelnost: „S modely AI většinou zacházíme jako s černou skříňkou“), a věda o nahlížení dovnitř je stále mladá.
