AIdea
Shoggoth
Je li ljubazni chatbot samo maska?
- Roditelji
Također: shoggoth sa smajlićem, mem sa shoggothom, shoggoth meme
Mem koji UI prikazuje kao čudovište s pipcima koje nosi malu masku smajlića: ljubaznog asistenta kojeg vidimo.
Shoggoth je čudovište pisca horora H. P. Lovecrafta: golema, bezoblična masa crne sluzi prekrivena očima, koju je kao slugu stvorila izvanzemaljska rasa i koja se u priči na kraju pobuni. U memu o UI-ju, koji je prvi nacrtao korisnik Twittera @TetraspaceWest, predstavlja veliki jezični model. U izvornoj verziji bila su dva shoggotha, jedan s oznakom „GPT-3” i drugi s „GPT-3 + RLHF”, pri čemu je drugi držao sićušnu masku smajlića.
Šala govori o tome kako nastaju chatbotovi. Model najprije uči iz goleme količine teksta i postaje nešto čudno i teško razumljivo (čudovište). Zatim ga mnogo manji korak treniranja, RLHF, nauči pokazivati uslužno, pristojno lice (maska). Ljubazni asistent s kojim razgovaraš jest maska; nitko zapravo ne zna što je ispod. Do 2023. mem je među ljudima koji grade UI bio toliko popularan da ga je objašnjavao The New York Times, a o „nazrijevanju shoggotha” govori se kad se chatbot odjednom počne ponašati nepredvidljivo.
Mem je karikatura, a ne otkriće: ne pokazuje da se ispod skriva nešto s vlastitim planovima. Ali misao iza njega iznose i istraživači. Treniranje oblikuje ponašanje tih sustava, a ne pokazuje što su naučili iznutra (Anthropicov tim za interpretabilnost: „Modele UI-ja uglavnom tretiramo kao crnu kutiju”), a znanost o zavirivanju unutra još je mlada.
