AIdea
Shoggoth
Je priateľský chatbot len maska?
- Rodičia
Aj: shoggoth so smajlíkom, meme so shoggothom, shoggoth meme
Meme, ktoré zobrazuje AI ako chápadlové monštrum s malou maskou smajlíka: priateľského asistenta, ktorého vidíme.
Shoggoth je monštrum hororového spisovateľa H. P. Lovecrafta: obrovská beztvará masa čierneho slizu pokrytá očami, ktorú ako služobníka stvorila mimozemská rasa a ktorá sa v príbehu nakoniec vzbúri. V meme o AI, ktoré ako prvý nakreslil používateľ Twitteru @TetraspaceWest, predstavuje veľký jazykový model. V pôvodnej verzii boli dva shoggothy, jeden s popiskom „GPT-3“ a druhý s „GPT-3 + RLHF“, pričom ten druhý držal drobnú masku smajlíka.
Vtip je o tom, ako sa chatboty vyrábajú. Model sa najprv učí z obrovského množstva textu a stane sa z neho niečo zvláštne a ťažko pochopiteľné (monštrum). Potom ho oveľa menší krok tréningu, RLHF, naučí ukazovať ochotnú, zdvorilú tvár (maska). Priateľský asistent, s ktorým hovoríš, je maska; nikto celkom nevie, čo je pod ňou. V roku 2023 bolo meme medzi ľuďmi, ktorí vyvíjajú AI, také populárne, že ho vysvetľoval The New York Times, a o „zazretí shoggotha“ sa hovorí, keď sa chatbot zrazu začne správať nevyspytateľne.
Meme je kreslený vtip, nie vedecký poznatok: neukazuje, že sa pod ním skrýva niečo s vlastnými plánmi. Ale myšlienku, ktorá za ním stojí, zastávajú aj výskumníci. Tréning formuje správanie týchto systémov bez toho, aby ukázal, čo sa vnútri naučili (tím Anthropic pre interpretovateľnosť: „S modelmi AI väčšinou zaobchádzame ako s čiernou skrinkou“), a veda o nazeraní dovnútra je stále mladá.
