AIdea
Shoggoth
Czy przyjazny chatbot to tylko maska?
- Rodzice
Także: shoggoth z buźką, mem z shoggothem, shoggoth meme
Mem przedstawiający AI jako potwora z mackami w małej masce z uśmiechniętą buźką: przyjaznym asystentem, którego widzimy.
Shoggoth to potwór z twórczości autora horrorów H. P. Lovecrafta: ogromna, bezkształtna masa czarnej mazi pokryta oczami, stworzona jako sługa przez obcą rasę, który w opowieści w końcu się buntuje. W memie o AI, narysowanym po raz pierwszy przez użytkownika Twittera @TetraspaceWest, symbolizuje duży model językowy. W oryginalnej wersji były dwa shoggothy, jeden podpisany „GPT-3”, a drugi „GPT-3 + RLHF”, przy czym ten drugi trzymał maleńką maskę z uśmiechniętą buźką.
Żart dotyczy tego, jak powstają chatboty. Model najpierw uczy się z ogromnej ilości tekstu i staje się czymś dziwnym i trudnym do zrozumienia (potwór). Potem znacznie mniejszy etap treningu, RLHF, uczy go pokazywać pomocną, uprzejmą twarz (maska). Przyjazny asystent, z którym rozmawiasz, to maska; nikt do końca nie wie, co jest pod spodem. W 2023 roku mem był na tyle popularny wśród ludzi budujących AI, że wyjaśniał go The New York Times, a o „dostrzeżeniu shoggotha” mówi się, gdy chatbot nagle zaczyna zachowywać się nieobliczalnie.
Mem to rysunek, a nie odkrycie: nie dowodzi, że pod spodem kryje się coś z własnymi planami. Ale myśl, która za nim stoi, głoszą też badacze. Trening kształtuje zachowanie tych systemów, nie pokazując, czego nauczyły się w środku (zespół Anthropic zajmujący się interpretowalnością: „Traktujemy modele AI przeważnie jak czarną skrzynkę”), a nauka o zaglądaniu do ich wnętrza jest wciąż młoda.
