AIdea
Šogotas
Ar draugiškas pokalbių robotas tėra kaukė?
- Tėvai
Taip pat: šogotas su šypsenėle, šogoto memas, shoggoth meme
Memas, vaizduojantis DI kaip čiuptuvėtą pabaisą, užsidėjusią mažą šypsenėlės kaukę: draugišką asistentą, kurį matome.
Šogotas – siaubo rašytojo H. P. Lovecrafto pabaisa: milžiniška, beformė juodos gleivės masė, aplipusi akimis, kurią kaip tarną sukūrė ateivių rasė ir kuri pasakojime galiausiai sukyla. DI meme, kurį pirmasis nupiešė „Twitter“ naudotojas @TetraspaceWest, jis vaizduoja didelį kalbos modelį. Pirminėje versijoje buvo du šogotai: vienas pažymėtas „GPT-3“, kitas – „GPT-3 + RLHF“, ir antrasis laiko iškėlęs mažytę šypsenėlės kaukę.
Juokas yra apie tai, kaip kuriami pokalbių robotai. Modelis pirmiausia mokosi iš milžiniško teksto kiekio ir tampa kažkuo keistu ir sunkiai suprantamu (pabaisa). Tada daug mažesnis mokymo žingsnis, RLHF, išmoko jį rodyti paslaugų, mandagų veidą (kaukė). Draugiškas asistentas, su kuriuo kalbi, yra kaukė; niekas tikrai nežino, kas po ja. 2023 m. memas tarp DI kūrėjų buvo toks populiarus, kad jį aiškino „The New York Times“, o apie „šogoto šmėstelėjimą“ kalbama, kai pokalbių robotas staiga pradeda elgtis nenuspėjamai.
Memas yra karikatūra, o ne tyrimo rezultatas: jis nerodo, kad po juo slepiasi kažkas su savais planais. Tačiau mintį, slypinčią už jo, išsako ir tyrėjai. Mokymas formuoja šių sistemų elgesį, neparodydamas, ko jos išmoko viduje (Anthropic interpretuojamumo komanda: „Dažniausiai DI modelius traktuojame kaip juodąją dėžę“), o mokslas apie žvilgsnį į vidų dar jaunas.
