Шогот

Родители, родител, майка, мама, баща, татко, семейство, деца

Още: шогот с усмихната физиономия, мем с шогот, shoggoth meme

Мем, който представя ИИ като чудовище с пипала, носещо малка маска с усмихната физиономия: дружелюбния асистент, когото виждаме.

Шоготът е чудовище на писателя на ужаси Х. П. Лъвкрафт: огромна безформена маса от черна слуз, покрита с очи, създадена като слуга от извънземна раса, която в историята накрая се разбунтува. В мема за ИИ, нарисуван за първи път от потребителя на Twitter @TetraspaceWest, той представлява голям езиков модел. В оригиналната версия има два шогота, единият с надпис „GPT-3“, а другият с „GPT-3 + RLHF“, като вторият държи мъничка маска с усмихната физиономия.

Шегата е за това как се правят чатботовете. Моделът първо се учи от огромно количество текст и се превръща в нещо странно и трудно за разбиране (чудовището). После много по-малка стъпка от обучението, RLHF, го научава да показва услужливо, учтиво лице (маската). Дружелюбният асистент, с когото говориш, е маската; никой не знае напълно какво има отдолу. До 2023 г. мемът беше толкова популярен сред хората, които създават ИИ, че The New York Times го обясни, а за „зърване на шогота“ се говори, когато чатбот изведнъж започне да се държи непредсказуемо.

Мемът е карикатура, а не откритие: той не показва, че отдолу се крие нещо със собствени планове. Но идеята зад него се споделя и от изследователите. Обучението оформя поведението на тези системи, без да показва какво са научили вътрешно (екипът на Anthropic по интерпретируемост: „Най-често третираме моделите на ИИ като черна кутия“), а науката за надникване вътре е още млада.