AIdea
Der Shoggoth
Ist der freundliche Chatbot nur eine Maske?
- Eltern
Auch: Shoggoth mit Smiley, Shoggoth-Meme, shoggoth meme
Ein Meme, das KI als Tentakelmonster mit einer kleinen Smiley-Maske zeigt: dem freundlichen Assistenten, den wir sehen.
Ein Shoggoth ist ein Monster des Horrorautors H. P. Lovecraft: eine riesige, formlose Masse aus schwarzem Schleim voller Augen, von einer außerirdischen Rasse als Diener erschaffen, die in der Geschichte schließlich rebelliert. Im KI-Meme, zuerst gezeichnet vom Twitter-Nutzer @TetraspaceWest, steht er für ein großes Sprachmodell. In der ursprünglichen Version gab es zwei Shoggoths, einen mit der Aufschrift „GPT-3“ und einen mit „GPT-3 + RLHF“, der zweite hält eine winzige Smiley-Maske hoch.
Der Witz handelt davon, wie Chatbots gemacht werden. Ein Modell lernt zuerst aus riesigen Textmengen und wird zu etwas Seltsamem, schwer zu Verstehendem (das Monster). Dann bringt ihm ein viel kleinerer Trainingsschritt, RLHF, bei, ein hilfsbereites, höfliches Gesicht zu zeigen (die Maske). Der freundliche Assistent, mit dem du sprichst, ist die Maske; niemand weiß genau, was darunter ist. 2023 war das Meme unter Menschen, die KI bauen, so verbreitet, dass die New York Times es erklärte, und man spricht davon, „den Shoggoth zu erblicken“, wenn sich ein Chatbot plötzlich unberechenbar verhält.
Das Meme ist ein Cartoon, kein Befund: Es zeigt nicht, dass sich darunter etwas mit eigenen Plänen versteckt. Aber der Punkt dahinter ist einer, den auch Forschende machen. Training formt, wie sich diese Systeme verhalten, ohne zu zeigen, was sie innerlich gelernt haben (Anthropics Interpretierbarkeitsteam: „Wir behandeln KI-Modelle meist als Blackbox“), und die Wissenschaft des Hineinschauens ist noch jung.
