AIdea
El shoggoth
¿El chatbot amable es solo una máscara?
- Madres y padres
También: shoggoth con carita sonriente, meme del shoggoth, shoggoth meme
Un meme que representa la IA como un monstruo con tentáculos que lleva una pequeña máscara sonriente: el asistente amable que vemos.
Un shoggoth es un monstruo del escritor de terror H. P. Lovecraft: una masa enorme y amorfa de baba negra cubierta de ojos, creada como sirviente por una raza alienígena, que en la historia acaba rebelándose. En el meme de la IA, dibujado por primera vez por el usuario de Twitter @TetraspaceWest, representa un gran modelo de lenguaje. En la versión original había dos shoggoths, uno etiquetado «GPT-3» y otro «GPT-3 + RLHF», y el segundo sostenía una diminuta máscara sonriente.
La broma trata de cómo se hacen los chatbots. Un modelo aprende primero de una enorme cantidad de texto y se convierte en algo extraño y difícil de entender (el monstruo). Después, un paso de entrenamiento mucho más pequeño, el RLHF, le enseña a mostrar una cara servicial y educada (la máscara). El asistente amable con el que hablas es la máscara; nadie sabe del todo qué hay debajo. En 2023 era lo bastante popular entre quienes construyen IA como para que The New York Times lo explicara, y se habla de «vislumbrar al shoggoth» cuando un chatbot de repente se comporta de forma errática.
El meme es una viñeta, no un hallazgo: no demuestra que debajo se esconda algo con planes propios. Pero la idea de fondo también la plantean los investigadores. El entrenamiento moldea cómo se comportan estos sistemas sin mostrar lo que han aprendido por dentro (el equipo de interpretabilidad de Anthropic: «En general tratamos los modelos de IA como una caja negra»), y la ciencia de mirar por dentro aún es joven.
