AIdea
O shoggoth
O chatbot simpático é só uma máscara?
- Pais e mães
Também: shoggoth com smiley, meme do shoggoth, shoggoth meme
Um meme que mostra a IA como um monstro com tentáculos que usa uma pequena máscara sorridente: o assistente simpático que vemos.
Um shoggoth é um monstro do escritor de terror H. P. Lovecraft: uma massa enorme e informe de gosma negra coberta de olhos, criada como servo por uma raça alienígena e que, na história, acaba por se revoltar. No meme da IA, desenhado pela primeira vez pelo utilizador do Twitter @TetraspaceWest, representa um grande modelo de linguagem. Na versão original havia dois shoggoths, um com o rótulo «GPT-3» e outro com «GPT-3 + RLHF», e o segundo segurava uma minúscula máscara sorridente.
A piada é sobre a forma como os chatbots são feitos. Um modelo aprende primeiro com uma enorme quantidade de texto e torna-se algo estranho e difícil de compreender (o monstro). Depois, um passo de treino muito mais pequeno, o RLHF, ensina-o a mostrar uma cara prestável e educada (a máscara). O assistente simpático com quem fala é a máscara; ninguém sabe bem o que está por baixo. Em 2023, o meme era suficientemente popular entre quem constrói IA para o New York Times o explicar, e fala-se de «vislumbrar o shoggoth» quando um chatbot de repente se comporta de forma errática.
O meme é um cartoon, não uma descoberta: não mostra que algo com planos próprios se esconde por baixo. Mas a ideia por trás dele é uma que os investigadores também defendem. O treino molda o comportamento destes sistemas sem mostrar o que aprenderam por dentro (a equipa de interpretabilidade da Anthropic: «Tratamos sobretudo os modelos de IA como uma caixa negra»), e a ciência de olhar lá para dentro ainda é jovem.
