AIdea
Lo shoggoth
Il chatbot amichevole è solo una maschera?
- Genitori
Anche: shoggoth con lo smile, meme dello shoggoth, shoggoth meme
Un meme che raffigura l’IA come un mostro tentacolare con una piccola maschera sorridente: l’assistente amichevole che vediamo.
Uno shoggoth è un mostro dello scrittore horror H. P. Lovecraft: un’enorme massa informe di melma nera coperta di occhi, creata come servitore da una razza aliena e che nel racconto alla fine si ribella. Nel meme sull’IA, disegnato per la prima volta dall’utente di Twitter @TetraspaceWest, rappresenta un grande modello linguistico. Nella versione originale c’erano due shoggoth, uno con l’etichetta «GPT-3» e uno con «GPT-3 + RLHF», e il secondo reggeva una minuscola maschera sorridente.
La battuta riguarda il modo in cui si costruiscono i chatbot. Un modello impara prima da un’enorme quantità di testo e diventa qualcosa di strano e difficile da capire (il mostro). Poi una fase di addestramento molto più piccola, l’RLHF, gli insegna a mostrare un volto disponibile ed educato (la maschera). L’assistente amichevole con cui parli è la maschera; nessuno sa davvero cosa ci sia sotto. Nel 2023 era abbastanza popolare tra chi costruisce l’IA da essere spiegato dal New York Times, e si parla di «intravedere lo shoggoth» quando un chatbot all’improvviso si comporta in modo imprevedibile.
Il meme è una vignetta, non una scoperta: non dimostra che sotto si nasconda qualcosa con piani propri. Ma l’idea che ci sta dietro la sostengono anche i ricercatori. L’addestramento plasma il comportamento di questi sistemi senza mostrare che cosa abbiano imparato al loro interno (il team di interpretabilità di Anthropic: «Per lo più trattiamo i modelli di IA come una scatola nera»), e la scienza del guardarci dentro è ancora giovane.
