AIdeas
- AI 2027 Un’IA sovrumana potrebbe arrivare nel giro di pochi anni? Uno scenario dettagliato del 2025 su come l’IA potrebbe passare dai chatbot di oggi alla superintelligenza entro la fine del 2027, e su cosa potrebbe andare storto.
- Basta staccare la spina Perché non possiamo semplicemente spegnere un’IA pericolosa? La risposta comune secondo cui un’IA pericolosa si potrebbe sempre spegnere, e perché i ricercatori non pensano che sia così semplice.
- È solo un completamento automatico L’IA si limita a prevedere la parola successiva? L’idea che i chatbot siano solo una versione più grande dei suggerimenti di parole del tuo telefono, e che quindi non ci sia nulla di cui preoccuparsi.
- Foom L’IA potrebbe migliorarsi così in fretta da non permetterci di starle dietro? L’idea che, una volta in grado di migliorarsi da sola, l’IA potrebbe passare molto in fretta dal livello umano a ben oltre.
- La svolta a tradimento Un’IA potrebbe comportarsi bene finché non è abbastanza forte da non doverlo più fare? Lo scenario in cui un’IA si comporta bene finché è debole e sorvegliata, e cambia rotta quando non può più essere fermata.
- La tassa di allineamento Rendere sicura l’IA la rende più lenta o peggiore? Il costo in più, in denaro, tempo o prestazioni, per rendere un sistema di IA sicuro e non solo capace.
- Lo shoggoth Il chatbot amichevole è solo una maschera? Un meme che raffigura l’IA come un mostro tentacolare con una piccola maschera sorridente: l’assistente amichevole che vediamo.
- Massimizzatore di graffette Perché un obiettivo innocuo potrebbe essere pericoloso per un’IA potente? Un esperimento mentale su un’IA che persegue un obiettivo all’apparenza innocuo fino a estremi catastrofici.
- p(doom) Quanto è probabile che l’IA vada a finire male? Abbreviazione per la stima personale della probabilità che l’IA porti a una catastrofe, come l’estinzione umana.
- Pappagallo stocastico L’IA capisce qualcosa o ripete soltanto ciò che ha letto? L’affermazione che i modelli linguistici mettano insieme parole in base alla probabilità, senza alcuna comprensione del significato.
