Auto-miglioramento ricorsivo

Programmatori, programmatore, programmatrice, sviluppatore, sviluppatrice, informatico, informatica, ingegnere del software, codice, Scienziati e ricercatori, scienziato, scienziata, ricercatore, ricercatrice, ricerca, accademico, laboratorio

Un’IA che aiuta a costruire un’IA migliore, che a sua volta ne costruisce una ancora migliore, in un circolo di retroazione che potrebbe accelerare il progresso in modo drastico.

La maggior parte delle tecnologie non migliora da sola. L’IA potrebbe farlo: progettare e addestrare sistemi di IA è di per sé lavoro intellettuale, e se l’IA diventa brava in quel lavoro, ogni generazione potrebbe aiutare a costruire la successiva, più potente. L’AI Safety Atlas lo descrive come «un sistema di IA diventa più bravo a migliorare sé stesso», un circolo di retroazione che continua ad accelerare. L’idea risale allo statistico I. J. Good, che nel 1965 sostenne che una macchina più intelligente di noi potrebbe progettare macchine ancora migliori, portando a un’«esplosione di intelligenza».

Quanto velocemente girerebbe un circolo del genere è controverso. Nel quadro del «decollo rapido» sfugge di mano in fretta, lasciando poco tempo per reagire. In quello del «decollo lento» il progresso cresce più gradualmente, ma secondo una stima comunque da 10 a 100 volte più velocemente della rivoluzione industriale. L’Atlas nota che la differenza spesso si riduce a capire se i problemi sarebbero individuabili e correggibili in tempo. Scenari come AI 2027 trattano l’IA che fa ricerca sull’IA come il punto di svolta.

Conta per la sicurezza perché un circolo rapido riduce il tempo per accorgersi dei problemi e correggerli. Il codice di buone pratiche dell’UE per i modelli di IA più capaci elenca l’«auto-miglioramento» e l’IA che «crea o migliora autonomamente modelli di IA» tra i modi in cui gli esseri umani potrebbero perderne il controllo.