Capacità emergenti

Programmatori, programmatore, programmatrice, sviluppatore, sviluppatrice, informatico, informatica, ingegnere del software, codice, Scrittori e giornalisti, scrittore, scrittrice, autore, autrice, giornalista, redattore, redattrice, traduttore, traduttrice, media, notizie

Abilità che compaiono nei modelli di IA più grandi senza che nessuno le abbia programmate, a volte all’improvviso e difficili da prevedere.

Nessuno insegna a un modello linguistico l’aritmetica, la traduzione o la programmazione un’abilità alla volta. I suoi produttori lo addestrano a prevedere testo, lo ingrandiscono e scoprono dopo cosa sa fare. Un articolo del 2022 di ricercatori di Google e di altri centri definiva «emergente» un’abilità se «non è presente nei modelli più piccoli ma è presente in quelli più grandi», cioè se non si poteva prevedere estrapolando dai modelli più piccoli.

Quanto siano improvvisi davvero questi salti è oggetto di dibattito. Un articolo del 2023 sosteneva che molti dipendono da come vengono valutati i test: con un punteggio tutto o niente il miglioramento sembra brusco, mentre con misure che danno punti parziali è spesso graduale e prevedibile. Entrambe le parti concordano su ciò che conta per la sicurezza: le nuove abilità nascono dalla scala e non dalla progettazione, quindi i produttori di un modello scoprono cosa sa fare testandolo dopo averlo costruito.

Ecco perché contano i test prima del rilascio, e perché i modelli continuano a sorprendere persino i propri sviluppatori. L’AI Safety Atlas nota che le capacità dell’IA «hanno sorpreso costantemente gli esperti per oltre un decennio».