p(doom)

Anche: p-doom, pdoom, probabilità di catastrofe, probability of doom

Abbreviazione per la stima personale della probabilità che l’IA porti a una catastrofe, come l’estinzione umana.

«p(doom)» si scrive come una probabilità in matematica: la probabilità della rovina («doom»). È nato come abbreviazione tra addetti ai lavori sul forum LessWrong intorno al 2009 e si è diffuso ampiamente dopo l’uscita di GPT-4 nel 2023, quando «qual è il tuo p(doom)?» è diventata una domanda di rito per chiunque costruisca o studi l’IA.

L’AI Safety Atlas lo definisce come «la probabilità soggettiva che l’intelligenza artificiale causi esiti esistenzialmente catastrofici per l’umanità». Le risposte variano enormemente. L’Atlas elenca stime pubblicate che vanno dallo 0% (l’investitore Marc Andreessen) e meno dello 0,01% (il ricercatore di IA Yann LeCun), passando per il 10–20% e il 20% (i pionieri dell’IA Geoffrey Hinton e Yoshua Bengio), fino a oltre il 95% (Eliezer Yudkowsky del MIRI). L’amministratore delegato di Anthropic, Dario Amodei, è indicato al 10–25%. Nel più grande sondaggio tra ricercatori di IA, tra il 38% e il 51% ha attribuito almeno il 10% di probabilità a esiti gravi quanto l’estinzione umana.

Che cosa non è un p(doom): una misurazione. Non esiste «nessuna metodologia standardizzata», come dice l’Atlas, e le persone intendono cose diverse per «doom» e per l’orizzonte temporale. Quello che i numeri mostrano, però, è che molte delle persone che conoscono meglio l’IA considerano una catastrofe una possibilità reale, non fantascienza. Per fare un paragone, poche persone salirebbero su un aereo con il 10% di probabilità di precipitare.