p(doom)

Și: p-doom, pdoom, probabilitatea catastrofei, probability of doom

Prescurtare pentru estimarea personală a cuiva privind șansa ca IA să ducă la o catastrofă, cum ar fi dispariția omenirii.

„p(doom)” se scrie ca o probabilitate în matematică: probabilitatea pieirii („doom”). A început ca prescurtare între inițiați pe forumul LessWrong, în jurul lui 2009, și s-a răspândit larg după lansarea GPT-4 în 2023, când „care e p(doom)-ul tău?” a devenit o întrebare obișnuită pentru oricine construiește sau studiază IA.

AI Safety Atlas îl definește drept „probabilitatea subiectivă ca inteligența artificială să provoace consecințe existențial catastrofale pentru omenire”. Răspunsurile variază enorm. Atlas enumeră estimări publicate de la 0% (investitorul Marc Andreessen) și sub 0,01% (cercetătorul IA Yann LeCun), trecând prin 10–20% și 20% (pionierii IA Geoffrey Hinton și Yoshua Bengio), până la peste 95% (Eliezer Yudkowsky de la MIRI). CEO-ul Anthropic, Dario Amodei, figurează cu 10–25%. În cel mai mare sondaj printre cercetătorii IA, între 38% și 51% au acordat cel puțin 10% șanse unor consecințe la fel de grave ca dispariția omenirii.

Ce nu este un p(doom): o măsurătoare. Nu există „nicio metodologie standardizată”, cum spune Atlas, iar oamenii înțeleg lucruri diferite prin „doom” și prin orizontul de timp. Ce arată totuși cifrele este că mulți dintre cei care cunosc IA cel mai bine văd o catastrofă ca pe o posibilitate reală, nu ca pe science-fiction. Prin comparație, puțini oameni s-ar urca într-un avion cu 10% șanse să se prăbușească.