p(doom)

Također: p-doom, pdoom, vjerojatnost propasti, probability of doom

Skraćenica za nečiju osobnu procjenu vjerojatnosti da će UI dovesti do katastrofe, poput izumiranja čovječanstva.

„p(doom)” se piše kao vjerojatnost u matematici: vjerojatnost propasti („doom”). Počelo je oko 2009. kao šaljiva skraćenica upućenih na forumu LessWrong i široko se proširilo nakon izlaska GPT-4 2023., kad je „koliki je tvoj p(doom)?” postalo uobičajeno pitanje za svakoga tko gradi ili proučava UI.

AI Safety Atlas definira ga kao „subjektivnu vjerojatnost da će umjetna inteligencija prouzročiti egzistencijalno katastrofalne ishode za čovječanstvo”. Odgovori se golemo razlikuju. Atlas navodi objavljene procjene od 0 % (investitor Marc Andreessen) i ispod 0,01 % (istraživač UI-ja Yann LeCun), preko 10–20 % i 20 % (pioniri UI-ja Geoffrey Hinton i Yoshua Bengio), do više od 95 % (Eliezer Yudkowsky iz MIRI-ja). Izvršni direktor Anthropica Dario Amodei naveden je s 10–25 %. U najvećem istraživanju među istraživačima UI-ja njih od 38 % do 51 % pripisalo je barem 10 % vjerojatnosti ishodima jednako lošima kao izumiranje čovječanstva.

Što p(doom) nije: mjerenje. Ne postoji „nikakva standardizirana metodologija”, kako kaže Atlas, a ljudi pod „doom” i pod vremenskim okvirom misle različite stvari. Ali brojke pokazuju da mnogi koji UI najbolje poznaju katastrofu vide kao stvarnu mogućnost, a ne znanstvenu fantastiku. Za usporedbu, malo tko bi ušao u zrakoplov s 10 % vjerojatnosti pada.