p(doom)

Tudi: p-doom, pdoom, verjetnost pogube, probability of doom

Okrajšava za osebno oceno verjetnosti, da bo UI privedla do katastrofe, kot je izumrtje človeštva.

»p(doom)« se zapiše kot verjetnost v matematiki: verjetnost pogube (»doom«). Začelo se je okoli leta 2009 kot šaljiva okrajšava med poznavalci na forumu LessWrong in se močno razširilo po izidu GPT-4 leta 2023, ko je »kakšen je tvoj p(doom)?« postalo običajno vprašanje za vsakogar, ki gradi ali preučuje UI.

AI Safety Atlas ga opredeljuje kot »subjektivno verjetnost, da bo umetna inteligenca povzročila eksistencialno katastrofalne posledice za človeštvo«. Odgovori se izjemno razlikujejo. Atlas navaja objavljene ocene od 0 % (vlagatelj Marc Andreessen) in pod 0,01 % (raziskovalec UI Yann LeCun) prek 10–20 % in 20 % (pionirja UI Geoffrey Hinton in Yoshua Bengio) do več kot 95 % (Eliezer Yudkowsky iz MIRI). Izvršni direktor podjetja Anthropic Dario Amodei je naveden z 10–25 %. V največji raziskavi med raziskovalci UI jih je od 38 % do 51 % pripisalo vsaj 10-odstotno verjetnost posledicam, ki so tako hude kot izumrtje človeštva.

Kaj p(doom) ni: meritev. Ni »nobene standardizirane metodologije«, kot pravi Atlas, ljudje pa z »doom« in s časovnim obdobjem mislijo različne stvari. Številke pa kažejo, da mnogi, ki UI poznajo najbolje, katastrofo vidijo kot resnično možnost, ne kot znanstveno fantastiko. Za primerjavo: malokdo bi stopil na letalo, ki ima 10-odstotno verjetnost strmoglavljenja.