p(doom)

Ka: p-doom, pdoom, hukatuse tõenäosus, probability of doom

Lühend kellegi isikliku hinnangu kohta, kui tõenäoliselt viib tehisintellekt katastroofini, näiteks inimkonna väljasuremiseni.

„p(doom)“ kirjutatakse nagu tõenäosus matemaatikas: hukatuse („doom“) tõenäosus. See sai alguse siseringi lühendina foorumis LessWrong umbes 2009. aastal ja levis laialt pärast GPT-4 ilmumist 2023. aastal, kui küsimusest „kui suur on sinu p(doom)?“ sai tavaküsimus kõigile, kes tehisintellekti ehitavad või uurivad.

AI Safety Atlas määratleb selle kui „subjektiivse tõenäosuse, et tehisintellekt põhjustab inimkonnale eksistentsiaalselt katastroofilisi tagajärgi“. Vastused erinevad tohutult. Atlas loetleb avaldatud hinnanguid alates 0%-st (investor Marc Andreessen) ja alla 0,01% (tehisintellekti uurija Yann LeCun) üle 10–20% ja 20% (tehisintellekti teerajajad Geoffrey Hinton ja Yoshua Bengio) kuni üle 95% (Eliezer Yudkowsky MIRI-st). Anthropicu tegevjuht Dario Amodei on kirjas 10–25%-ga. Suurimas tehisintellekti uurijate küsitluses andsid 38–51% neist vähemalt 10% tõenäosuse tagajärgedele, mis on sama rasked kui inimkonna väljasuremine.

Mida p(doom) ei ole: mõõtmine. „Standardiseeritud metoodikat pole“, nagu Atlas ütleb, ja inimesed peavad sõna „doom“ ja ajahorisondi all silmas erinevaid asju. Arvud näitavad aga, et paljud tehisintellekti kõige paremini tundvad inimesed peavad katastroofi tõeliseks võimaluseks, mitte ulmeks. Võrdluseks: vähesed astuksid lennukisse, mis kukub 10% tõenäosusega alla.