AIdea
p(doom)
Kuinka todennäköistä on, että tekoälyn kanssa käy huonosti?
Myös: p-doom, pdoom, tuhon todennäköisyys, probability of doom
Lyhenne jonkun henkilökohtaiselle arviolle siitä, kuinka todennäköisesti tekoäly johtaa katastrofiin, kuten ihmiskunnan sukupuuttoon.
”p(doom)” kirjoitetaan kuin todennäköisyys matematiikassa: tuhon (”doom”) todennäköisyys. Se syntyi sisäpiirin lyhenteeksi LessWrong-foorumilla noin vuonna 2009 ja levisi laajalle GPT-4:n julkaisun jälkeen vuonna 2023, kun kysymyksestä ”mikä on sinun p(doom)?” tuli vakiokysymys kaikille, jotka rakentavat tai tutkivat tekoälyä.
AI Safety Atlas määrittelee sen ”subjektiiviseksi todennäköisyydeksi sille, että tekoäly aiheuttaa ihmiskunnalle eksistentiaalisesti katastrofaalisia seurauksia”. Vastaukset vaihtelevat valtavasti. Atlas luettelee julkaistuja arvioita 0 %:sta (sijoittaja Marc Andreessen) ja alle 0,01 %:sta (tekoälytutkija Yann LeCun) 10–20 %:n ja 20 %:n kautta (tekoälyn uranuurtajat Geoffrey Hinton ja Yoshua Bengio) yli 95 %:iin (Eliezer Yudkowsky MIRIstä). Anthropicin toimitusjohtaja Dario Amodei mainitaan 10–25 %:lla. Suurimmassa tekoälytutkijoille tehdyssä kyselyssä 38–51 % heistä antoi vähintään 10 %:n todennäköisyyden ihmiskunnan sukupuuton kaltaisille seurauksille.
Mitä p(doom) ei ole: mittaus. ”Standardoitua menetelmää ei ole”, kuten Atlas toteaa, ja ihmiset tarkoittavat eri asioita sanalla ”doom” ja aikajänteellä. Luvut kuitenkin osoittavat, että moni tekoälyn parhaiten tunteva pitää katastrofia todellisena mahdollisuutena eikä tieteisfiktiona. Vertailun vuoksi harva nousisi lentokoneeseen, jolla on 10 %:n todennäköisyys pudota.
