p(doom)

Taip pat: p-doom, pdoom, pražūties tikimybė, probability of doom

Santrumpa, reiškianti asmeninį kieno nors įvertinimą, kokia tikimybė, kad DI sukels katastrofą, pavyzdžiui, žmonijos išnykimą.

„p(doom)“ užrašoma kaip tikimybė matematikoje: pražūties („doom“) tikimybė. Ji atsirado kaip vidinė santrumpa forume LessWrong apie 2009 m. ir plačiai paplito po to, kai 2023 m. pasirodė GPT-4, kai klausimas „koks tavo p(doom)?“ tapo įprastu kiekvienam, kuris kuria ar tiria DI.

AI Safety Atlas ją apibrėžia kaip „subjektyvią tikimybę, kad dirbtinis intelektas sukels žmonijai egzistenciškai katastrofiškų pasekmių“. Atsakymai labai skiriasi. Atlas pateikia paskelbtus įverčius nuo 0 % (investuotojas Marcas Andreessenas) ir mažiau nei 0,01 % (DI tyrėjas Yannas LeCunas), per 10–20 % ir 20 % (DI pradininkai Geoffrey Hintonas ir Yoshua Bengio), iki daugiau nei 95 % (Eliezeris Yudkowsky iš MIRI). Anthropic vadovas Dario Amodei nurodomas su 10–25 %. Didžiausioje DI tyrėjų apklausoje nuo 38 % iki 51 % jų skyrė bent 10 % tikimybę pasekmėms, tokioms pat blogoms kaip žmonijos išnykimas.

Kas p(doom) nėra: matavimas. Nėra „jokios standartizuotos metodikos“, kaip rašo Atlas, o žmonės „doom“ ir laikotarpį supranta skirtingai. Tačiau skaičiai rodo, kad daugelis geriausiai DI išmanančių žmonių katastrofą laiko realia galimybe, o ne mokslinę fantastiką. Palyginimui: retas liptų į lėktuvą, kuris su 10 % tikimybe sudužtų.