p(doom)

Arī: p-doom, pdoom, bojāejas varbūtība, probability of doom

Saīsinājums kāda personiskajai aplēsei par to, cik liela ir iespēja, ka MI novedīs pie katastrofas, piemēram, cilvēces izmiršanas.

“p(doom)” raksta kā varbūtību matemātikā: bojāejas (“doom”) varbūtība. Tas radās kā iekšējs saīsinājums forumā LessWrong ap 2009. gadu un plaši izplatījās pēc GPT-4 iznākšanas 2023. gadā, kad jautājums “kāds ir tavs p(doom)?” kļuva par ierastu jautājumu ikvienam, kas veido vai pēta MI.

AI Safety Atlas to definē kā “subjektīvu varbūtību, ka mākslīgais intelekts cilvēcei izraisīs eksistenciāli katastrofālas sekas”. Atbildes ļoti atšķiras. Atlas uzskaita publicētas aplēses no 0% (investors Marks Andresens) un mazāk nekā 0,01% (MI pētnieks Jans Lekuns) līdz 10–20% un 20% (MI pionieri Džefrijs Hintons un Jošua Bendžo) un vairāk nekā 95% (Eliezers Judkovskis no MIRI). Anthropic izpilddirektors Dario Amodejs minēts ar 10–25%. Lielākajā MI pētnieku aptaujā no 38% līdz 51% vismaz 10% varbūtību piešķīra sekām, kas ir tikpat smagas kā cilvēces izmiršana.

Kas p(doom) nav: mērījums. Nav “nekādas standartizētas metodoloģijas”, kā raksta Atlas, un cilvēki ar “doom” un laika apvārsni saprot dažādas lietas. Taču skaitļi rāda, ka daudzi no tiem, kas MI pazīst vislabāk, katastrofu uzskata par reālu iespēju, nevis zinātnisko fantastiku. Salīdzinājumam: maz kurš kāptu lidmašīnā, kurai ir 10% iespēja nogāzties.