p(doom)

Más néven: p-doom, pdoom, a végzet valószínűsége, probability of doom

Rövidítés arra, hogy valaki személyesen mekkorára becsüli annak esélyét, hogy az MI katasztrófához, például az emberiség kihalásához vezet.

A „p(doom)” úgy van leírva, mint egy valószínűség a matematikában: a végzet („doom”) valószínűsége. 2009 körül a LessWrong fórumon bennfentes rövidítésként indult, és a GPT-4 2023-as megjelenése után terjedt el széles körben, amikor a „mennyi a p(doom)-od?” alapkérdéssé vált mindenkinek, aki MI-t épít vagy kutat.

Az AI Safety Atlas úgy határozza meg, mint „annak szubjektív valószínűségét, hogy a mesterséges intelligencia egzisztenciálisan katasztrofális következményekkel jár az emberiségre nézve”. A válaszok óriási mértékben eltérnek. Az Atlas olyan közzétett becsléseket sorol fel, amelyek 0%-tól (Marc Andreessen befektető) és 0,01% alattitól (Yann LeCun MI-kutató) 10–20%-on és 20%-on át (Geoffrey Hinton és Yoshua Bengio MI-úttörők) egészen 95% fölöttiig (Eliezer Yudkowsky a MIRI-től) terjednek. Az Anthropic vezérigazgatója, Dario Amodei 10–25%-kal szerepel. Az MI-kutatók körében végzett legnagyobb felmérésben 38% és 51% közötti arányuk legalább 10% esélyt adott az emberiség kihalásához hasonlóan súlyos következményeknek.

Ami a p(doom) nem: mérés. „Nincs szabványos módszertan”, ahogy az Atlas fogalmaz, és az emberek mást értenek „doom” alatt és az időtávon is. A számok viszont azt mutatják, hogy az MI-t legjobban ismerők közül sokan valódi lehetőségnek tartják a katasztrófát, nem tudományos fantasztikumnak. Összehasonlításképp: kevesen szállnának fel egy olyan repülőre, amely 10% eséllyel lezuhan.