p(doom)

Aj: p-doom, pdoom, pravdepodobnosť záhuby, probability of doom

Skratka pre niečí osobný odhad pravdepodobnosti, že AI povedie ku katastrofe, napríklad k vyhynutiu ľudstva.

„p(doom)“ sa píše ako pravdepodobnosť v matematike: pravdepodobnosť záhuby („doom“). Začalo to okolo roku 2009 ako vtipná skratka zasvätených na fóre LessWrong a široko sa to rozšírilo po vydaní GPT-4 v roku 2023, keď sa „aké je tvoje p(doom)?“ stalo bežnou otázkou pre každého, kto AI vyvíja alebo skúma.

AI Safety Atlas ho definuje ako „subjektívnu pravdepodobnosť, že umelá inteligencia spôsobí ľudstvu existenčne katastrofálne následky“. Odpovede sa ohromne líšia. Atlas uvádza zverejnené odhady od 0 % (investor Marc Andreessen) a pod 0,01 % (výskumník AI Yann LeCun) cez 10 – 20 % a 20 % (priekopníci AI Geoffrey Hinton a Yoshua Bengio) až po viac ako 95 % (Eliezer Yudkowsky z MIRI). Generálny riaditeľ Anthropic Dario Amodei je uvedený s 10 – 25 %. V najväčšom prieskume medzi výskumníkmi AI pripísalo 38 % až 51 % z nich aspoň 10 % pravdepodobnosť následkom takým vážnym, ako je vyhynutie ľudstva.

Čo p(doom) nie je: meranie. Neexistuje „žiadna štandardizovaná metodika“, ako píše Atlas, a ľudia pod pojmom „doom“ aj pod časovým horizontom myslia rôzne veci. Čísla však ukazujú, že mnohí ľudia, ktorí AI poznajú najlepšie, považujú katastrofu za reálnu možnosť, nie za sci-fi. Pre porovnanie: máloktorý človek by nastúpil do lietadla, ktoré má 10 % pravdepodobnosť, že spadne.