p(doom)

Také: p-doom, pdoom, pravděpodobnost zkázy, probability of doom

Zkratka pro něčí osobní odhad pravděpodobnosti, že AI povede ke katastrofě, například k vyhynutí lidstva.

„p(doom)“ se píše jako pravděpodobnost v matematice: pravděpodobnost zkázy („doom“). Začalo to kolem roku 2009 jako vtipná zkratka zasvěcených na fóru LessWrong a široce se to rozšířilo po vydání GPT-4 v roce 2023, kdy se „jaké je tvoje p(doom)?“ stalo běžnou otázkou pro každého, kdo AI vyvíjí nebo zkoumá.

AI Safety Atlas ho definuje jako „subjektivní pravděpodobnost, že umělá inteligence způsobí lidstvu existenciálně katastrofální následky“. Odpovědi se ohromně liší. Atlas uvádí zveřejněné odhady od 0 % (investor Marc Andreessen) a pod 0,01 % (výzkumník AI Yann LeCun) přes 10–20 % a 20 % (průkopníci AI Geoffrey Hinton a Yoshua Bengio) až po více než 95 % (Eliezer Yudkowsky z MIRI). Generální ředitel Anthropic Dario Amodei je uveden s 10–25 %. V největším průzkumu mezi výzkumníky AI přisoudilo 38 % až 51 % z nich alespoň 10% pravděpodobnost následkům tak vážným, jako je vyhynutí lidstva.

Co p(doom) není: měření. Neexistuje „žádná standardizovaná metodika“, jak píše Atlas, a lidé pod pojmem „doom“ i pod časovým horizontem myslí různé věci. Čísla ale ukazují, že mnoho lidí, kteří AI znají nejlépe, považuje katastrofu za reálnou možnost, ne za sci-fi. Pro srovnání: málokdo by nastoupil do letadla, které má 10% pravděpodobnost, že spadne.