p(doom)

Også: p-doom, pdoom, sandsynlighed for undergang, probability of doom

Kortform for nogens personlige vurdering af chancen for, at AI fører til en katastrofe som menneskehedens udslettelse.

»p(doom)« skrives som en sandsynlighed i matematik: sandsynligheden for undergang (»doom«). Det begyndte som en intern spøg på forummet LessWrong omkring 2009 og bredte sig vidt efter lanceringen af GPT-4 i 2023, da »hvad er din p(doom)?« blev et standardspørgsmål til alle, der bygger eller studerer AI.

AI Safety Atlas definerer det som »den subjektive sandsynlighed for, at kunstig intelligens vil forårsage eksistentielt katastrofale konsekvenser for menneskeheden«. Svarene varierer enormt. Atlas oplister offentliggjorte estimater fra 0 % (investoren Marc Andreessen) og under 0,01 % (AI-forskeren Yann LeCun) over 10–20 % og 20 % (AI-pionererne Geoffrey Hinton og Yoshua Bengio) til over 95 % (Eliezer Yudkowsky fra MIRI). Anthropics topchef Dario Amodei er opført med 10–25 %. I den største undersøgelse blandt AI-forskere gav mellem 38 % og 51 % mindst 10 % sandsynlighed for konsekvenser, der er lige så slemme som menneskehedens udslettelse.

Hvad en p(doom) ikke er: en måling. Der findes »ingen standardiseret metode«, som Atlas skriver, og folk mener forskellige ting med »doom« og med tidshorisonten. Men tallene viser, at mange af dem, der kender AI bedst, ser en katastrofe som en reel mulighed, ikke science fiction. Til sammenligning ville de færreste stige på et fly med 10 % risiko for at styrte ned.