p(doom)

Ook: p-doom, pdoom, kans op ondergang, probability of doom

Afkorting voor iemands persoonlijke schatting van de kans dat AI tot een catastrofe leidt, zoals het uitsterven van de mensheid.

‘p(doom)’ wordt geschreven als een kans in de wiskunde: de kans op ondergang (‘doom’). Het begon rond 2009 als ingewijdenafkorting op het forum LessWrong en verspreidde zich breed nadat GPT-4 in 2023 uitkwam, toen ‘wat is jouw p(doom)?’ een standaardvraag werd voor iedereen die AI bouwt of bestudeert.

De AI Safety Atlas definieert het als ‘de subjectieve kans dat kunstmatige intelligentie existentieel catastrofale gevolgen voor de mensheid zal hebben’. De antwoorden lopen enorm uiteen. De Atlas noemt gepubliceerde schattingen van 0% (investeerder Marc Andreessen) en minder dan 0,01% (AI-onderzoeker Yann LeCun), via 10–20% en 20% (de AI-pioniers Geoffrey Hinton en Yoshua Bengio), tot meer dan 95% (Eliezer Yudkowsky van MIRI). Anthropic-topman Dario Amodei staat op 10–25%. In de grootste enquête onder AI-onderzoekers gaf tussen 38% en 51% minstens 10% kans op gevolgen die zo erg zijn als het uitsterven van de mensheid.

Wat een p(doom) niet is: een meting. Er is ‘geen gestandaardiseerde methodologie’, zoals de Atlas het zegt, en mensen bedoelen verschillende dingen met ‘doom’ en met de termijn. Wat de cijfers wel laten zien, is dat veel mensen die AI het best kennen een catastrofe als een reële mogelijkheid zien, geen sciencefiction. Ter vergelijking: weinig mensen zouden instappen in een vliegtuig met 10% kans op een crash.