p(doom)

También: p-doom, pdoom, probabilidad de catástrofe, probability of doom

Abreviatura de la estimación personal de alguien sobre la probabilidad de que la IA lleve a una catástrofe, como la extinción humana.

«p(doom)» se escribe como una probabilidad en matemáticas: la probabilidad de la perdición («doom»). Empezó como una abreviatura entre iniciados en el foro LessWrong hacia 2009 y se extendió mucho tras la llegada de GPT-4 en 2023, cuando «¿cuál es tu p(doom)?» se convirtió en una pregunta obligada para cualquiera que construya o estudie IA.

El AI Safety Atlas lo define como «la probabilidad subjetiva de que la inteligencia artificial cause resultados existencialmente catastróficos para la humanidad». Las respuestas varían enormemente. El Atlas recoge estimaciones publicadas que van del 0 % (el inversor Marc Andreessen) y menos del 0,01 % (el investigador de IA Yann LeCun), pasando por el 10–20 % y el 20 % (los pioneros de la IA Geoffrey Hinton y Yoshua Bengio), hasta más del 95 % (Eliezer Yudkowsky, del MIRI). El director ejecutivo de Anthropic, Dario Amodei, figura con un 10–25 %. En la mayor encuesta a investigadores de IA, entre el 38 % y el 51 % dieron al menos un 10 % de probabilidad a resultados tan graves como la extinción humana.

Lo que un p(doom) no es: una medición. «No hay una metodología estandarizada», como dice el Atlas, y cada cual entiende cosas distintas por «doom» y por el plazo. Lo que sí muestran las cifras es que muchas de las personas que mejor conocen la IA consideran una catástrofe una posibilidad real, no ciencia ficción. A modo de comparación, poca gente subiría a un avión con un 10 % de probabilidad de estrellarse.