p(doom)

Também: p-doom, pdoom, probabilidade de catástrofe, probability of doom

Abreviatura para a estimativa pessoal de alguém sobre a probabilidade de a IA levar a uma catástrofe, como a extinção humana.

«p(doom)» escreve-se como uma probabilidade em matemática: a probabilidade da desgraça («doom»). Começou como uma abreviatura entre iniciados no fórum LessWrong por volta de 2009 e espalhou-se muito depois do lançamento do GPT-4 em 2023, quando «qual é o teu p(doom)?» se tornou uma pergunta obrigatória para quem constrói ou estuda IA.

O AI Safety Atlas define-o como «a probabilidade subjetiva de a inteligência artificial causar resultados existencialmente catastróficos para a humanidade». As respostas variam enormemente. O Atlas lista estimativas publicadas que vão de 0% (o investidor Marc Andreessen) e menos de 0,01% (o investigador de IA Yann LeCun), passando por 10–20% e 20% (os pioneiros da IA Geoffrey Hinton e Yoshua Bengio), até mais de 95% (Eliezer Yudkowsky, do MIRI). O CEO da Anthropic, Dario Amodei, aparece com 10–25%. No maior inquérito a investigadores de IA, entre 38% e 51% atribuíram pelo menos 10% de probabilidade a resultados tão graves como a extinção humana.

O que um p(doom) não é: uma medição. Não existe «nenhuma metodologia padronizada», como diz o Atlas, e as pessoas entendem coisas diferentes por «doom» e pelo horizonte temporal. O que os números mostram é que muitas das pessoas que melhor conhecem a IA veem uma catástrofe como uma possibilidade real, não ficção científica. Para comparação, pouca gente entraria num avião com 10% de probabilidade de se despenhar.