p(doom)

Także: p-doom, pdoom, prawdopodobieństwo zagłady, probability of doom

Skrót oznaczający czyjeś osobiste oszacowanie szansy, że AI doprowadzi do katastrofy, takiej jak wyginięcie ludzkości.

„p(doom)” zapisuje się jak prawdopodobieństwo w matematyce: prawdopodobieństwo zagłady („doom”). Zaczęło się około 2009 roku jako żartobliwy skrót wtajemniczonych na forum LessWrong i szeroko rozpowszechniło po premierze GPT-4 w 2023 roku, gdy „jakie jest twoje p(doom)?” stało się standardowym pytaniem do każdego, kto buduje lub bada AI.

AI Safety Atlas definiuje je jako „subiektywne prawdopodobieństwo, że sztuczna inteligencja doprowadzi do egzystencjalnie katastrofalnych skutków dla ludzkości”. Odpowiedzi ogromnie się różnią. Atlas wymienia opublikowane szacunki od 0% (inwestor Marc Andreessen) i poniżej 0,01% (badacz AI Yann LeCun), przez 10–20% i 20% (pionierzy AI Geoffrey Hinton i Yoshua Bengio), aż po ponad 95% (Eliezer Yudkowsky z MIRI). Prezes Anthropic Dario Amodei figuruje z wynikiem 10–25%. W największym badaniu ankietowym wśród badaczy AI od 38% do 51% przypisało co najmniej 10% szans skutkom tak poważnym jak wyginięcie ludzkości.

Czym p(doom) nie jest: pomiarem. Nie ma „żadnej ustandaryzowanej metodologii”, jak ujmuje to Atlas, a ludzie rozumieją przez „doom” i przez horyzont czasowy różne rzeczy. Liczby pokazują jednak, że wiele osób, które najlepiej znają AI, uważa katastrofę za realną możliwość, a nie science fiction. Dla porównania: mało kto wsiadłby do samolotu, który ma 10% szans na katastrofę.