p(doom)

Ukoll: p-doom, pdoom, probabbiltà tal-qerda, probability of doom

Qosor għall-istima personali ta’ xi ħadd tal-probabbiltà li l-IA twassal għal katastrofi, bħall-estinzjoni tal-bniedem.

“p(doom)” jinkiteb bħal probabbiltà fil-matematika: il-probabbiltà tal-qerda (“doom”). Beda bħala qosor bejn dawk minn ġewwa fuq il-forum LessWrong madwar l-2009, u nfirex ħafna wara li ħareġ GPT-4 fl-2023, meta “x’inhu l-p(doom) tiegħek?” saret mistoqsija standard għal kull min jibni jew jistudja l-IA.

L-AI Safety Atlas jiddefinixxih bħala “il-probabbiltà suġġettiva li l-intelliġenza artifiċjali tikkawża riżultati katastrofiċi b’mod eżistenzjali għall-umanità”. It-tweġibiet ivarjaw ħafna. L-Atlas jelenka stimi ppubblikati minn 0% (l-investitur Marc Andreessen) u taħt 0.01% (ir-riċerkatur tal-IA Yann LeCun), għal 10–20% u 20% (il-pijunieri tal-IA Geoffrey Hinton u Yoshua Bengio), sa aktar minn 95% (Eliezer Yudkowsky ta’ MIRI). Il-Kap Eżekuttiv ta’ Anthropic, Dario Amodei, huwa elenkat b’10–25%. Fl-akbar stħarriġ ta’ riċerkaturi tal-IA, bejn 38% u 51% taw mill-inqas 10% ċans lil riżultati daqshekk ħżiena daqs l-estinzjoni tal-bniedem.

Dak li p(doom) mhuwiex: kejl. M’hemm “l-ebda metodoloġija standardizzata”, kif jgħid l-Atlas, u n-nies ifissru affarijiet differenti b’“doom” u bil-perjodu ta’ żmien. Iżda dak li juru n-numri huwa li ħafna minn dawk li jafu l-IA l-aħjar iqisu katastrofi bħala possibbiltà reali, mhux fantaxjenza. Biex tqabbel, ftit nies jitilgħu fuq ajruplan b’10% ċans li jiġġarraf.