p(doom)

Freisin: p-doom, pdoom, dóchúlacht an léirscriosta, probability of doom

Gearrfhoirm do mheastachán pearsanta duine ar an seans go dtiocfaidh tubaiste as IS, ar nós díothú an chine dhaonna.

Scríobhtar “p(doom)” mar a scríobhtar dóchúlacht sa mhatamaitic: dóchúlacht an léirscriosta (“doom”). Thosaigh sé mar ghearrfhoirm ghrinn i measc lucht an fhóraim LessWrong timpeall 2009, agus scaip sé go forleathan tar éis do GPT-4 teacht amach in 2023, nuair a tháinig “cad é do p(doom)?” chun bheith ina cheist chaighdeánach do dhuine ar bith a thógann nó a dhéanann staidéar ar IS.

Sainmhíníonn an AI Safety Atlas é mar “an dóchúlacht shuibiachtúil go mbeidh torthaí atá tubaisteach go heiseach don chine daonna ag an intleacht shaorga”. Tá difríocht ollmhór idir na freagraí. Liostaíonn an Atlas meastacháin fhoilsithe ó 0% (an t-infheisteoir Marc Andreessen) agus faoi 0.01% (an taighdeoir IS Yann LeCun), trí 10–20% agus 20% (ceannródaithe IS Geoffrey Hinton agus Yoshua Bengio), go dtí os cionn 95% (Eliezer Yudkowsky ó MIRI). Tá Dario Amodei, POF Anthropic, liostaithe ag 10–25%. Sa suirbhé is mó de thaighdeoirí IS, thug idir 38% agus 51% díobh seans 10% ar a laghad do thorthaí chomh dona le díothú an chine dhaonna.

An rud nach bhfuil i p(doom): tomhas. Níl “aon mhodheolaíocht chaighdeánaithe” ann, mar a deir an Atlas, agus ciallaíonn daoine rudaí éagsúla le “doom” agus leis an tréimhse ama. Ach léiríonn na figiúirí go measann go leor de na daoine is fearr a thuigeann IS gur fíor-fhéidearthacht í tubaiste, ní ficsean eolaíochta. Mar chomparáid, is beag duine a rachadh ar bord eitleáin a bhfuil seans 10% ann go dtuairteálfaidh sé.