Riskju eżistenzjali

Ir-riskju li IA avvanzata tikkawża l-estinzjoni tal-bniedem, jew telf daqstant permanenti tal-futur tal-umanità.

Riskju eżistenzjali huwa wieħed li jista’ jtemm l-umanità jew iħassar il-futur tagħha b’mod permanenti. L-AI Safety Atlas jittrattah bħala t-tarf l-aktar serju ta’ firxa ta’ ħsarat mill-IA, u x-xenarji li jkopri jinkludu l-estinzjoni tal-bniedem, l-umanità titlef b’mod permanenti l-poter fuq il-futur tagħha stess, u l-kollass taċ-ċiviltà.

Mhuwiex tħassib marġinali. Fl-2023, mijiet ta’ riċerkaturi tal-IA u l-kapijiet ta’ OpenAI, Google DeepMind u Anthropic iffirmaw dikjarazzjoni ta’ sentenza waħda: “It-tnaqqis tar-riskju ta’ estinzjoni mill-IA għandu jkun prijorità globali flimkien ma’ riskji oħra fuq skala soċjetali bħall-pandemiji u l-gwerra nukleari.” Fl-akbar stħarriġ ta’ riċerkaturi tal-IA s’issa (2,778 persuna li jippubblikaw f’konferenzi ewlenin tal-IA), bejn 38% u 51% taw mill-inqas 10% ċans li IA avvanzata twassal għal riżultati daqshekk ħżiena daqs l-estinzjoni tal-bniedem.

Hemm diversi toroq li jwasslu hemm. L-Atlas jissortjahom skont il-kawża: użu ħażin (nies li jużaw l-IA biex jagħmlu l-ħsara), nuqqas ta’ allinjament (IA li ssegwi għanijiet li ħadd ma ried) u riskji sistemiċi li jakkumulaw fis-soċjetà, aggravati minn “amplifikaturi tar-riskju” bħat-tellieqa bejn kumpaniji u pajjiżi. Il-ħajta komuni hija li l-ħsara tista’ ma tkunx tista’ tissewwa wara, allura trid tiġi evitata minn qabel.