Eksistentiaalinen riski

Riski, että kehittynyt tekoäly aiheuttaa ihmiskunnan sukupuuton tai yhtä pysyvän ihmiskunnan tulevaisuuden menetyksen.

Eksistentiaalinen riski on riski, joka voisi tuhota ihmiskunnan tai pilata sen tulevaisuuden pysyvästi. AI Safety Atlas käsittelee sitä tekoälyhaittojen kirjon vakavimpana päänä, ja sen kattamiin skenaarioihin kuuluvat ihmiskunnan sukupuutto, se, että ihmiskunta menettää pysyvästi vallan omaan tulevaisuuteensa, sekä sivilisaation romahdus.

Kyse ei ole marginaalisesta huolesta. Vuonna 2023 sadat tekoälytutkijat sekä OpenAI:n, Google DeepMindin ja Anthropicin johtajat allekirjoittivat yhden virkkeen julkilausuman: ”Tekoälyn aiheuttaman sukupuuton riskin pienentämisen pitäisi olla maailmanlaajuinen prioriteetti muiden yhteiskunnan mittakaavan riskien, kuten pandemioiden ja ydinsodan, rinnalla.” Tähänastisessa suurimmassa tekoälytutkijoille tehdyssä kyselyssä (2 778 henkeä, jotka julkaisevat johtavissa tekoälykonferensseissa) 38–51 % antoi vähintään 10 %:n todennäköisyyden sille, että kehittynyt tekoäly johtaa ihmiskunnan sukupuuton kaltaisiin seurauksiin.

Sinne johtaa useita teitä. Atlas jaottelee ne syyn mukaan: väärinkäyttö (ihmiset käyttävät tekoälyä vahingon tekemiseen), linjaamattomuus (tekoäly tavoittelee päämääriä, joita kukaan ei tarkoittanut) ja yhteiskuntaan kasautuvat järjestelmäriskit, joita pahentavat ”riskinvahvistimet”, kuten yritysten ja maiden välinen kilpajuoksu. Yhteinen tekijä on, että vahinkoa ei ehkä voi korjata jälkikäteen, joten se on estettävä etukäteen.