Eksistentsiaalne risk

Risk, et arenenud tehisintellekt põhjustab inimkonna väljasuremise või sama püsiva inimkonna tuleviku kaotuse.

Eksistentsiaalne risk on risk, mis võiks inimkonna hävitada või selle tuleviku jäädavalt rikkuda. AI Safety Atlas käsitleb seda tehisintellekti kahjude skaala kõige raskema otsana ning selle käsitletud stsenaariumide hulka kuuluvad inimkonna väljasuremine, inimkonna jäädav võimu kaotamine oma tuleviku üle ja tsivilisatsiooni kokkuvarisemine.

See ei ole äärealade mure. 2023. aastal allkirjastasid sajad tehisintellekti uurijad ning OpenAI, Google DeepMindi ja Anthropicu juhid üheainsa lausega avalduse: „Tehisintellektist tuleneva väljasuremisohu vähendamine peaks olema ülemaailmne prioriteet teiste ühiskonnamastaabis riskide, nagu pandeemiad ja tuumasõda, kõrval.“ Seni suurimas tehisintellekti uurijate küsitluses (2778 inimest, kes avaldavad juhtivatel tehisintellekti konverentsidel) andsid 38–51% vähemalt 10% tõenäosuse, et arenenud tehisintellekt viib inimkonna väljasuremisega võrreldavate tagajärgedeni.

Sinna viib mitu teed. Atlas jaotab need põhjuse järgi: väärkasutus (inimesed kasutavad tehisintellekti kahju tegemiseks), joondamatus (tehisintellekt taotleb eesmärke, mida keegi ei kavandanud) ja ühiskonnas kuhjuvad süsteemsed riskid, mida süvendavad „riskivõimendid“, nagu ettevõtete ja riikide võidujooks. Ühine joon on see, et kahju ei pruugi hiljem enam parandatav olla, mistõttu tuleb seda ette ära hoida.