Kilpajuoksun dynamiikka

Kun yritykset ja maat kilpailevat siitä, kuka rakentaa voimakkaimman tekoälyn ensimmäisenä, jokainen joutuu paineeseen tinkiä turvallisuudesta.

Kilpajuoksu syntyy, kun ensimmäisenä oleminen on niin tärkeää, että kaikki kiihdyttävät. AI Safety Atlas kuvaa tekoälyn kehitystä yhä enemmän kilpailuksi, jossa ”voittaja vie kaiken” ja jossa ”kilpailupaineet heikentävät järjestelmällisesti turvallisuusinvestointeja, kun nopeus tuo ratkaisevia etuja”. Center for AI Safety lukee ”tekoälykilpajuoksun” yhdeksi tekoälyn katastrofaalisten riskien neljästä päälähteestä, koska kilpailu voi ”pakottaa toimijat ottamaan käyttöön turvattomia tekoälyjä tai luovuttamaan hallinnan tekoälyille”.

Kyse on kollektiivisen toiminnan ongelmasta: kukin yritys ehkä mieluummin etenisi varovaisemmin, mutta pelkää, että hidastaminen vain luovuttaa johtoaseman vähemmän varovaiselle kilpailijalle. Sama logiikka pätee maiden välillä. Atlas vertaa tilannetta lääkkeisiin, joissa sääntely ja vastuu tekevät turvallisuuden pohjakilpailusta harvinaista, ja huomauttaa, että tekoälyllä on toistaiseksi ollut vähän kumpaakin.

Siksi monet ehdotetut ratkaisut koskevat koordinaatiota eivätkä teknologiaa: yhteiset säännöt kuten EU:n tekoälysäädös, riippumaton testaus ennen julkaisua, kansainväliset sopimukset tai tauko. Maaliskuussa 2023 Future of Life Instituten avoin kirje pyysi tekoälylaboratorioita keskeyttämään GPT-4:ää tehokkaampien järjestelmien koulutuksen vähintään kuudeksi kuukaudeksi. Taukoa ei tullut.