Lenktynių dinamika

Kai bendrovės ir valstybės varžosi, kas pirmas sukurs galingiausią DI, kiekviena yra stumiama taupyti saugumo sąskaita.

Lenktynės vyksta tada, kai būti pirmam taip svarbu, kad visi spartina. AI Safety Atlas apibūdina DI kūrimą kaip vis labiau primenantį varžybas, kuriose „nugalėtojas pasiima viską“, kur „konkurencinis spaudimas sistemingai menkina investicijas į saugumą, kai greitis suteikia lemiamų pranašumų“. Center for AI Safety „DI lenktynes“ priskiria prie keturių pagrindinių katastrofiškos DI rizikos šaltinių, nes konkurencija gali „priversti veikėjus diegti nesaugius DI arba perleisti kontrolę DI“.

Tai kolektyvinių veiksmų problema: kiekviena bendrovė galbūt norėtų elgtis atsargiau, bet baiminasi, kad sulėtinusi tik perleis pirmavimą mažiau atsargiam varžovui. Ta pati logika galioja ir tarp valstybių. Atlas tai lygina su vaistais, kur reguliavimas ir atsakomybė daro lenktynes į dugną saugumo srityje retas, ir pažymi, kad DI iki šiol turėjo mažai ir vieno, ir kito.

Todėl daugelis siūlomų sprendimų susiję su koordinavimu, o ne technologijomis: bendros taisyklės, tokios kaip ES dirbtinio intelekto aktas, nepriklausomi bandymai prieš išleidimą, tarptautiniai susitarimai arba pauzė. 2023 m. kovą Future of Life Institute atvirame laiške DI laboratorijos buvo paragintos bent šešiems mėnesiams sustabdyti galingesnių už GPT-4 sistemų mokymą. Pauzės nebuvo.