Sacensības dinamika

Kad uzņēmumi un valstis sacenšas, kurš pirmais izveidos visspēcīgāko MI, ikviens tiek spiests taupīt uz drošības rēķina.

Sacensība ir tad, kad būt pirmajam ir tik svarīgi, ka visi paātrinās. AI Safety Atlas apraksta MI attīstību kā arvien līdzīgāku sacensībai, kurā “uzvarētājs iegūst visu”, kur “konkurences spiediens sistemātiski grauj ieguldījumus drošībā, ja ātrums dod izšķirošas priekšrocības”. Center for AI Safety “MI sacensību” uzskata par vienu no četriem galvenajiem katastrofāla MI riska avotiem, jo konkurence var “piespiest dalībniekus ieviest nedrošus MI vai nodot kontroli MI”.

Tā ir kolektīvas rīcības problēma: katrs uzņēmums varbūt gribētu rīkoties piesardzīgāk, bet baidās, ka palēnināšanās tikai atdos vadību mazāk piesardzīgam sāncensim. Tā pati loģika darbojas starp valstīm. Atlas to salīdzina ar zālēm, kur regulējums un atbildība padara drošības sacensību uz leju retu, un norāda, ka MI līdz šim nav bijis daudz ne viena, ne otra.

Tāpēc daudzi piedāvātie risinājumi attiecas uz koordināciju, nevis tehnoloģiju: kopīgi noteikumi, piemēram, ES MI akts, neatkarīga testēšana pirms laišanas klajā, starptautiski nolīgumi vai pauze. 2023. gada martā Future of Life Institute atklātā vēstulē MI laboratorijas tika aicinātas vismaz uz sešiem mēnešiem apturēt par GPT-4 jaudīgāku sistēmu apmācību. Pauzes nebija.