Dinamika tekme

Ko podjetja in države tekmujejo, kdo bo prvi zgradil najzmogljivejšo UI, je vsak potisnjen v varčevanje pri varnosti.

Tekma je, ko je biti prvi tako pomembno, da vsi pospešijo. AI Safety Atlas opisuje razvoj UI kot vse bolj podoben tekmovanju, v katerem »zmagovalec vzame vse« in v katerem »konkurenčni pritiski sistematično spodkopavajo naložbe v varnost, ko hitrost prinaša odločilne prednosti«. Center for AI Safety »tekmo v UI« šteje med štiri glavne vire katastrofalnih tveganj UI, saj lahko konkurenca »akterje prisili, da uvajajo nevarne sisteme UI ali predajo nadzor UI«.

To je problem kolektivnega delovanja: vsako podjetje bi morda raje ravnalo previdneje, a se boji, da bi upočasnitev le predala prednost manj previdnemu tekmecu. Ista logika velja med državami. Atlas to primerja z zdravili, kjer regulacija in odgovornost tekmo navzdol pri varnosti naredita redko, in ugotavlja, da UI doslej ni imela veliko ne enega ne drugega.

Zato se številne predlagane rešitve nanašajo na usklajevanje, ne na tehnologijo: skupna pravila, kot je akt EU o umetni inteligenci, neodvisni testi pred izdajo, mednarodni dogovori ali premor. Marca 2023 je odprto pismo Future of Life Institute laboratorije UI pozvalo, naj vsaj za šest mesecev ustavijo učenje sistemov, zmogljivejših od GPT-4. Do premora ni prišlo.