Dinamika utrke

Kad se tvrtke i države natječu tko će prvi izgraditi najmoćniju UI, svatko je gurnut da štedi na sigurnosti.

Utrka je kad je biti prvi toliko važno da svi ubrzavaju. AI Safety Atlas opisuje razvoj UI-ja kao sve sličniji natjecanju u kojem „pobjednik uzima sve”, gdje „konkurentski pritisci sustavno potkopavaju ulaganja u sigurnost kad brzina donosi odlučujuće prednosti”. Center for AI Safety ubraja „utrku u UI-ju” među četiri glavna izvora katastrofalnog rizika od UI-ja, jer konkurencija može „prisiliti aktere da uvode nesigurne sustave UI-ja ili prepuste kontrolu UI-ju”.

To je problem kolektivnog djelovanja: svaka bi tvrtka možda radije postupala opreznije, ali se boji da bi usporavanje samo predalo vodstvo manje opreznom suparniku. Ista logika vrijedi među državama. Atlas to uspoređuje s lijekovima, gdje regulacija i odgovornost čine utrku prema dnu u pogledu sigurnosti rijetkom, i napominje da UI dosad nije imala mnogo ni jednog ni drugog.

Zato se mnoga predložena rješenja odnose na koordinaciju, a ne na tehnologiju: zajednička pravila poput Akta EU-a o umjetnoj inteligenciji, neovisno testiranje prije objavljivanja, međunarodni sporazumi ili stanka. U ožujku 2023. otvoreno pismo Future of Life Institutea pozvalo je laboratorije UI-ja da najmanje šest mjeseci obustave treniranje sustava moćnijih od GPT-4. Stanke nije bilo.