Pretekárska dynamika

Keď firmy a štáty súperia o to, kto prvý postaví najmocnejšiu AI, je každý tlačený k tomu, aby šetril na bezpečnosti.

Preteky sú, keď na prvenstve záleží tak veľmi, že všetci zrýchľujú. AI Safety Atlas opisuje vývoj AI ako čoraz podobnejší súťaži, kde „víťaz berie všetko“ a kde „konkurenčné tlaky systematicky podkopávajú investície do bezpečnosti, keď rýchlosť prináša rozhodujúce výhody“. Center for AI Safety radí „preteky v AI“ medzi štyri hlavné zdroje katastrofických rizík AI, pretože konkurencia môže „donútiť aktérov nasadzovať nebezpečné AI alebo odovzdať kontrolu AI“.

Je to problém kolektívneho konania: každá firma by možno radšej postupovala opatrnejšie, ale bojí sa, že spomalenie len odovzdá náskok menej opatrnému rivalovi. Rovnaká logika platí medzi štátmi. Atlas to porovnáva s liekmi, kde regulácia a zodpovednosť robia preteky ku dnu v bezpečnosti zriedkavými, a poznamenáva, že AI zatiaľ nemala veľa ani jedného.

Preto sa mnohé navrhované riešenia týkajú koordinácie, a nie technológie: spoločné pravidlá ako akt EÚ o umelej inteligencii, nezávislé testy pred uvedením na trh, medzinárodné dohody alebo prestávka. V marci 2023 otvorený list Future of Life Institute vyzval laboratóriá AI, aby najmenej na šesť mesiacov pozastavili trénovanie systémov výkonnejších ako GPT-4. K žiadnej prestávke nedošlo.