Závodní dynamika

Když firmy a státy soupeří o to, kdo první postaví nejmocnější AI, je každý tlačen k tomu, aby šetřil na bezpečnosti.

Závod je, když na prvenství záleží tolik, že všichni zrychlují. AI Safety Atlas popisuje vývoj AI jako čím dál podobnější soutěži, kde „vítěz bere vše“ a kde „konkurenční tlaky systematicky podkopávají investice do bezpečnosti, když rychlost přináší rozhodující výhody“. Center for AI Safety řadí „závod v AI“ mezi čtyři hlavní zdroje katastrofických rizik AI, protože konkurence může „donutit aktéry nasazovat nebezpečné AI nebo předat kontrolu AI“.

Je to problém kolektivního jednání: každá firma by možná raději postupovala opatrněji, ale bojí se, že zpomalení jen předá náskok méně opatrnému rivalovi. Stejná logika platí mezi státy. Atlas to srovnává s léky, kde regulace a odpovědnost činí závod ke dnu v bezpečnosti vzácným, a poznamenává, že AI zatím neměla mnoho ani jednoho.

Proto se mnohá navrhovaná řešení týkají koordinace, a ne technologie: společná pravidla jako akt EU o umělé inteligenci, nezávislé testy před uvedením na trh, mezinárodní dohody nebo pauza. V březnu 2023 otevřený dopis Future of Life Institute vyzval laboratoře AI, aby nejméně na šest měsíců pozastavily trénování systémů výkonnějších než GPT-4. K žádné pauze nedošlo.