Kapløbsdynamik

Når virksomheder og lande konkurrerer om at bygge den mest magtfulde AI først, bliver hver enkelt presset til at skære hjørner af på sikkerheden.

Et kapløb opstår, når det betyder så meget at være først, at alle sætter farten op. AI Safety Atlas beskriver AI-udviklingen som stadig mere lig en konkurrence, hvor »vinderen tager det hele«, og hvor »konkurrencepres systematisk undergraver investeringer i sikkerhed, når fart giver afgørende fordele«. Center for AI Safety regner »AI-kapløbet« blandt de fire hovedkilder til katastrofal AI-risiko, fordi konkurrence kan »tvinge aktører til at tage usikre AI’er i brug eller overlade kontrollen til AI’er«.

Det er et kollektivt handlingsproblem: Hver virksomhed ville måske foretrække at gå mere forsigtigt frem, men frygter, at det at sætte farten ned blot overlader føringen til en mindre forsigtig rival. Samme logik gælder mellem lande. Atlas sammenligner med medicin, hvor regulering og ansvar gør et kapløb mod bunden på sikkerhed sjældent, og bemærker, at AI hidtil har haft lidt af begge dele.

Derfor handler mange foreslåede løsninger om koordinering frem for teknologi: fælles regler som EU’s AI-forordning, uafhængig test før lancering, internationale aftaler eller en pause. I marts 2023 bad Future of Life Institutes åbne brev AI-laboratorier om at sætte træningen af systemer, der er stærkere end GPT-4, på pause i mindst seks måneder. Der kom ingen pause.