Kapplöpningsdynamik

När företag och länder tävlar om att först bygga den mäktigaste AI:n pressas var och en att snåla på säkerheten.

En kapplöpning uppstår när det betyder så mycket att komma först att alla ökar farten. AI Safety Atlas beskriver AI-utvecklingen som alltmer lik en tävling där ”vinnaren tar allt”, där ”konkurrenstryck systematiskt undergräver investeringar i säkerhet när fart ger avgörande fördelar”. Center for AI Safety räknar ”AI-kapplöpningen” till de fyra huvudkällorna till katastrofal AI-risk, eftersom konkurrens kan ”tvinga aktörer att driftsätta osäkra AI:er eller lämna över kontrollen till AI:er”.

Det är ett kollektivt handlingsproblem: varje företag skulle kanske föredra att gå försiktigare fram, men fruktar att det bara lämnar över ledningen till en mindre försiktig rival om det saktar ner. Samma logik gäller mellan länder. Atlas jämför med läkemedel, där reglering och ansvar gör en kapplöpning mot botten i säkerhet ovanlig, och noterar att AI hittills haft lite av båda.

Därför handlar många föreslagna lösningar om samordning snarare än teknik: gemensamma regler som EU:s AI-förordning, oberoende tester före lansering, internationella avtal eller en paus. I mars 2023 bad Future of Life Institutes öppna brev AI-labb att pausa träningen av system kraftfullare än GPT-4 i minst sex månader. Ingen paus blev av.