Racedynamiek

Als bedrijven en landen concurreren om als eerste de krachtigste AI te bouwen, wordt ieder van hen gedwongen te beknibbelen op veiligheid.

Er is een race als eerste zijn zo belangrijk is dat iedereen versnelt. De AI Safety Atlas beschrijft AI-ontwikkeling als steeds meer een wedstrijd waarin ‘de winnaar alles krijgt’, waarin ‘concurrentiedruk investeringen in veiligheid systematisch ondermijnt wanneer snelheid beslissende voordelen oplevert’. Het Center for AI Safety rekent de ‘AI-race’ tot de vier belangrijkste bronnen van catastrofaal AI-risico, omdat concurrentie ‘actoren kan dwingen onveilige AI’s in te zetten of de controle aan AI’s af te staan’.

Het is een probleem van collectief handelen: elk bedrijf zou misschien liever voorzichtiger te werk gaan, maar vreest dat afremmen alleen de voorsprong overdraagt aan een minder voorzichtige rivaal. Dezelfde logica geldt tussen landen. De Atlas vergelijkt het met geneesmiddelen, waar regelgeving en aansprakelijkheid een race naar de bodem op het gebied van veiligheid zeldzaam maken, en merkt op dat AI tot nu toe van beide weinig heeft gehad.

Daarom gaan veel voorgestelde oplossingen over coördinatie in plaats van technologie: gedeelde regels zoals de AI-verordening van de EU, onafhankelijke tests vóór de lancering, internationale afspraken of een pauze. In maart 2023 vroeg de open brief van het Future of Life Institute AI-labs om het trainen van systemen die krachtiger zijn dan GPT-4 minstens zes maanden te pauzeren. Er kwam geen pauze.