Versenydinamika

Amikor cégek és országok azért versenyeznek, hogy elsőként építsék meg a legerősebb MI-t, mindegyiküket arra ösztönzi, hogy a biztonságon spóroljon.

Verseny akkor van, amikor az elsőség annyira számít, hogy mindenki gyorsít. Az AI Safety Atlas szerint az MI fejlesztése egyre inkább olyan versenyre hasonlít, ahol „a győztes mindent visz”, és ahol „a versenynyomás rendszeresen aláássa a biztonsági befektetéseket, amikor a gyorsaság döntő előnyt ad”. A Center for AI Safety az „MI-versenyt” a katasztrofális MI-kockázatok négy fő forrása közé sorolja, mert a verseny „arra kényszerítheti a szereplőket, hogy nem biztonságos MI-ket vezessenek be, vagy átadják az irányítást az MI-knek”.

Ez a kollektív cselekvés problémája: minden cég talán szívesebben haladna óvatosabban, de attól tart, hogy a lassítás csak egy kevésbé óvatos riválisnak adja át az előnyt. Ugyanez a logika érvényes az országok között is. Az Atlas a gyógyszerekhez hasonlítja, ahol a szabályozás és a felelősség ritkává teszi a biztonság terén zajló lefelé tartó versenyt, és megjegyzi, hogy az MI-nek eddig egyikből sem jutott sok.

Ezért sok javasolt megoldás inkább a koordinációról szól, mint a technológiáról: közös szabályok, mint az EU mesterségesintelligencia-rendelete, független tesztelés a bevezetés előtt, nemzetközi megállapodások vagy szünet. 2023 márciusában a Future of Life Institute nyílt levele arra kérte az MI-laborokat, hogy legalább hat hónapra függesszék fel a GPT-4-nél erősebb rendszerek tanítását. Szünet nem lett.