Dynamika wyścigu

Gdy firmy i państwa rywalizują o to, kto pierwszy zbuduje najpotężniejszą AI, każdy jest popychany do oszczędzania na bezpieczeństwie.

Wyścig to sytuacja, w której bycie pierwszym ma tak duże znaczenie, że wszyscy przyspieszają. AI Safety Atlas opisuje rozwój AI jako coraz bardziej przypominający rywalizację, w której „zwycięzca bierze wszystko”, gdzie „presja konkurencyjna systematycznie podkopuje inwestycje w bezpieczeństwo, gdy szybkość daje decydującą przewagę”. Center for AI Safety zalicza „wyścig AI” do czterech głównych źródeł katastrofalnego ryzyka związanego z AI, bo konkurencja może „zmusić podmioty do wdrażania niebezpiecznych AI lub oddania kontroli AI”.

To problem działania zbiorowego: każda firma może wolałaby postępować ostrożniej, ale obawia się, że zwolnienie tylko odda prowadzenie mniej ostrożnemu rywalowi. Ta sama logika działa między państwami. Atlas porównuje to z lekami, gdzie regulacje i odpowiedzialność prawna sprawiają, że wyścig w dół w kwestii bezpieczeństwa jest rzadki, i zauważa, że AI jak dotąd miała niewiele jednego i drugiego.

Dlatego wiele proponowanych rozwiązań dotyczy koordynacji, a nie technologii: wspólnych zasad, takich jak unijny akt o sztucznej inteligencji, niezależnych testów przed wprowadzeniem na rynek, porozumień międzynarodowych albo przerwy. W marcu 2023 roku list otwarty Future of Life Institute wezwał laboratoria AI do wstrzymania na co najmniej sześć miesięcy trenowania systemów potężniejszych niż GPT-4. Do przerwy nie doszło.