Динамика на надпреварата

Когато компании и държави се състезават кой пръв ще създаде най-мощния ИИ, всяка от тях е подтикната да пести от безопасността.

Надпревара има, когато да бъдеш пръв е толкова важно, че всички ускоряват. AI Safety Atlas описва развитието на ИИ като все по-сходно със състезание, в което „победителят взема всичко“, където „конкурентният натиск систематично подкопава инвестициите в безопасност, когато скоростта носи решаващи предимства“. Center for AI Safety причислява „надпреварата в ИИ“ към четирите основни източника на катастрофален риск от ИИ, защото конкуренцията може да „принуди участниците да внедряват опасни ИИ или да отстъпят контрола на ИИ“.

Това е проблем на колективното действие: всяка компания може би би предпочела да действа по-внимателно, но се страхува, че забавянето само ще даде преднина на по-малко внимателен съперник. Същата логика важи и между държавите. Atlas го сравнява с лекарствата, където регулацията и отговорността правят надпреварата към дъното по отношение на безопасността рядкост, и отбелязва, че досега ИИ е имал малко и от двете.

Затова много от предложените решения са свързани с координация, а не с технология: общи правила като Законодателния акт на ЕС за ИИ, независими тестове преди пускане, международни споразумения или пауза. През март 2023 г. отвореното писмо на Future of Life Institute призова лабораториите за ИИ да спрат поне за шест месеца обучението на системи, по-мощни от GPT-4. Пауза не последва.