Dinâmica de corrida

Quando empresas e países competem para construir primeiro a IA mais poderosa, cada um é empurrado a cortar na segurança.

Há uma corrida quando chegar primeiro importa tanto que todos aceleram. O AI Safety Atlas descreve o desenvolvimento da IA como cada vez mais parecido com uma competição em que «o vencedor leva tudo», na qual «as pressões competitivas minam sistematicamente os investimentos em segurança quando a velocidade dá vantagens decisivas». O Center for AI Safety conta a «corrida à IA» entre as quatro principais fontes de risco catastrófico da IA, porque a concorrência pode «obrigar os atores a implementar IA inseguras ou a ceder o controlo às IA».

É um problema de ação coletiva: cada empresa talvez preferisse avançar com mais cuidado, mas teme que abrandar só entregue a liderança a um rival menos cuidadoso. A mesma lógica aplica-se entre países. O Atlas compara-o com os medicamentos, onde a regulação e a responsabilidade tornam rara uma corrida para o fundo em segurança, e nota que a IA teve até agora pouco de ambas.

É por isso que muitas das soluções propostas têm a ver com coordenação e não com tecnologia: regras comuns como o Regulamento da IA da UE, testes independentes antes do lançamento, acordos internacionais ou uma pausa. Em março de 2023, a carta aberta do Future of Life Institute pediu aos laboratórios de IA que pausassem durante pelo menos seis meses o treino de sistemas mais poderosos do que o GPT-4. Não houve pausa.