Dinámica de carrera

Cuando empresas y países compiten por construir primero la IA más poderosa, cada uno se ve empujado a recortar en seguridad.

Hay una carrera cuando llegar primero importa tanto que todos aceleran. El AI Safety Atlas describe el desarrollo de la IA como cada vez más parecido a una competición en la que «el ganador se lo lleva todo», donde «las presiones competitivas socavan sistemáticamente las inversiones en seguridad cuando la velocidad aporta ventajas decisivas». El Center for AI Safety cuenta la «carrera de la IA» entre las cuatro principales fuentes de riesgo catastrófico de la IA, porque la competencia puede «obligar a los actores a desplegar IA inseguras o a ceder el control a las IA».

Es un problema de acción colectiva: cada empresa quizá preferiría ir con más cuidado, pero teme que frenar solo le entregue la delantera a un rival menos cuidadoso. La misma lógica se aplica entre países. El Atlas lo compara con los medicamentos, donde la regulación y la responsabilidad legal hacen rara una carrera a la baja en seguridad, y señala que la IA hasta ahora ha tenido poco de ambas.

Por eso muchas de las soluciones propuestas tienen que ver con la coordinación más que con la tecnología: normas comunes como el Reglamento de IA de la UE, pruebas independientes antes del lanzamiento, acuerdos internacionales o una pausa. En marzo de 2023, la carta abierta del Future of Life Institute pidió a los laboratorios de IA que pausaran durante al menos seis meses el entrenamiento de sistemas más potentes que GPT-4. No hubo pausa.