AIdea
Foom
¿Podría la IA mejorarse a sí misma tan rápido que no pudiéramos seguirle el ritmo?
También: explosión de inteligencia, despegue duro, despegue rápido, la singularidad, intelligence explosion, hard takeoff
La idea de que, una vez que la IA pueda mejorarse a sí misma, podría pasar muy rápido del nivel humano a superarnos con creces.
«Foom» es el sonido de algo que despega muy rápido. Se convirtió en el nombre de una «explosión de inteligencia» rápida en un debate en línea de 2008 entre el teórico de la IA Eliezer Yudkowsky y el economista Robin Hanson, sobre «si las IA de inteligencia general podrán mejorar sus propias capacidades muy rápidamente». La idea de fondo es más antigua: en 1965, el estadístico I. J. Good argumentó que una máquina más inteligente que nosotros podría diseñar máquinas aún mejores y desencadenar una «explosión de inteligencia».
El mecanismo es un bucle de retroalimentación. Si la IA se vuelve buena en el trabajo de construir IA, cada mejora hace que la siguiente llegue antes. El AI Safety Atlas usa «foom» como sinónimo de «despegue rápido» y «despegue duro». La postura contraria es un «despegue lento», en el que el progreso también se acumula, pero de forma más gradual; según una estimación que cita el Atlas, aun así entre 10 y 100 veces más rápido que la Revolución Industrial.
Cuál de los dos ocurra importa más de lo que parece. Como señala el Atlas, el desacuerdo suele reducirse a si los problemas serían «detectables y corregibles a tiempo». Un despegue rápido deja poco margen para detectar un error y corregirlo. Escenarios como AI 2027 ponen en el centro de su historia a la IA que hace investigación en IA, y el código de buenas prácticas de la UE para los modelos más capaces incluye la «automejora» de la IA entre las formas en que los humanos podrían perder el control.
