Automejora recursiva

Programadores, programador, programadora, desarrollador, desarrolladora, ingeniero de software, informático, informática, código, Científicos e investigadores, científico, científica, investigador, investigadora, investigación, académico, laboratorio

Una IA que ayuda a construir una IA mejor, que a su vez construye otra aún mejor, en un bucle de retroalimentación que podría acelerar el progreso de forma drástica.

La mayoría de las tecnologías no se mejoran a sí mismas. La IA podría: diseñar y entrenar sistemas de IA es en sí un trabajo intelectual, y si la IA se vuelve buena en ese trabajo, cada generación podría ayudar a construir la siguiente, más potente. El AI Safety Atlas lo describe como «un sistema de IA se vuelve mejor en mejorarse a sí mismo», un bucle de retroalimentación que no deja de acelerarse. La idea se remonta al estadístico I. J. Good, que argumentó en 1965 que una máquina más inteligente que nosotros podría diseñar máquinas aún mejores, lo que llevaría a una «explosión de inteligencia».

Lo rápido que iría ese bucle es objeto de debate. En la visión del «despegue rápido» se desboca enseguida y deja poco tiempo para reaccionar. En la del «despegue lento», el progreso se acumula de forma más gradual, aunque según una estimación aun así entre 10 y 100 veces más rápido que la Revolución Industrial. El Atlas señala que la diferencia suele reducirse a si los problemas serían detectables y corregibles a tiempo. Escenarios como AI 2027 tratan la IA que hace investigación en IA como el punto de inflexión.

Importa para la seguridad porque un bucle rápido reduce el tiempo para detectar y corregir problemas. El código de buenas prácticas de la UE para los modelos de IA más capaces incluye la «automejora» y que la IA «cree o mejore modelos de IA de forma autónoma» entre las formas en que los humanos podrían perder el control.