Capacidades emergentes

Programadores, programador, programadora, desarrollador, desarrolladora, ingeniero de software, informático, informática, código, Escritores y periodistas, escritor, escritora, autor, autora, periodista, editor, editora, traductor, traductora, medios, noticias

Habilidades que aparecen en modelos de IA más grandes sin que nadie las programe, a veces de golpe y difíciles de predecir.

Nadie le enseña a un modelo de lenguaje aritmética, traducción o programación habilidad por habilidad. Sus creadores lo entrenan para predecir texto, lo hacen más grande y descubren después lo que sabe hacer. Un artículo de 2022 de investigadores de Google y otros centros llamaba «emergente» a una habilidad si «no está presente en modelos más pequeños pero sí en modelos más grandes», es decir, que no se podía predecir extrapolando a partir de modelos más pequeños.

Cuán repentinos son de verdad estos saltos es objeto de debate. Un artículo de 2023 sostenía que muchos se deben a cómo se puntúan las pruebas: con una puntuación de todo o nada, la mejora parece brusca, mientras que con medidas que dan crédito parcial suele ser gradual y predecible. Ambas partes coinciden en lo que importa para la seguridad: las nuevas habilidades surgen de la escala y no del diseño, así que los creadores de un modelo descubren lo que puede hacer probándolo después de construirlo.

Por eso importan las pruebas antes del lanzamiento, y por eso los modelos siguen sorprendiendo incluso a sus propios desarrolladores. El AI Safety Atlas señala que las capacidades de la IA «han sorprendido sistemáticamente a los expertos durante más de una década».