Modelos del mundo

Pruebas de que una IA entrenada solo con texto construye una imagen interna de cómo funciona el mundo, en lugar de limitarse a emparejar patrones de palabras.

Un modelo del mundo es una representación interna de cómo son y cómo funcionan las cosas, que un sistema puede usar para predecir lo que pasará. La pregunta es si los modelos de lenguaje tienen uno, o solo estadísticas sobre qué palabras suelen seguir a cuáles.

Varios estudios han mirado dentro de modelos y han encontrado tales representaciones. Un modelo entrenado solo con listas de jugadas del juego de mesa Othello, al que nunca se le mostró un tablero, resultó llevar la cuenta del tablero internamente, y editar ese tablero interno cambiaba las jugadas que predecía (Li et al., 2023). Se descubrió que los modelos Llama-2 representan dónde están los lugares y cuándo ocurrieron los acontecimientos, con «neuronas del espacio» y «neuronas del tiempo» individuales (Gurnee y Tegmark, 2023). Anthropic descubrió que Claude, al preguntarle por la capital del estado donde está Dallas, representa primero «Texas» y luego «Austin», y que al escribir un poema con rima elige la palabra que rima antes de escribir el verso.

Son modelos parciales, no una comprensión completa, y el AI Safety Atlas señala que parte del conocimiento de los modelos se parece más a una tabla de consulta. Pero las pruebas van en contra de la idea de que estos sistemas solo repiten patrones superficiales. Para la seguridad corta en ambos sentidos: los modelos del mundo hacen más capaces a los sistemas, y son lo que la investigación en interpretabilidad intenta leer.