Modelos do mundo

Indícios de que uma IA treinada apenas com texto constrói uma imagem interna de como o mundo funciona, em vez de apenas combinar padrões de palavras.

Um modelo do mundo é uma representação interna de como as coisas são e funcionam, que um sistema pode usar para prever o que acontece a seguir. A questão é se os modelos de linguagem têm um, ou apenas estatísticas sobre que palavras costumam seguir-se a quais.

Vários estudos olharam para dentro de modelos e encontraram representações desse tipo. Um modelo treinado apenas com listas de jogadas do jogo de tabuleiro Othello, a quem nunca foi mostrado um tabuleiro, revelou acompanhar o tabuleiro internamente, e editar esse tabuleiro interno mudava as jogadas que previa (Li et al., 2023). Descobriu-se que os modelos Llama-2 representam onde ficam os lugares e quando aconteceram os acontecimentos, com «neurónios do espaço» e «neurónios do tempo» individuais (Gurnee e Tegmark, 2023). A Anthropic descobriu que o Claude, quando lhe perguntam qual é a capital do estado onde fica Dallas, representa primeiro «Texas» e depois «Austin», e que, ao escrever um poema com rima, escolhe a palavra que rima antes de escrever o verso.

São modelos parciais, não uma compreensão completa, e o AI Safety Atlas nota que algum conhecimento nos modelos se parece mais com uma tabela de consulta. Mas as provas contrariam a ideia de que estes sistemas apenas repetem padrões superficiais. Para a segurança corta nos dois sentidos: os modelos do mundo tornam os sistemas mais capazes, e são o que a investigação em interpretabilidade tenta ler.