Modele świata

Dowody na to, że AI trenowana wyłącznie na tekście buduje wewnętrzny obraz tego, jak działa świat, zamiast jedynie dopasowywać wzorce słów.

Model świata to wewnętrzna reprezentacja tego, jak rzeczy wyglądają i działają, której system może używać do przewidywania, co stanie się dalej. Pytanie brzmi, czy modele językowe mają taki model, czy tylko statystyki o tym, które słowa zwykle następują po których.

Kilka badań zajrzało do wnętrza modeli i znalazło takie reprezentacje. Model trenowany wyłącznie na listach ruchów w grze planszowej Othello, któremu nigdy nie pokazano planszy, okazał się śledzić planszę wewnętrznie, a edycja tej wewnętrznej planszy zmieniała przewidywane przez niego ruchy (Li i in., 2023). Stwierdzono, że modele Llama-2 reprezentują, gdzie leżą miejsca i kiedy miały miejsce wydarzenia, za pomocą pojedynczych „neuronów przestrzeni” i „neuronów czasu” (Gurnee i Tegmark, 2023). Anthropic odkrył, że Claude, zapytany o stolicę stanu, w którym leży Dallas, najpierw reprezentuje „Teksas”, a potem „Austin”, a pisząc rymowany wiersz, wybiera słowo do rymu, zanim napisze wers.

To modele częściowe, a nie pełne rozumienie, i AI Safety Atlas zauważa, że część wiedzy w modelach przypomina raczej tablicę przeglądową. Ale dowody przemawiają przeciwko poglądowi, że te systemy jedynie powtarzają powierzchowne wzorce. Dla bezpieczeństwa działa to w obie strony: modele świata czynią systemy sprawniejszymi i to właśnie je próbują odczytać badania nad interpretowalnością.