Verdensmodeller

Beviser for, at AI, der kun er trænet på tekst, opbygger et indre billede af, hvordan verden fungerer, i stedet for kun at matche ordmønstre.

En verdensmodel er en indre repræsentation af, hvordan tingene er, og hvordan de fungerer, som et system kan bruge til at forudsige, hvad der sker bagefter. Spørgsmålet er, om sprogmodeller har en, eller kun statistik over, hvilke ord der plejer at følge hvilke.

Flere undersøgelser har kigget ind i modeller og fundet sådanne repræsentationer. En model, der kun var trænet på lister over træk i brætspillet Othello og aldrig havde fået vist et bræt, viste sig at holde styr på brættet internt, og ændringer i det indre bræt ændrede de træk, den forudsagde (Li et al., 2023). Llama-2-modeller viste sig at repræsentere, hvor steder ligger, og hvornår begivenheder fandt sted, med enkelte »rumneuroner« og »tidsneuroner« (Gurnee og Tegmark, 2023). Anthropic fandt, at Claude, når den bliver spurgt om hovedstaden i den delstat, Dallas ligger i, først repræsenterer »Texas« og derefter »Austin«, og at den, når den skriver et rimet digt, vælger rimordet, før den skriver linjen.

Det er delvise modeller, ikke fuld forståelse, og AI Safety Atlas bemærker, at noget af den viden, modeller har, minder mere om en opslagstabel. Men beviserne taler imod idéen om, at disse systemer kun gentager overflademønstre. For sikkerheden går det begge veje: Verdensmodeller gør systemer mere kapable, og de er det, fortolkelighedsforskningen prøver at aflæse.