Modeli svijeta

Dokazi da UI trenirana samo na tekstu gradi unutarnju sliku o tome kako svijet funkcionira, umjesto da samo spaja obrasce riječi.

Model svijeta unutarnji je prikaz toga kakve su stvari i kako funkcioniraju, koji sustav može koristiti za predviđanje onoga što će se dogoditi. Pitanje je imaju li ga jezični modeli ili samo statistiku o tome koje riječi obično slijede koje.

Nekoliko je studija zavirilo u modele i pronašlo takve prikaze. Pokazalo se da model treniran samo na popisima poteza društvene igre Othello, kojemu nikad nije pokazana ploča, ploču prati iznutra, a uređivanje te unutarnje ploče mijenjalo je poteze koje je predviđao (Li i sur., 2023.). Utvrđeno je da modeli Llama-2 prikazuju gdje se nalaze mjesta i kad su se dogodili događaji, pomoću pojedinačnih „prostornih neurona” i „vremenskih neurona” (Gurnee i Tegmark, 2023.). Anthropic je otkrio da Claude, upitan za glavni grad savezne države u kojoj je Dallas, najprije prikazuje „Teksas”, a zatim „Austin” te da pri pisanju rimovane pjesme bira riječ za rimu prije nego što napiše stih.

To su djelomični modeli, a ne potpuno razumijevanje, a AI Safety Atlas napominje da dio znanja u modelima više nalikuje tablici za pretraživanje. Ali dokazi govore protiv ideje da ti sustavi samo ponavljaju površinske obrasce. Za sigurnost to djeluje u oba smjera: modeli svijeta čine sustave sposobnijima, a upravo njih istraživanje interpretabilnosti pokušava pročitati.