Koncept
Emergentne sposobnosti
- Programeri
- Pisci i novinari
Sposobnosti koje se pojavljuju u većim modelima UI-ja, a da ih nitko nije programirao, ponekad naglo i teško predvidljivo.
Nitko jezični model ne uči računanju, prevođenju ili programiranju vještinu po vještinu. Njegovi ga tvorci treniraju da predviđa tekst, povećaju ga i tek naknadno otkrivaju što može. Rad iz 2022. istraživača iz Googlea i drugih ustanova nazvao je sposobnost „emergentnom” ako „nije prisutna u manjim modelima, ali jest u većima”, što znači da se nije mogla predvidjeti ekstrapolacijom iz manjih modela.
Koliko su ti skokovi zaista nagli, predmet je rasprave. Rad iz 2023. tvrdio je da mnogi proizlaze iz načina na koji se testovi ocjenjuju: uz ocjenjivanje po načelu „sve ili ništa” poboljšanje izgleda naglo, dok je uz mjere koje daju djelomične bodove često postupno i predvidljivo. Obje se strane slažu oko onoga što je važno za sigurnost: nove sposobnosti dolaze iz veličine, a ne iz dizajna, pa tvorci modela saznaju što može tek testiranjem nakon što je izgrađen.
Zato je testiranje prije objavljivanja važno i zato modeli i dalje iznenađuju čak i vlastite razvijatelje. AI Safety Atlas napominje da sposobnosti UI-ja „dosljedno iznenađuju stručnjake već više od desetljeća”.
