Emergente evner

Programmører, programmør, udvikler, softwareudvikler, IT, kode, programmering, Forfattere og journalister, forfatter, journalist, redaktør, oversætter, medier, nyheder

Evner, der dukker op i større AI-modeller, uden at nogen har programmeret dem, nogle gange pludseligt og svære at forudsige.

Ingen lærer en sprogmodel regning, oversættelse eller programmering én færdighed ad gangen. Dens skabere træner den i at forudsige tekst, gør den større og finder bagefter ud af, hvad den kan. En artikel fra 2022 af forskere hos Google og andre steder kaldte en evne »emergent«, hvis den »ikke er til stede i mindre modeller, men er til stede i større modeller«, altså ikke kunne forudsiges ved at ekstrapolere fra mindre modeller.

Hvor pludselige disse spring reelt er, er omdiskuteret. En artikel fra 2023 argumenterede for, at mange af dem skyldes måden, testene bedømmes på: Med alt-eller-intet-bedømmelse ser forbedringen brat ud, mens den med mål, der giver delpoint, ofte er jævn og forudsigelig. Begge sider er enige om det, der betyder noget for sikkerheden: Nye evner kommer fra størrelse frem for design, så en models skabere finder ud af, hvad den kan, ved at teste den, efter den er bygget.

Derfor betyder test før lancering noget, og derfor bliver modeller ved med at overraske selv deres egne udviklere. AI Safety Atlas bemærker, at AI’s evner »konsekvent har overrasket eksperter i over et årti«.