Emergente vermogens

Programmeurs, programmeur, ontwikkelaar, developer, softwareontwikkelaar, ICT, IT, programmeren, code, Schrijvers en journalisten, schrijver, schrijfster, auteur, journalist, redacteur, vertaler, media, nieuws

Vaardigheden die in grotere AI-modellen opduiken zonder dat iemand ze heeft geprogrammeerd, soms abrupt en moeilijk vooraf te voorspellen.

Niemand leert een taalmodel rekenen, vertalen of programmeren, vaardigheid voor vaardigheid. De makers trainen het om tekst te voorspellen, maken het groter en ontdekken achteraf wat het kan. Een paper uit 2022 van onderzoekers bij Google en elders noemde een vaardigheid ‘emergent’ als die ‘niet aanwezig is in kleinere modellen maar wel in grotere’, wat betekent dat ze niet te voorspellen was door vanuit kleinere modellen te extrapoleren.

Hoe plotseling deze sprongen echt zijn, staat ter discussie. Een paper uit 2023 betoogde dat veel ervan voortkomen uit hoe de tests worden gescoord: bij alles-of-niets-scores lijkt verbetering abrupt, terwijl ze bij maten die deelpunten geven vaak geleidelijk en voorspelbaar is. Beide kanten zijn het eens over het deel dat voor veiligheid telt: nieuwe vaardigheden komen voort uit schaal en niet uit ontwerp, dus de makers van een model ontdekken wat het kan door het na de bouw te testen.

Daarom zijn tests vóór de lancering belangrijk, en daarom blijven modellen zelfs hun eigen ontwikkelaars verrassen. De AI Safety Atlas merkt op dat AI-capaciteiten ‘experts al meer dan tien jaar steeds weer hebben verrast’.