Emergenta förmågor

Programmerare, utvecklare, systemutvecklare, IT, kod, programmering, Skribenter och journalister, författare, skribent, journalist, redaktör, översättare, medier, nyheter

Förmågor som dyker upp i större AI-modeller utan att någon har programmerat dem, ibland plötsligt och svåra att förutse.

Ingen lär en språkmodell räkning, översättning eller programmering en färdighet i taget. Dess skapare tränar den att förutsäga text, gör den större och tar reda på efteråt vad den kan. En artikel från 2022 av forskare på Google och på andra håll kallade en förmåga ”emergent” om den ”inte finns i mindre modeller men finns i större modeller”, det vill säga inte kunde förutses genom att extrapolera från mindre modeller.

Hur plötsliga sprången verkligen är debatteras. En artikel från 2023 hävdade att många av dem beror på hur testerna poängsätts: med allt-eller-inget-poäng ser förbättringen tvär ut, medan den med mått som ger delpoäng ofta är jämn och förutsägbar. Båda sidor är överens om det som spelar roll för säkerheten: nya förmågor kommer från storlek snarare än design, så en modells skapare får veta vad den kan genom att testa den efter att den har byggts.

Därför spelar tester före lansering roll, och därför fortsätter modeller att överraska till och med sina egna utvecklare. AI Safety Atlas noterar att AI:s förmågor ”konsekvent har överraskat experter i över ett decennium”.