Понятие
Възникващи способности
- Програмисти
- Писатели и журналисти
Умения, които се появяват в по-големите модели на ИИ, без никой да ги е програмирал, понякога внезапно и трудно предвидимо.
Никой не учи езиков модел на аритметика, превод или програмиране умение по умение. Създателите му го обучават да предсказва текст, увеличават го и едва след това откриват какво може. Статия от 2022 г. на изследователи от Google и други институции нарича една способност „възникваща“, ако тя „не присъства при по-малките модели, но присъства при по-големите“, тоест не може да бъде предсказана чрез екстраполация от по-малките модели.
Колко внезапни са всъщност тези скокове, е спорно. Статия от 2023 г. твърди, че много от тях идват от начина, по който се оценяват тестовете: при оценяване „всичко или нищо“ подобрението изглежда рязко, а при мерки, които дават частични точки, то често е плавно и предвидимо. И двете страни са съгласни за това, което е важно за безопасността: новите способности идват от мащаба, а не от дизайна, така че създателите на модела научават какво може той, като го тестват, след като е създаден.
Затова тестовете преди пускане са важни и затова моделите продължават да изненадват дори собствените си разработчици. AI Safety Atlas отбелязва, че способностите на ИИ „постоянно изненадват експертите вече повече от десетилетие“.
