Emergentiniai gebėjimai

Programuotojai, programuotojas, programuotoja, IT, informatikas, kodas, programavimas, Rašytojai ir žurnalistai, rašytojas, rašytoja, autorius, autorė, žurnalistas, žurnalistė, redaktorius, vertėjas, vertėja, žiniasklaida, naujienos

Gebėjimai, kurie atsiranda didesniuose DI modeliuose niekam jų neprogramavus, kartais staiga ir sunkiai nuspėjamai.

Niekas nemoko kalbos modelio aritmetikos, vertimo ar programavimo po vieną įgūdį. Jo kūrėjai moko jį numatyti tekstą, jį padidina ir tik paskui sužino, ką jis gali. 2022 m. Google ir kitų institucijų tyrėjų straipsnyje gebėjimas vadintas „emergentiniu“, jei jis „nėra mažesniuose modeliuose, bet yra didesniuose“, t. y. jo nebuvo galima numatyti ekstrapoliuojant iš mažesnių modelių.

Kiek staigūs šie šuoliai iš tikrųjų yra, diskutuojama. 2023 m. straipsnyje teigta, kad daugelis jų kyla iš to, kaip vertinami testai: vertinant principu „viskas arba nieko“ pagerėjimas atrodo staigus, o naudojant matus, kurie skiria dalinius taškus, jis dažnai būna tolygus ir nuspėjamas. Abi pusės sutaria dėl to, kas svarbu saugumui: nauji gebėjimai atsiranda dėl dydžio, o ne dėl projektavimo, todėl modelio kūrėjai sužino, ką jis gali, tik išbandę jį po sukūrimo.

Štai kodėl svarbūs bandymai prieš išleidimą ir kodėl modeliai vis dar stebina net savo kūrėjus. AI Safety Atlas pažymi, kad DI gebėjimai „nuolat stebino ekspertus daugiau nei dešimtmetį“.