Emergentné schopnosti

Programátori, programátor, programátorka, vývojár, vývojárka, IT, ajťák, kód, programovanie, Spisovatelia a novinári, spisovateľ, spisovateľka, autor, autorka, novinár, novinárka, redaktor, prekladateľ, prekladateľka, médiá, správy

Schopnosti, ktoré sa objavujú vo väčších modeloch AI bez toho, aby ich niekto naprogramoval, niekedy náhle a ťažko predvídateľne.

Nikto jazykový model neučí počítať, prekladať alebo programovať zručnosť po zručnosti. Jeho tvorcovia ho trénujú na predpovedanie textu, zväčšia ho a až potom zisťujú, čo vie. Štúdia z roku 2022 od výskumníkov z Googlu a ďalších inštitúcií označila schopnosť za „emergentnú“, ak „nie je prítomná pri menších modeloch, ale je prítomná pri väčších“, teda ak ju nebolo možné predpovedať extrapoláciou z menších modelov.

Aké náhle tieto skoky skutočne sú, je sporné. Štúdia z roku 2023 tvrdila, že mnohé z nich vyplývajú zo spôsobu hodnotenia testov: pri hodnotení štýlom „všetko, alebo nič“ vyzerá zlepšenie skokovo, zatiaľ čo pri meradlách, ktoré dávajú čiastočné body, je často plynulé a predvídateľné. Obe strany sa zhodujú na tom, na čom záleží pre bezpečnosť: nové schopnosti vznikajú z veľkosti, nie z návrhu, takže tvorcovia modelu zisťujú, čo vie, testovaním až po jeho zostavení.

Preto sú dôležité testy pred uvedením na trh a preto modely stále prekvapujú aj vlastných vývojárov. AI Safety Atlas poznamenáva, že schopnosti AI „sústavne prekvapujú odborníkov už vyše desať rokov“.