Emergentne zmožnosti

Programerji, programer, programerka, razvijalec, razvijalka, informatik, IT, koda, programiranje, Pisatelji in novinarji, pisatelj, pisateljica, avtor, avtorica, novinar, novinarka, urednik, prevajalec, prevajalka, mediji, novice

Zmožnosti, ki se pojavijo v večjih modelih UI, ne da bi jih kdo programiral, včasih nenadoma in težko predvidljivo.

Nihče jezikovnega modela ne uči računanja, prevajanja ali programiranja veščino za veščino. Njegovi ustvarjalci ga učijo napovedovati besedilo, ga povečajo in šele nato ugotovijo, kaj zmore. Članek iz leta 2022, ki so ga napisali raziskovalci pri Googlu in drugod, je zmožnost označil za »emergentno«, če je »ni v manjših modelih, je pa v večjih«, torej je ni bilo mogoče napovedati z ekstrapolacijo iz manjših modelov.

Kako nenadni so ti skoki v resnici, je predmet razprave. Članek iz leta 2023 je trdil, da mnogi izhajajo iz načina ocenjevanja testov: pri ocenjevanju »vse ali nič« je izboljšanje videti skokovito, pri merilih, ki dajejo delne točke, pa je pogosto postopno in predvidljivo. Obe strani se strinjata glede tistega, kar je pomembno za varnost: nove zmožnosti izhajajo iz velikosti, ne iz zasnove, zato ustvarjalci modela izvejo, kaj zmore, šele s testiranjem po tem, ko je zgrajen.

Zato so testi pred izdajo pomembni in zato modeli še naprej presenečajo celo lastne razvijalce. AI Safety Atlas ugotavlja, da zmožnosti UI »že več kot desetletje vztrajno presenečajo strokovnjake«.