Emergentit kyvyt

Ohjelmoijat, ohjelmoija, koodari, ohjelmistokehittäjä, kehittäjä, IT, koodi, ohjelmointi, Kirjoittajat ja toimittajat, kirjailija, kirjoittaja, toimittaja, journalisti, kääntäjä, media, uutiset

Kykyjä, jotka ilmaantuvat suurempiin tekoälymalleihin ilman, että kukaan on ohjelmoinut niitä, joskus äkillisesti ja vaikeasti ennakoitavasti.

Kukaan ei opeta kielimallille laskemista, kääntämistä tai ohjelmointia taito kerrallaan. Sen tekijät kouluttavat sen ennustamaan tekstiä, kasvattavat sitä ja selvittävät jälkikäteen, mihin se pystyy. Googlen ja muiden tahojen tutkijoiden vuoden 2022 artikkeli kutsui kykyä ”emergentiksi”, jos se ”puuttuu pienemmistä malleista mutta esiintyy suuremmissa”, eli sitä ei voinut ennustaa pienemmistä malleista ekstrapoloimalla.

Se, kuinka äkillisiä nämä hypyt todella ovat, on kiistanalaista. Vuoden 2023 artikkeli väitti, että monet niistä johtuvat testien pisteytystavasta: kaikki tai ei mitään -pisteytyksellä parannus näyttää äkilliseltä, kun taas osapisteitä antavilla mittareilla se on usein tasaista ja ennustettavaa. Molemmat osapuolet ovat yhtä mieltä turvallisuuden kannalta olennaisesta: uudet kyvyt syntyvät koosta eivätkä suunnittelusta, joten mallin tekijät saavat tietää, mihin se pystyy, testaamalla sen vasta rakentamisen jälkeen.

Siksi testaus ennen julkaisua on tärkeää, ja siksi mallit yllättävät yhä jopa omat kehittäjänsä. AI Safety Atlas huomauttaa, että tekoälyn kyvyt ovat ”yllättäneet asiantuntijat johdonmukaisesti yli vuosikymmenen ajan”.