Emergentsed võimed

Programmeerijad, programmeerija, arendaja, tarkvaraarendaja, IT, kood, programmeerimine, Kirjanikud ja ajakirjanikud, kirjanik, autor, ajakirjanik, toimetaja, tõlkija, meedia, uudised

Võimed, mis ilmuvad suurematesse tehisintellekti mudelitesse ilma, et keegi oleks neid programmeerinud, mõnikord järsku ja raskesti ennustatavalt.

Keegi ei õpeta keelemudelile aritmeetikat, tõlkimist ega programmeerimist oskus oskuse haaval. Selle loojad treenivad seda teksti ennustama, teevad selle suuremaks ja selgitavad hiljem välja, mida see suudab. Google’i ja mujalt pärit teadlaste 2022. aasta artikkel nimetas võimet „emergentseks“, kui see „puudub väiksematel mudelitel, kuid esineb suurematel“, st seda ei saanud ennustada väiksemate mudelite põhjal ekstrapoleerides.

See, kui järsud need hüpped tegelikult on, on vaieldav. 2023. aasta artikkel väitis, et paljud neist tulenevad testide hindamise viisist: kõik-või-mitte-midagi hindamise korral paistab paranemine järsk, kuid osalisi punkte andvate mõõdikute korral on see sageli sujuv ja ennustatav. Mõlemad pooled on ühel meelel selles, mis on ohutuse jaoks oluline: uued võimed tulevad suurusest, mitte kavandamisest, nii et mudeli loojad saavad teada, mida see suudab, alles seda pärast valmimist testides.

Seepärast on oluline testida enne väljalaset ja seepärast üllatavad mudelid jätkuvalt isegi omaenda arendajaid. AI Safety Atlas märgib, et tehisintellekti võimed on „eksperte järjekindlalt üllatanud juba üle kümne aasta“.