AIdea
Stokastinen papukaija
Ymmärtääkö tekoäly mitään, vai toistaako se vain lukemaansa?
- Kirjoittajat ja toimittajat
- Opiskelijat ja koululaiset
- Opettajat
Myös: stokastiset papukaijat, stochastic parrot, stochastic parrots
Väite, jonka mukaan kielimallit liittävät sanoja yhteen todennäköisyyksien perusteella ilman minkäänlaista merkityksen ymmärrystä.
Ilmaus on peräisin kielitieteilijä Emily M. Benderin, tekoälytutkija Timnit Gebrun ja heidän kollegoidensa vuoden 2021 artikkelista. He kuvasivat kielimallia järjestelmäksi, joka nivoo yhteen koulutusdatassaan näkemiään sanasarjoja sen mukaan, millä todennäköisyyksillä ne yhdistyvät, ”ilman mitään viittausta merkitykseen”. ”Stokastinen” tarkoittaa sattuman ohjaamaa; papukaijat toistavat sanoja, joita ne eivät ymmärrä.
Artikkelin tärkeimmät varoitukset koskivat haittoja, jotka ovat todellisia jo nyt: yhä suurempien mallien ympäristö- ja rahoituskustannuksia, valtavia tarkastamattomia koulutusaineistoja, joihin ennakkoluulot leipoutuvat, sekä riskiä, että ihmiset luottavat sujuvaan tekstiin, jonka takana ei ole mitään. Nämä huolet ovat yhä ajankohtaisia. Itse ilmaus sai oman elämänsä lyhenteenä sanoille ”se ei oikeasti ymmärrä mitään”, ja sitä käytetään usein väittämään, että nämä järjestelmät ovat vähemmän kyvykkäitä kuin miltä näyttävät.
Tässä kapeammassa kysymyksessä näyttö on siirtynyt. Malleihin kurkistaneet tutkijat ovat löytäneet sisäisiä esityksiä maailmasta: pelilaudasta, jota mallille ei koskaan näytetty, siitä, missä paikat sijaitsevat ja milloin tapahtumat sattuivat, sekä päättelyn välivaiheista, kuten ”Dallas on Texasissa” matkalla kohti päätelmää ”pääkaupunki on Austin”. AI Safety Atlas päätyy siihen, että mallit tiivistävät oppimansa jonkinlaisiksi maailmanmalleiksi, joskin epätasaisesti. Se, lasketaanko tämä ”ymmärtämiseksi”, on osittain määritelmäkysymys. Turvallisuuden kannalta olennaista on, että nämä järjestelmät pystyvät enempään ja odottamattomammin kuin papukaijan kuva antaa ymmärtää.
