AIdea
Stohhastiline papagoi
Kas tehisintellekt mõistab midagi või kordab lihtsalt seda, mida on lugenud?
- Kirjanikud ja ajakirjanikud
- Õpilased ja üliõpilased
- Õpetajad
Ka: stohhastilised papagoid, stochastic parrot, stochastic parrots
Väide, et keelemudelid seovad sõnu tõenäosuse järgi kokku, ilma igasuguse tähenduse mõistmiseta.
Väljend pärineb keeleteadlase Emily M. Benderi, tehisintellekti uurija Timnit Gebru ja nende kolleegide 2021. aasta artiklist. Nad kirjeldasid keelemudelit kui süsteemi, mis õmbleb kokku oma treeningandmetes nähtud sõnajadasid vastavalt nende kombineerumise tõenäosustele, „ilma igasuguse viiteta tähendusele“. „Stohhastiline“ tähendab juhusest juhitud; papagoid kordavad sõnu, mida nad ei mõista.
Artikli peamised hoiatused puudutasid kahjusid, mis on tänapäeval reaalsed: üha suuremate mudelite keskkonna- ja rahalist hinda, tohutuid läbivaatamata treeningandmeid, mis küpsetavad sisse eelarvamusi, ja ohtu, et inimesed usaldavad sujuvat teksti, mille taga pole midagi. Need mured kehtivad endiselt. Väljend ise hakkas elama oma elu lühendina lausest „see ei mõista tegelikult midagi“ ja seda kasutatakse sageli väitmaks, et need süsteemid on vähem võimekad, kui paistavad.
Selles kitsamas küsimuses on tõendid nihkunud. Mudelitesse piilunud teadlased on leidnud sisemisi maailmakujutlusi: mängulauast, mida mudelile kunagi ei näidatud, sellest, kus kohad asuvad ja millal sündmused toimusid, ning arutluse vahesammudest, nagu „Dallas asub Texases“ teel järelduseni „pealinn on Austin“. AI Safety Atlas järeldab, et mudelid pakivad õpitu kokku millekski maailmamudelite sarnaseks, ehkki ebaühtlaselt. Kas see läheb arvesse kui „mõistmine“, on osaliselt definitsiooni küsimus. Ohutuse jaoks on oluline, et need süsteemid suudavad rohkem ja ootamatumalt, kui papagoi kujund vihjab.
