Stochastinė papūga

Rašytojai ir žurnalistai, rašytojas, rašytoja, autorius, autorė, žurnalistas, žurnalistė, redaktorius, vertėjas, vertėja, žiniasklaida, naujienos, Mokiniai ir studentai, mokinys, mokinė, studentas, studentė, universitetas, kolegija, studijos, Mokytojai, mokytojas, mokytoja, pedagogas, pedagogė, dėstytojas, dėstytoja, mokykla, švietimas

Taip pat: stochastinės papūgos, stochastic parrot, stochastic parrots

Teiginys, kad kalbos modeliai jungia žodžius pagal tikimybę, visiškai nesuprasdami prasmės.

Posakis kilo iš 2021 m. lingvistės Emily M. Bender, DI tyrėjos Timnit Gebru ir jų kolegų straipsnio. Jie apibūdino kalbos modelį kaip sistemą, kuri sujungia mokymo duomenyse matytas žodžių sekas pagal jų derinimosi tikimybes, „be jokios nuorodos į prasmę“. „Stochastinis“ reiškia valdomas atsitiktinumo; papūgos kartoja žodžius, kurių nesupranta.

Pagrindiniai straipsnio įspėjimai buvo apie žalą, kuri yra reali jau šiandien: vis didesnių modelių aplinkosauginę ir finansinę kainą, milžiniškus nepatikrintus mokymo duomenis, į kuriuos įsiskverbia išankstinės nuostatos, ir riziką, kad žmonės pasitikės sklandžiu tekstu, už kurio nieko nėra. Šie rūpesčiai tebegalioja. Pats posakis įgijo savo gyvenimą kaip trumpinys „iš tikrųjų nieko nesupranta“ ir dažnai vartojamas teigti, kad šios sistemos yra mažiau pajėgios, nei atrodo.

Šiuo siauresniu klausimu įrodymai pasikeitė. Tyrėjai, pažvelgę į modelių vidų, rado vidinių pasaulio vaizdinių: žaidimo lentos, kurios modelis niekada nematė, to, kur yra vietos ir kada vyko įvykiai, taip pat tarpinių samprotavimo žingsnių, tokių kaip „Dalasas yra Teksase“ pakeliui į „sostinė yra Ostinas“. AI Safety Atlas daro išvadą, kad modeliai tai, ką išmoksta, suspaudžia į kažką panašaus į pasaulio modelius, nors ir netolygiai. Ar tai laikytina „supratimu“, iš dalies yra apibrėžimo klausimas. Saugumui svarbu tai, kad šios sistemos gali daugiau ir netikėčiau, nei leidžia manyti papūgos įvaizdis.