AIdea
Stohastiskais papagailis
Vai MI kaut ko saprot, vai tikai atkārto izlasīto?
- Rakstnieki un žurnālisti
- Skolēni un studenti
- Skolotāji
Arī: stohastiskie papagaiļi, stochastic parrot, stochastic parrots
Apgalvojums, ka valodas modeļi savirknē vārdus pēc varbūtības, bez jebkādas nozīmes izpratnes.
Izteiciens nāk no 2021. gada valodnieces Emilijas M. Benderes, MI pētnieces Timnitas Gebru un viņu kolēģu raksta. Viņi aprakstīja valodas modeli kā sistēmu, kas sašuj kopā apmācības datos redzētas vārdu virknes atbilstoši to savienošanās varbūtībām, “bez jebkādas atsauces uz nozīmi”. “Stohastisks” nozīmē nejaušības vadīts; papagaiļi atkārto vārdus, ko nesaprot.
Raksta galvenie brīdinājumi attiecās uz kaitējumu, kas ir reāls jau šodien: arvien lielāku modeļu vides un finansiālās izmaksas, milzīgi nepārbaudīti apmācības dati, kuros iestrādāti aizspriedumi, un risks, ka cilvēki uzticas plūstošam tekstam, aiz kura nekā nav. Šīs bažas joprojām ir aktuālas. Pats izteiciens ieguva savu dzīvi kā saīsinājums frāzei “tas patiesībā neko nesaprot”, un to bieži izmanto, lai apgalvotu, ka šīs sistēmas ir mazāk spējīgas, nekā šķiet.
Šajā šaurākajā jautājumā pierādījumi ir mainījušies. Pētnieki, kas ielūkojušies modeļos, atraduši iekšējus pasaules attēlojumus: spēles galdiņa, ko modelim nekad nerādīja, tā, kur atrodas vietas un kad notika notikumi, kā arī spriešanas starpposmu, piemēram, “Dalasa ir Teksasā” ceļā uz “galvaspilsēta ir Ostina”. AI Safety Atlas secina, ka modeļi iemācīto saspiež kaut kādā pasaules modeļiem līdzīgā veidā, kaut arī nevienmērīgi. Vai tas uzskatāms par “izpratni”, daļēji ir definīcijas jautājums. Drošībai svarīgi ir tas, ka šīs sistēmas spēj vairāk un negaidītāk, nekā liek domāt papagaiļa tēls.
