AIdea
Pappagall stokastiku
L-IA tifhem xi ħaġa, jew sempliċement tirrepeti dak li qrat?
- Kittieba u ġurnalisti
- Studenti
- Għalliema
Ukoll: pappagalli stokastiċi, stochastic parrot, stochastic parrots
L-allegazzjoni li l-mudelli tal-lingwa jgħaqqdu l-kliem skont il-probabbiltà, mingħajr ebda għarfien tat-tifsira.
L-espressjoni ġejja minn dokument tal-2021 tal-lingwista Emily M. Bender, ir-riċerkatriċi tal-IA Timnit Gebru u l-kollegi tagħhom. Iddeskrivew mudell tal-lingwa bħala sistema li tgħaqqad sekwenzi ta’ kliem li rat fid-data tat-taħriġ tagħha, skont il-probabbiltajiet ta’ kif jingħaqdu, “mingħajr ebda referenza għat-tifsira”. “Stokastiku” jfisser immexxi miċ-ċans; il-pappagalli jirrepetu kliem li ma jifhmux.
It-twissijiet ewlenin tad-dokument kienu dwar ħsarat li huma reali llum: l-ispiża ambjentali u finanzjarja ta’ mudelli dejjem akbar, data tat-taħriġ enormi u mhux eżaminata li ddaħħal il-preġudizzji, u r-riskju li n-nies jafdaw test fluwenti li ma hemm xejn warajh. Dawn it-tħassib għadhom validi. L-espressjoni nfisha ħadet ħajja tagħha, bħala qosor għal “fil-verità ma jifhem xejn”, u spiss tintuża biex jiġi argumentat li dawn is-sistemi huma inqas kapaċi milli jidhru.
Fuq dik il-mistoqsija aktar dejqa, l-evidenza nbidlet. Riċerkaturi li ħarsu ġewwa l-mudelli sabu rappreżentazzjonijiet interni tad-dinja: ta’ bord tal-logħob li qatt ma ntwera lill-mudell, ta’ fejn jinsabu l-postijiet u meta seħħew l-avvenimenti, u ta’ passi intermedji fir-raġunament, bħal “Dallas tinsab f’Texas” fit-triq lejn “il-kapitali hija Austin”. L-AI Safety Atlas jikkonkludi li l-mudelli jikkompressaw dak li jitgħallmu f’xi ħaġa bħal mudelli tad-dinja, għalkemm b’mod mhux uniformi. Jekk dan jgħoddx bħala “fehim” huwa parzjalment kwistjoni ta’ definizzjoni. Għas-sikurezza, dak li jgħodd huwa li dawn is-sistemi jistgħu jagħmlu aktar, u b’mod aktar mhux mistenni, milli tissuġġerixxi x-xbieha tal-pappagall.
