Emergentās spējas

Programmētāji, programmētājs, programmētāja, izstrādātājs, IT, kods, programmēšana, Rakstnieki un žurnālisti, rakstnieks, rakstniece, autors, autore, žurnālists, žurnāliste, redaktors, tulkotājs, tulkotāja, mediji, ziņas

Spējas, kas parādās lielākos MI modeļos, lai gan neviens tās nav ieprogrammējis, dažkārt pēkšņi un grūti paredzami.

Neviens nemāca valodas modelim aritmētiku, tulkošanu vai programmēšanu prasmi pa prasmei. Tā veidotāji to apmāca paredzēt tekstu, padara to lielāku un tikai pēc tam noskaidro, ko tas spēj. 2022. gada Google un citu iestāžu pētnieku rakstā spēja tika saukta par “emergentu”, ja tā “nav mazākos modeļos, bet ir lielākos”, proti, to nevarēja paredzēt, ekstrapolējot no mazākiem modeļiem.

Cik pēkšņi šie lēcieni patiesībā ir, tiek apspriests. 2023. gada rakstā apgalvots, ka daudzi no tiem izriet no tā, kā testi tiek vērtēti: vērtējot pēc principa “viss vai nekas”, uzlabojums šķiet pēkšņs, bet ar rādītājiem, kas piešķir daļējus punktus, tas bieži ir vienmērīgs un paredzams. Abas puses ir vienisprātis par to, kas svarīgs drošībai: jaunas spējas rodas no izmēra, nevis no konstrukcijas, tāpēc modeļa veidotāji uzzina, ko tas spēj, tikai testējot to pēc izveides.

Tāpēc testēšana pirms laišanas klajā ir svarīga, un tāpēc modeļi joprojām pārsteidz pat savus izstrādātājus. AI Safety Atlas norāda, ka MI spējas “jau vairāk nekā desmit gadus pastāvīgi pārsteidz ekspertus”.