Emergentní schopnosti

Programátoři, programátor, programátorka, vývojář, vývojářka, ajťák, IT, kód, programování, Spisovatelé a novináři, spisovatel, spisovatelka, autor, autorka, novinář, novinářka, redaktor, překladatel, překladatelka, média, zprávy

Schopnosti, které se objevují ve větších modelech AI, aniž by je kdo naprogramoval, někdy náhle a těžko předvídatelně.

Nikdo jazykový model neučí počítat, překládat nebo programovat dovednost po dovednosti. Jeho tvůrci ho trénují na předpovídání textu, zvětší ho a teprve potom zjišťují, co umí. Studie z roku 2022 od výzkumníků z Googlu a dalších institucí označila schopnost za „emergentní“, pokud „není přítomna u menších modelů, ale je přítomna u větších“, tedy pokud ji nešlo předpovědět extrapolací z menších modelů.

Jak náhlé tyto skoky skutečně jsou, je sporné. Studie z roku 2023 tvrdila, že mnohé z nich vyplývají ze způsobu hodnocení testů: při hodnocení stylem „všechno, nebo nic“ vypadá zlepšení skokově, zatímco u měřítek, která dávají částečné body, je často plynulé a předvídatelné. Obě strany se shodují na tom, na čem záleží pro bezpečnost: nové schopnosti vznikají z velikosti, ne z návrhu, takže tvůrci modelu zjišťují, co umí, testováním až po jeho sestavení.

Proto jsou důležité testy před uvedením na trh a proto modely stále překvapují i vlastní vývojáře. AI Safety Atlas poznamenává, že schopnosti AI „soustavně překvapují odborníky už přes deset let“.