Emergens képességek

Programozók, programozó, fejlesztő, szoftverfejlesztő, informatikus, IT, kód, programozás, Írók és újságírók, író, szerző, újságíró, szerkesztő, fordító, média, hírek

Olyan képességek, amelyek nagyobb MI-modellekben jelennek meg anélkül, hogy bárki beprogramozta volna őket, néha hirtelen és nehezen megjósolhatóan.

Senki sem tanítja egy nyelvi modellnek egyenként a számolást, a fordítást vagy a programozást. Alkotói arra tanítják, hogy szöveget jelezzen előre, megnövelik, és utólag derítik ki, mire képes. A Google és más intézmények kutatóinak 2022-es tanulmánya akkor nevezett egy képességet „emergensnek”, ha „a kisebb modellekben nincs meg, a nagyobbakban viszont igen”, vagyis nem lehetett megjósolni a kisebb modellekből való kivetítéssel.

Hogy ezek az ugrások valójában mennyire hirtelenek, vitatott. Egy 2023-as tanulmány amellett érvelt, hogy sok közülük abból fakad, ahogyan a teszteket pontozzák: mindent vagy semmit pontozásnál a javulás hirtelennek tűnik, részpontokat adó mérőszámoknál viszont gyakran egyenletes és kiszámítható. Mindkét fél egyetért abban, ami a biztonság szempontjából számít: az új képességek a méretből, nem a tervezésből fakadnak, így egy modell alkotói csak a megépítése utáni teszteléssel tudják meg, mire képes.

Ezért fontos a bevezetés előtti tesztelés, és ezért lepik meg a modellek még saját fejlesztőiket is. Az AI Safety Atlas megjegyzi, hogy az MI képességei „több mint egy évtizede következetesen meglepik a szakértőket”.