Capacități emergente

Programatori, programator, programatoare, dezvoltator, developer, inginer software, IT, cod, programare, Scriitori și jurnaliști, scriitor, scriitoare, autor, autoare, jurnalist, jurnalistă, redactor, traducător, traducătoare, presă, știri

Abilități care apar în modelele IA mai mari fără ca cineva să le programeze, uneori brusc și greu de prevăzut.

Nimeni nu învață un model de limbaj aritmetica, traducerea sau programarea abilitate cu abilitate. Creatorii lui îl antrenează să prezică text, îl măresc și află abia după aceea ce poate face. O lucrare din 2022 a unor cercetători de la Google și din alte părți numea o abilitate „emergentă” dacă „nu este prezentă în modelele mai mici, dar este prezentă în cele mai mari”, adică nu putea fi prezisă extrapolând de la modelele mai mici.

Cât de bruște sunt de fapt aceste salturi este o chestiune disputată. O lucrare din 2023 a susținut că multe dintre ele provin din felul în care sunt notate testele: cu o notare de tip totul sau nimic, îmbunătățirea pare bruscă, pe când cu măsuri care acordă punctaj parțial este adesea lină și previzibilă. Ambele tabere sunt de acord în privința a ceea ce contează pentru siguranță: noile abilități vin din scară, nu din design, așa că creatorii unui model află ce poate face testându-l după ce l-au construit.

De aceea contează testarea înainte de lansare și de aceea modelele continuă să-și surprindă chiar și propriii dezvoltatori. AI Safety Atlas notează că capacitățile IA „i-au surprins în mod constant pe experți de peste un deceniu”.