Rekursyvus savitobulinimas

Programuotojai, programuotojas, programuotoja, IT, informatikas, kodas, programavimas, Mokslininkai ir tyrėjai, mokslininkas, mokslininkė, tyrėjas, tyrėja, tyrimai, mokslas, akademikas, laboratorija

DI, kuris padeda sukurti geresnį DI, o šis sukuria dar geresnį, grįžtamojo ryšio cikle, galinčiame smarkiai paspartinti pažangą.

Dauguma technologijų pačios savęs netobulina. DI galėtų: DI sistemų projektavimas ir mokymas pats savaime yra intelektinis darbas, ir jei DI taps geras šiame darbe, kiekviena karta galėtų padėti sukurti stipresnę kitą. AI Safety Atlas tai apibūdina kaip „DI sistema tampa geresnė tobulindama pati save“ – grįžtamojo ryšio ciklą, kuris vis spartėja. Idėja siekia statistiką I. J. Goodą, kuris 1965 m. teigė, kad už mus protingesnė mašina galėtų suprojektuoti dar geresnes mašinas, o tai vestų prie „intelekto sprogimo“.

Kaip greitai toks ciklas suktųsi, ginčijamasi. „Greito pakilimo“ paveiksle jis greitai išsprūsta iš kontrolės ir palieka mažai laiko reaguoti. „Lėto pakilimo“ paveiksle pažanga kaupiasi palaipsniui, nors pagal vieną įvertį vis tiek 10–100 kartų greičiau nei pramonės revoliucija. Atlas pažymi, kad skirtumas dažnai susiveda į tai, ar problemos būtų laiku pastebimos ir ištaisomos. Tokie scenarijai kaip AI 2027 DI, atliekantį DI tyrimus, laiko lūžio tašku.

Tai svarbu saugumui, nes greitas ciklas sutrumpina laiką problemoms pastebėti ir ištaisyti. ES praktikos kodeksas pajėgiausiems DI modeliams „savitobulinimą“ ir DI, kuris „savarankiškai kuria ar tobulina DI modelius“, nurodo tarp būdų, kaip žmonės galėtų prarasti kontrolę.