Rekursīvā pašuzlabošanās

Programmētāji, programmētājs, programmētāja, izstrādātājs, IT, kods, programmēšana, Zinātnieki un pētnieki, zinātnieks, zinātniece, pētnieks, pētniece, pētniecība, zinātne, akadēmiķis, laboratorija

MI, kas palīdz izveidot labāku MI, kas savukārt izveido vēl labāku, atgriezeniskās saites cilpā, kas varētu dramatiski paātrināt progresu.

Lielākā daļa tehnoloģiju pašas sevi neuzlabo. MI varētu: MI sistēmu izstrāde un apmācība pati par sevi ir intelektuāls darbs, un, ja MI kļūst labs šajā darbā, katra paaudze varētu palīdzēt izveidot spēcīgāku nākamo. AI Safety Atlas to apraksta kā “MI sistēma kļūst labāka sevis uzlabošanā” — atgriezeniskās saites cilpu, kas nemitīgi paātrinās. Ideja aizsākās ar statistiķi I. Dž. Gudu, kurš 1965. gadā apgalvoja, ka mašīna, kas ir gudrāka par mums, varētu izstrādāt vēl labākas mašīnas, kas novestu pie “intelekta sprādziena”.

Cik ātri šāda cilpa darbotos, ir strīdīgi. “Ātrās pacelšanās” ainā tā ātri izkļūst no kontroles un atstāj maz laika reaģēt. “Lēnās pacelšanās” ainā progress uzkrājas pakāpeniskāk, lai gan pēc vienas aplēses joprojām 10–100 reižu ātrāk nekā industriālā revolūcija. Atlas norāda, ka atšķirība bieži vien ir par to, vai problēmas būtu laikus pamanāmas un labojamas. Tādi scenāriji kā AI 2027 MI, kas veic MI pētniecību, uzskata par pagrieziena punktu.

Tas ir svarīgi drošībai, jo ātra cilpa saīsina laiku problēmu pamanīšanai un labošanai. ES prakses kodekss spējīgākajiem MI modeļiem “pašuzlabošanos” un MI, kas “autonomi rada vai uzlabo MI modeļus”, min starp veidiem, kā cilvēki varētu zaudēt kontroli.