Foom

Arī: intelekta sprādziens, straujā pacelšanās, ātrā pacelšanās, singularitāte, intelligence explosion, hard takeoff

Ideja, ka tad, kad MI spēs pats sevi uzlabot, tas varētu ļoti ātri pāriet no cilvēka līmeņa tālu pāri mums.

“Foom” ir skaņa, ko rada kaut kas, kas ļoti ātri paceļas gaisā. Tā tika nosaukts straujš “intelekta sprādziens” 2008. gada tiešsaistes debatēs starp MI teorētiķi Eliezeru Judkovski un ekonomistu Robinu Hensonu par to, “vai vispārēji inteliģenti MI spēs ļoti ātri uzlabot paši savas spējas”. Pamatideja ir senāka: 1965. gadā statistiķis I. Dž. Guds apgalvoja, ka mašīna, kas ir gudrāka par mums, varētu izstrādāt vēl labākas mašīnas un tā izraisīt “intelekta sprādzienu”.

Mehānisms ir atgriezeniskās saites cilpa. Ja MI kļūst labs MI veidošanas darbā, katrs uzlabojums atnes nākamo ātrāk. AI Safety Atlas lieto “foom” kā sinonīmu “ātrajai pacelšanai” un “straujajai pacelšanai”. Pretējais viedoklis ir “lēnā pacelšanās”, kurā progress arī uzkrājas, bet pakāpeniskāk; pēc vienas Atlas citētas aplēses tomēr 10–100 reižu ātrāk nekā industriālā revolūcija.

Tas, kura no tām notiks, ir svarīgāk, nekā izklausās. Kā norāda Atlas, domstarpības bieži vien ir par to, vai problēmas būtu “laikus pamanāmas un labojamas”. Ātrā pacelšanās atstāj maz vietas kļūdu pamanīt un izlabot. Tādi scenāriji kā AI 2027 sava stāsta centrā liek MI, kas veic MI pētniecību, un ES prakses kodekss spējīgākajiem modeļiem MI “pašuzlabošanos” min starp veidiem, kā cilvēki varētu zaudēt kontroli.