Foom

Ukoll: splużjoni tal-intelliġenza, tlugħ iebes, tlugħ mgħaġġel, is-singularità, intelligence explosion, hard takeoff

L-idea li ladarba l-IA tkun tista’ ttejjeb lilha nfisha, tista’ tgħaddi malajr ħafna mil-livell uman għal ferm ’il bogħod minna.

“Foom” huwa l-ħoss ta’ xi ħaġa li titlaq malajr ħafna. Sar l-isem għal “splużjoni tal-intelliġenza” mgħaġġla f’dibattitu onlajn tal-2008 bejn it-teoriku tal-IA Eliezer Yudkowsky u l-ekonomista Robin Hanson, dwar “jekk IA b’intelliġenza ġenerali jkunux jistgħu jtejbu l-kapaċitajiet tagħhom stess malajr ħafna”. L-idea bażika hija eqdem: fl-1965, l-istatistiku I. J. Good argumenta li magna aktar intelliġenti minna tista’ tfassal magni saħansitra aħjar, u tqanqal “splużjoni tal-intelliġenza”.

Il-mekkaniżmu huwa ċiklu ta’ feedback. Jekk l-IA ssir tajba fix-xogħol tal-bini tal-IA, kull titjib iġib lil ta’ warajh aktar malajr. L-AI Safety Atlas juża “foom” bħala sinonimu ta’ “tlugħ mgħaġġel” u “tlugħ iebes”. Il-fehma opposta hija “tlugħ bil-mod”, fejn il-progress jakkumula wkoll, iżda b’mod aktar gradwali; skont stima waħda li jikkwota l-Atlas, xorta 10 sa 100 darba aktar malajr mir-Rivoluzzjoni Industrijali.

Liema wieħed minnhom iseħħ huwa aktar importanti milli jidher. Kif jinnota l-Atlas, in-nuqqas ta’ qbil spiss jinżel għall-mistoqsija jekk il-problemi jkunux “jistgħu jiġu nnotati u rranġati fil-ħin”. Tlugħ mgħaġġel iħalli ftit spazju biex tinnota żball u tikkoreġih. Xenarji bħal AI 2027 ipoġġu l-IA li tagħmel riċerka tal-IA fiċ-ċentru tal-istorja tagħhom, u l-Kodiċi ta’ Prattika tal-UE għall-aktar mudelli kapaċi jelenka l-“awtotitjib” tal-IA fost il-modi kif il-bnedmin jistgħu jitilfu l-kontroll.