Foom

Ka: intellektiplahvatus, järsk õhkutõus, kiire õhkutõus, singulaarsus, intelligence explosion, hard takeoff

Idee, et kui tehisintellekt suudab end ise täiustada, võiks see väga kiiresti jõuda inimtasemelt meist kaugele ette.

„Foom“ on väga kiiresti õhku tõusva asja heli. Sellest sai kiire „intellektiplahvatuse“ nimi 2008. aasta veebiväitluses tehisintellekti teoreetiku Eliezer Yudkowsky ja majandusteadlase Robin Hansoni vahel teemal, „kas üldintelligentsed tehisintellektid suudavad oma võimeid väga kiiresti parandada“. Põhiidee on vanem: 1965. aastal väitis statistik I. J. Good, et meist targem masin võiks kavandada veelgi paremaid masinaid ja vallandada nii „intellektiplahvatuse“.

Mehhanism on tagasisideahel. Kui tehisintellekt saab heaks tehisintellekti ehitamise töös, toob iga täiustus järgmise kiiremini. AI Safety Atlas kasutab sõna „foom“ sünonüümina „kiirele õhkutõusule“ ja „järsule õhkutõusule“. Vastupidine seisukoht on „aeglane õhkutõus“, kus areng samuti kuhjub, kuid järk-järgulisemalt; ühe Atlase tsiteeritud hinnangu järgi siiski 10–100 korda kiiremini kui tööstusrevolutsioon.

See, kumb neist teostub, on olulisem, kui kõlab. Nagu Atlas märgib, taandub lahkarvamus sageli sellele, kas probleemid oleksid „õigel ajal märgatavad ja parandatavad“. Kiire õhkutõus jätab vähe ruumi vea märkamiseks ja parandamiseks. Stsenaariumid nagu AI 2027 seavad oma loo keskmesse tehisintellekti, mis teeb tehisintellekti uurimistööd, ning ELi tegevusjuhend kõige võimekamate mudelite jaoks nimetab tehisintellekti „enesetäiustamist“ ühe viisina, kuidas inimesed võiksid kontrolli kaotada.