Foom

Također: eksplozija inteligencije, tvrdo polijetanje, brzo polijetanje, singularnost, intelligence explosion, hard takeoff

Ideja da bi UI, kad se jednom može sama poboljšavati, vrlo brzo mogla prijeći s ljudske razine daleko iznad nas.

„Foom” je zvuk nečega što vrlo brzo polijeće. Postao je naziv za brzu „eksploziju inteligencije” u internetskoj raspravi iz 2008. između teoretičara UI-ja Eliezera Yudkowskog i ekonomista Robina Hansona o tome „hoće li općenito inteligentni sustavi UI-ja moći vrlo brzo poboljšavati vlastite sposobnosti”. Temeljna ideja je starija: statističar I. J. Good tvrdio je 1965. da bi stroj pametniji od nas mogao osmisliti još bolje strojeve i tako pokrenuti „eksploziju inteligencije”.

Mehanizam je povratna petlja. Ako UI postane dobra u poslu izgradnje UI-ja, svako poboljšanje dovodi sljedeće brže. AI Safety Atlas koristi „foom” kao sinonim za „brzo polijetanje” i „tvrdo polijetanje”. Suprotno stajalište je „sporo polijetanje”, u kojem se napredak također nadograđuje, ali postupnije; prema jednoj procjeni koju Atlas navodi, i dalje 10 do 100 puta brže od industrijske revolucije.

Koje će se od toga dogoditi važnije je nego što zvuči. Kako Atlas napominje, neslaganje se često svodi na to bi li problemi bili „pravodobno uočljivi i popravljivi”. Brzo polijetanje ostavlja malo prostora da se pogreška uoči i ispravi. Scenariji poput AI 2027 u središte priče stavljaju UI koja istražuje UI, a kodeks prakse EU-a za najsposobnije modele navodi „samopoboljšavanje” UI-ja među načinima na koje bi ljudi mogli izgubiti kontrolu.