Foom

Още: интелектуален взрив, рязко излитане, бързо излитане, сингулярността, intelligence explosion, hard takeoff

Идеята, че щом ИИ може сам да се подобрява, той може много бързо да стигне от човешко ниво до далеч отвъд нас.

„Foom“ е звукът на нещо, което излита много бързо. Така е наречен бързият „интелектуален взрив“ в онлайн дебат от 2008 г. между теоретика на ИИ Елиезер Юдковски и икономиста Робин Хансън за това „дали ИИ с общ интелект ще могат много бързо да подобряват собствените си способности“. Основната идея е по-стара: през 1965 г. статистикът И. Дж. Гуд твърди, че машина, по-умна от нас, би могла да проектира още по-добри машини и така да отключи „интелектуален взрив“.

Механизмът е обратна връзка. Ако ИИ стане добър в работата по създаване на ИИ, всяко подобрение води до следващото по-бързо. AI Safety Atlas използва „foom“ като синоним на „бързо излитане“ и „рязко излитане“. Обратната позиция е „бавно излитане“, при което напредъкът също се натрупва, но постепенно; според една оценка, цитирана от Atlas, все пак от 10 до 100 пъти по-бързо от Индустриалната революция.

Кое от двете ще се случи, е по-важно, отколкото звучи. Както отбелязва Atlas, спорът често се свежда до това дали проблемите биха били „забележими и поправими навреме“. Бързото излитане оставя малко място грешката да бъде забелязана и поправена. Сценарии като AI 2027 поставят в центъра на историята си ИИ, който прави изследвания на ИИ, а кодексът за добри практики на ЕС за най-способните модели посочва „самоусъвършенстването“ на ИИ сред начините, по които хората биха могли да загубят контрол.