Рекурсивно самоусъвършенстване

Програмисти, програмист, програмистка, разработчик, софтуерен инженер, ИТ, IT, код, Учени и изследователи, учен, учена, изследовател, изследване, наука, академик, лаборатория

ИИ, който помага да се създаде по-добър ИИ, който на свой ред създава още по-добър, в обратна връзка, която може драматично да ускори напредъка.

Повечето технологии не се подобряват сами. ИИ би могъл: проектирането и обучението на системи с ИИ само по себе си е интелектуален труд и ако ИИ стане добър в този труд, всяко поколение би могло да помогне за създаването на по-силно следващо. AI Safety Atlas описва това като „система с ИИ става по-добра в подобряването на самата себе си“, обратна връзка, която непрекъснато се ускорява. Идеята води началото си от статистика И. Дж. Гуд, който през 1965 г. твърди, че машина, по-умна от нас, би могла да проектира още по-добри машини, което би довело до „интелектуален взрив“.

Колко бързо би протичал такъв цикъл, е спорно. В картината на „бързото излитане“ той бързо излиза извън контрол и оставя малко време за реакция. В картината на „бавното излитане“ напредъкът се натрупва постепенно, макар според една оценка пак от 10 до 100 пъти по-бързо от Индустриалната революция. Atlas отбелязва, че разликата често се свежда до това дали проблемите биха били забележими и поправими навреме. Сценарии като AI 2027 разглеждат ИИ, който прави изследвания на ИИ, като повратна точка.

Това е важно за безопасността, защото бързият цикъл съкращава времето за забелязване и поправяне на проблемите. Кодексът за добри практики на ЕС за най-способните модели на ИИ посочва „самоусъвършенстването“ и ИИ, който „самостоятелно създава или подобрява модели на ИИ“, сред начините, по които хората биха могли да загубят контрол.