Rekurencyjne samodoskonalenie

Programiści, programista, programistka, developer, informatyk, informatyczka, IT, kod, programowanie, Naukowcy i badacze, naukowiec, naukowczyni, badacz, badaczka, badania, nauka, akademik, laboratorium

AI, która pomaga budować lepszą AI, która buduje jeszcze lepszą AI, w sprzężeniu zwrotnym, które mogłoby dramatycznie przyspieszyć postęp.

Większość technologii nie ulepsza samej siebie. AI mogłaby: projektowanie i trenowanie systemów AI to samo w sobie praca intelektualna, a jeśli AI stanie się w niej dobra, każde pokolenie mogłoby pomagać budować silniejsze następne. AI Safety Atlas opisuje to jako sytuację, w której „system AI staje się lepszy w ulepszaniu samego siebie”, sprzężenie zwrotne, które ciągle przyspiesza. Idea sięga statystyka I. J. Gooda, który w 1965 roku przekonywał, że maszyna mądrzejsza od nas mogłaby projektować jeszcze lepsze maszyny, prowadząc do „eksplozji inteligencji”.

Jak szybko działałaby taka pętla, jest sporne. W obrazie „szybkiego startu” szybko wymyka się spod kontroli, zostawiając mało czasu na reakcję. W obrazie „wolnego startu” postęp narasta stopniowo, choć według jednego z szacunków wciąż od 10 do 100 razy szybciej niż rewolucja przemysłowa. Atlas zauważa, że różnica często sprowadza się do tego, czy problemy byłyby zauważalne i możliwe do naprawienia na czas. Scenariusze takie jak AI 2027 traktują AI prowadzącą badania nad AI jako punkt zwrotny.

Ma to znaczenie dla bezpieczeństwa, bo szybka pętla skraca czas na zauważenie i naprawienie problemów. Unijny kodeks praktyk dla najbardziej zaawansowanych modeli AI wymienia „samodoskonalenie się” i AI, która „autonomicznie tworzy lub ulepsza modele AI”, wśród sposobów, w jakie ludzie mogliby stracić kontrolę.