Rekursiivne enesetäiustamine

Programmeerijad, programmeerija, arendaja, tarkvaraarendaja, IT, kood, programmeerimine, Teadlased, teadlane, uurija, teadus, akadeemik, labor

Tehisintellekt, mis aitab ehitada paremat tehisintellekti, mis ehitab veelgi paremat, tagasisideahelas, mis võiks arengut dramaatiliselt kiirendada.

Enamik tehnoloogiaid ei täiusta iseennast. Tehisintellekt võiks: tehisintellekti süsteemide kavandamine ja treenimine on iseenesest vaimne töö ja kui tehisintellekt saab selles töös heaks, võiks iga põlvkond aidata ehitada tugevamat järgmist. AI Safety Atlas kirjeldab seda nii, et „tehisintellekti süsteem muutub paremaks iseenda täiustamises“, tagasisideahelana, mis üha kiireneb. Idee ulatub statistik I. J. Goodini, kes väitis 1965. aastal, et meist targem masin võiks kavandada veelgi paremaid masinaid, mis viiks „intellektiplahvatuseni“.

See, kui kiiresti selline ahel töötaks, on vaieldav. „Kiire õhkutõusu“ pildis väljub see kiiresti kontrolli alt ja jätab vähe aega reageerimiseks. „Aeglase õhkutõusu“ pildis kuhjub areng järk-järgulisemalt, ehkki ühe hinnangu järgi ikkagi 10–100 korda kiiremini kui tööstusrevolutsioon. Atlas märgib, et erinevus taandub sageli sellele, kas probleemid oleksid õigel ajal märgatavad ja parandatavad. Stsenaariumid nagu AI 2027 käsitlevad tehisintellekti uurimistööd tegevat tehisintellekti pöördepunktina.

See on ohutuse jaoks oluline, sest kiire ahel lühendab aega probleemide märkamiseks ja parandamiseks. ELi tegevusjuhend kõige võimekamate tehisintellekti mudelite jaoks nimetab „enesetäiustamist“ ja tehisintellekti, mis „loob või täiustab iseseisvalt tehisintellekti mudeleid“, viiside hulgas, kuidas inimesed võiksid kontrolli kaotada.