Rekursiivinen itsensä kehittäminen

Ohjelmoijat, ohjelmoija, koodari, ohjelmistokehittäjä, kehittäjä, IT, koodi, ohjelmointi, Tutkijat, tutkija, tiedemies, tutkimus, akateeminen, laboratorio

Tekoäly, joka auttaa rakentamaan parempaa tekoälyä, joka rakentaa vielä parempaa, takaisinkytkennässä, joka voisi kiihdyttää kehitystä dramaattisesti.

Useimmat teknologiat eivät kehitä itseään. Tekoäly voisi: tekoälyjärjestelmien suunnittelu ja kouluttaminen on itsessään älyllistä työtä, ja jos tekoäly oppii hyväksi siinä työssä, kukin sukupolvi voisi auttaa rakentamaan vahvemman seuraavan. AI Safety Atlas kuvaa tätä niin, että ”tekoälyjärjestelmä tulee paremmaksi itsensä kehittämisessä”, takaisinkytkentänä, joka kiihtyy jatkuvasti. Ajatus juontaa tilastotieteilijä I. J. Goodiin, joka esitti vuonna 1965, että meitä älykkäämpi kone voisi suunnitella vielä parempia koneita, mikä johtaisi ”älykkyysräjähdykseen”.

Se, kuinka nopeasti tällainen kierre etenisi, on kiistanalaista. ”Nopean nousun” kuvassa se karkaa käsistä nopeasti ja jättää vähän aikaa reagoida. ”Hitaan nousun” kuvassa kehitys kertautuu asteittaisemmin, joskin erään arvion mukaan silti 10–100 kertaa teollista vallankumousta nopeammin. Atlas huomauttaa, että ero palautuu usein siihen, olisivatko ongelmat havaittavissa ja korjattavissa ajoissa. AI 2027:n kaltaiset skenaariot pitävät tekoälytutkimusta tekevää tekoälyä käännekohtana.

Sillä on merkitystä turvallisuudelle, koska nopea kierre lyhentää aikaa havaita ja korjata ongelmia. EU:n käytännesäännöt kyvykkäimmille tekoälymalleille luettelevat ”itsensä kehittämisen” ja tekoälyn, joka ”itsenäisesti luo tai parantaa tekoälymalleja”, niiden tapojen joukossa, joilla ihmiset voisivat menettää hallinnan.