Foom

Myös: älykkyysräjähdys, kova nousu, nopea nousu, singulariteetti, intelligence explosion, hard takeoff

Ajatus siitä, että kun tekoäly kerran pystyy kehittämään itseään, se voisi hyvin nopeasti edetä ihmisen tasolta kauas meidän ohitsemme.

”Foom” on hyvin nopeasti nousevan asian ääni. Siitä tuli nopean ”älykkyysräjähdyksen” nimi vuoden 2008 verkkoväittelyssä tekoälyteoreetikko Eliezer Yudkowskyn ja taloustieteilijä Robin Hansonin välillä siitä, ”pystyvätkö yleisälykkäät tekoälyt kehittämään omia kykyjään hyvin nopeasti”. Perusajatus on vanhempi: vuonna 1965 tilastotieteilijä I. J. Good esitti, että meitä älykkäämpi kone voisi suunnitella vielä parempia koneita ja käynnistää näin ”älykkyysräjähdyksen”.

Mekanismi on takaisinkytkentä. Jos tekoäly oppii hyväksi tekoälyn rakentamisen työssä, jokainen parannus tuo seuraavan nopeammin. AI Safety Atlas käyttää ”foomia” ”nopean nousun” ja ”kovan nousun” synonyymina. Vastakkainen näkemys on ”hidas nousu”, jossa kehitys myös kertautuu mutta asteittaisemmin; erään Atlasin lainaaman arvion mukaan silti 10–100 kertaa teollista vallankumousta nopeammin.

Se, kumpi toteutuu, on tärkeämpää kuin miltä kuulostaa. Kuten Atlas huomauttaa, erimielisyys palautuu usein siihen, olisivatko ongelmat ”havaittavissa ja korjattavissa ajoissa”. Nopea nousu jättää vähän tilaa huomata virhe ja korjata se. AI 2027:n kaltaiset skenaariot asettavat tarinansa keskiöön tekoälyn, joka tekee tekoälytutkimusta, ja EU:n käytännesäännöt kyvykkäimmille malleille luettelevat tekoälyn ”itsensä kehittämisen” niiden tapojen joukossa, joilla ihmiset voisivat menettää hallinnan.