Foom

Také: exploze inteligence, tvrdý vzlet, rychlý vzlet, singularita, intelligence explosion, hard takeoff

Myšlenka, že jakmile se AI dokáže sama zlepšovat, mohla by se velmi rychle dostat z lidské úrovně daleko za nás.

„Foom“ je zvuk něčeho, co velmi rychle vzlétá. Tak se začalo říkat rychlé „explozi inteligence“ v online debatě z roku 2008 mezi teoretikem AI Eliezerem Yudkowským a ekonomem Robinem Hansonem o tom, „zda obecně inteligentní AI budou schopné velmi rychle zlepšovat své vlastní schopnosti“. Samotná myšlenka je starší: v roce 1965 statistik I. J. Good tvrdil, že stroj chytřejší než my by mohl navrhovat ještě lepší stroje a spustit tak „explozi inteligence“.

Mechanismem je zpětná vazba. Pokud se AI zlepší v práci na vývoji AI, každé zlepšení přivede další rychleji. AI Safety Atlas používá „foom“ jako synonymum „rychlého vzletu“ a „tvrdého vzletu“. Opačný názor je „pomalý vzlet“, při kterém se pokrok také sčítá, ale postupněji; podle jednoho odhadu, který Atlas cituje, stále 10 až 100krát rychleji než průmyslová revoluce.

Na tom, který z nich nastane, záleží víc, než se zdá. Jak Atlas poznamenává, spor se často scvrkává na to, zda by problémy byly „včas zjistitelné a opravitelné“. Rychlý vzlet nechává málo prostoru chybu odhalit a napravit. Scénáře jako AI 2027 staví do středu svého příběhu AI, která dělá výzkum AI, a kodex zásad EU pro nejschopnější modely uvádí „sebezdokonalování“ AI mezi způsoby, jak by lidé mohli ztratit kontrolu.