AIdea
Foom
Poderá a IA melhorar-se a si própria tão depressa que não consigamos acompanhar?
Também: explosão de inteligência, descolagem abrupta, descolagem rápida, a singularidade, intelligence explosion, hard takeoff
A ideia de que, quando a IA conseguir melhorar-se a si própria, poderá passar muito depressa do nível humano para muito além de nós.
«Foom» é o som de algo a descolar muito depressa. Tornou-se o nome de uma «explosão de inteligência» rápida num debate online de 2008 entre o teórico da IA Eliezer Yudkowsky e o economista Robin Hanson, sobre «se as IA de inteligência geral serão capazes de melhorar as suas próprias capacidades muito rapidamente». A ideia de fundo é mais antiga: em 1965, o estatístico I. J. Good defendeu que uma máquina mais inteligente do que nós poderia conceber máquinas ainda melhores, desencadeando uma «explosão de inteligência».
O mecanismo é um ciclo de retroalimentação. Se a IA se tornar boa no trabalho de construir IA, cada melhoria faz a seguinte chegar mais depressa. O AI Safety Atlas usa «foom» como sinónimo de «descolagem rápida» e «descolagem abrupta». A posição contrária é uma «descolagem lenta», em que o progresso também se acumula, mas de forma mais gradual; segundo uma estimativa citada pelo Atlas, ainda assim entre 10 e 100 vezes mais depressa do que a Revolução Industrial.
Qual das duas acontecerá importa mais do que parece. Como nota o Atlas, o desacordo resume-se muitas vezes a saber se os problemas seriam «detetáveis e corrigíveis a tempo». Uma descolagem rápida deixa pouca margem para detetar um erro e corrigi-lo. Cenários como o AI 2027 põem no centro da sua história a IA que faz investigação em IA, e o código de práticas da UE para os modelos mais capazes inclui o «autoaperfeiçoamento» da IA entre as formas de os humanos perderem o controlo.
