Autoaperfeiçoamento recursivo

Programadores, programador, programadora, desenvolvedor, informático, informática, engenheiro de software, código, Cientistas e investigadores, cientista, investigador, investigadora, pesquisador, investigação, académico, laboratório

Uma IA que ajuda a construir uma IA melhor, que por sua vez constrói outra ainda melhor, num ciclo de retroalimentação que poderia acelerar o progresso de forma drástica.

A maioria das tecnologias não se melhora a si própria. A IA poderá fazê-lo: conceber e treinar sistemas de IA é em si trabalho intelectual, e se a IA se tornar boa nesse trabalho, cada geração poderá ajudar a construir a seguinte, mais forte. O AI Safety Atlas descreve-o como «um sistema de IA torna-se melhor a melhorar-se a si próprio», um ciclo de retroalimentação que não para de acelerar. A ideia remonta ao estatístico I. J. Good, que defendeu em 1965 que uma máquina mais inteligente do que nós poderia conceber máquinas ainda melhores, levando a uma «explosão de inteligência».

A velocidade de um ciclo destes é discutida. Na visão da «descolagem rápida», descontrola-se depressa, deixando pouco tempo para reagir. Na da «descolagem lenta», o progresso acumula-se de forma mais gradual, embora segundo uma estimativa ainda entre 10 e 100 vezes mais depressa do que a Revolução Industrial. O Atlas nota que a diferença se resume muitas vezes a saber se os problemas seriam detetáveis e corrigíveis a tempo. Cenários como o AI 2027 tratam a IA que faz investigação em IA como o ponto de viragem.

Isto importa para a segurança porque um ciclo rápido reduz o tempo para detetar e corrigir problemas. O código de práticas da UE para os modelos de IA mais capazes inclui o «autoaperfeiçoamento» e a IA «criar ou melhorar modelos de IA de forma autónoma» entre as formas de os humanos perderem o controlo.