Capacidades emergentes

Programadores, programador, programadora, desenvolvedor, informático, informática, engenheiro de software, código, Escritores e jornalistas, escritor, escritora, autor, autora, jornalista, editor, editora, tradutor, tradutora, media, notícias

Capacidades que surgem em modelos de IA maiores sem que ninguém as programe, por vezes de forma abrupta e difíceis de prever.

Ninguém ensina a um modelo de linguagem aritmética, tradução ou programação uma competência de cada vez. Os seus criadores treinam-no para prever texto, tornam-no maior e descobrem depois o que consegue fazer. Um artigo de 2022 de investigadores da Google e de outras instituições chamava «emergente» a uma capacidade se «não está presente em modelos mais pequenos mas está presente em modelos maiores», ou seja, não podia ser prevista extrapolando a partir de modelos mais pequenos.

Até que ponto estes saltos são mesmo súbitos é debatido. Um artigo de 2023 defendeu que muitos se devem à forma como os testes são pontuados: com uma pontuação de tudo ou nada, a melhoria parece abrupta, enquanto com medidas que dão crédito parcial é muitas vezes gradual e previsível. Ambos os lados concordam na parte que importa para a segurança: as novas capacidades vêm da escala e não do design, por isso os criadores de um modelo descobrem o que ele consegue fazer testando-o depois de construído.

É por isso que os testes antes do lançamento importam, e porque é que os modelos continuam a surpreender até os seus próprios criadores. O AI Safety Atlas nota que as capacidades da IA «surpreendem consistentemente os especialistas há mais de uma década».