Conceito

Convergência instrumental

Muitos objetivos finais diferentes partilham os mesmos subobjetivos úteis, como obter recursos e evitar ser desligado.

Entrada provisória. Explique o conceito em linguagem simples e depois aponte para as melhores fontes primárias.

Saber mais

AI Safety Atlas curso · inglês

AIdeas que levam aqui

A viragem traiçoeira Poderá uma IA portar-se bem até ser forte o suficiente para não precisar?
Basta desligar da tomada Porque é que não podemos simplesmente desligar uma IA perigosa?
Maximizador de clipes Porque é que um objetivo inofensivo poderia ser perigoso para uma IA poderosa?

Quem trabalha nisto

Ainda não há nada aqui.

Feito pela comunidade

Jogos, ferramentas e investigação de pessoas que trabalham na segurança da IA. Cada projeto abre no seu próprio site.

Takeoff: Europe’s Next Move A 15-minute browser game. You’re Europe’s AI envoy, picking a policy every half-year while the US and China race ahead. Your dashboards show how safe the AI looks; how safe it really was comes out at the end.
Jogo

Escreva aos seus eurodeputados · 2 minutos