AIdeas
- A viragem traiçoeira Poderá uma IA portar-se bem até ser forte o suficiente para não precisar? O cenário em que uma IA se porta bem enquanto é fraca e vigiada, e muda de rumo quando já não pode ser travada.
- AI 2027 Poderá uma IA sobre-humana chegar dentro de poucos anos? Um cenário detalhado de 2025 sobre como a IA poderia passar dos chatbots atuais à superinteligência até ao final de 2027, e o que poderia correr mal.
- Basta desligar da tomada Porque é que não podemos simplesmente desligar uma IA perigosa? A resposta habitual de que uma IA perigosa poderia sempre ser desligada, e porque é que os investigadores não acham que seja assim tão simples.
- É só autocompletar A IA limita-se a prever a próxima palavra? A ideia de que os chatbots são apenas uma versão maior das sugestões de palavras do seu telemóvel e que, por isso, não há motivo para preocupação.
- Foom Poderá a IA melhorar-se a si própria tão depressa que não consigamos acompanhar? A ideia de que, quando a IA conseguir melhorar-se a si própria, poderá passar muito depressa do nível humano para muito além de nós.
- Maximizador de clipes Porque é que um objetivo inofensivo poderia ser perigoso para uma IA poderosa? Uma experiência mental sobre uma IA que persegue um objetivo aparentemente inofensivo até extremos catastróficos.
- O imposto do alinhamento Tornar a IA segura torna-a mais lenta ou pior? O custo extra, em dinheiro, tempo ou desempenho, de tornar um sistema de IA seguro e não apenas capaz.
- O shoggoth O chatbot simpático é só uma máscara? Um meme que mostra a IA como um monstro com tentáculos que usa uma pequena máscara sorridente: o assistente simpático que vemos.
- p(doom) Qual é a probabilidade de a IA correr mal? Abreviatura para a estimativa pessoal de alguém sobre a probabilidade de a IA levar a uma catástrofe, como a extinção humana.
- Papagaio estocástico A IA percebe alguma coisa, ou só repete o que leu? A afirmação de que os modelos de linguagem juntam palavras segundo probabilidades, sem qualquer compreensão do significado.
