AIdeas
- AI 2027 ¿Podría llegar una IA sobrehumana en pocos años? Un escenario detallado de 2025 sobre cómo la IA podría pasar de los chatbots actuales a la superinteligencia a finales de 2027, y qué podría salir mal.
- Basta con desenchufarla ¿Por qué no podemos simplemente apagar una IA peligrosa? La respuesta habitual de que una IA peligrosa siempre se podría apagar, y por qué los investigadores creen que no es tan sencillo.
- El giro traicionero ¿Podría una IA portarse bien hasta ser lo bastante fuerte como para no necesitarlo? El escenario en el que una IA se comporta bien mientras es débil y está vigilada, y cambia de rumbo cuando ya no se la puede detener.
- El impuesto de alineamiento ¿Hacer que la IA sea segura la vuelve más lenta o peor? El coste adicional, en dinero, tiempo o rendimiento, de hacer que un sistema de IA sea seguro y no solo capaz.
- El shoggoth ¿El chatbot amable es solo una máscara? Un meme que representa la IA como un monstruo con tentáculos que lleva una pequeña máscara sonriente: el asistente amable que vemos.
- Foom ¿Podría la IA mejorarse a sí misma tan rápido que no pudiéramos seguirle el ritmo? La idea de que, una vez que la IA pueda mejorarse a sí misma, podría pasar muy rápido del nivel humano a superarnos con creces.
- Loro estocástico ¿La IA entiende algo o solo repite lo que ha leído? La afirmación de que los modelos de lenguaje encadenan palabras según probabilidades, sin comprender en absoluto su significado.
- Maximizador de clips ¿Por qué un objetivo inofensivo podría ser peligroso para una IA poderosa? Un experimento mental sobre una IA que persigue un objetivo de apariencia inofensiva hasta extremos catastróficos.
- No es más que autocompletar ¿La IA solo predice la siguiente palabra? La idea de que los chatbots solo son una versión más grande de las sugerencias de palabras de tu móvil, así que no hay nada de qué preocuparse.
- p(doom) ¿Qué probabilidad hay de que la IA salga mal? Abreviatura de la estimación personal de alguien sobre la probabilidad de que la IA lleve a una catástrofe, como la extinción humana.
