AIdeas
- AI 2027 Une IA surhumaine pourrait-elle arriver d’ici quelques années ? Un scénario détaillé de 2025 sur la façon dont l’IA pourrait passer des chatbots actuels à la superintelligence d’ici fin 2027, et sur ce qui pourrait mal tourner.
- Ce n’est que de l’autocomplétion L’IA ne fait-elle que prédire le mot suivant ? L’idée que les chatbots ne sont qu’une version plus grande des suggestions de mots de votre téléphone, et qu’il n’y a donc pas de quoi s’inquiéter.
- Foom L’IA pourrait-elle s’améliorer si vite que nous ne pourrions plus suivre ? L’idée qu’une fois capable de s’améliorer elle-même, l’IA pourrait passer très vite du niveau humain à bien au-delà.
- Il suffit de le débrancher Pourquoi ne peut-on pas simplement éteindre une IA dangereuse ? La réponse courante selon laquelle on pourrait toujours éteindre une IA dangereuse, et pourquoi les chercheurs ne pensent pas que ce soit si simple.
- La taxe d’alignement Rendre l’IA sûre la rend-elle plus lente ou moins bonne ? Le coût supplémentaire, en argent, en temps ou en performances, pour rendre un système d’IA sûr et pas seulement performant.
- Le revirement perfide Une IA pourrait-elle se montrer gentille jusqu’à être assez forte pour ne plus en avoir besoin ? Le scénario dans lequel une IA se comporte bien tant qu’elle est faible et surveillée, et change de cap dès qu’on ne peut plus l’arrêter.
- Le shoggoth Le chatbot sympathique n’est-il qu’un masque ? Un mème qui représente l’IA comme un monstre à tentacules portant un petit masque souriant : l’assistant sympathique que nous voyons.
- Maximiseur de trombones Pourquoi un objectif anodin pourrait-il être dangereux pour une IA puissante ? Une expérience de pensée sur une IA qui poursuit un objectif d’apparence anodine jusqu’à des extrêmes catastrophiques.
- p(doom) Quelle est la probabilité que l’IA tourne mal ? Abréviation désignant l’estimation personnelle de la probabilité que l’IA mène à une catastrophe, comme l’extinction de l’humanité.
- Perroquet stochastique L’IA comprend-elle quelque chose, ou ne fait-elle que répéter ce qu’elle a lu ? L’affirmation selon laquelle les modèles de langage assemblent des mots selon des probabilités, sans aucune compréhension du sens.
