AIdeas
- AI 2027 Kan bovenmenselijke AI er al over een paar jaar zijn? Een gedetailleerd scenario uit 2025 over hoe AI tegen eind 2027 van de chatbots van nu naar superintelligentie zou kunnen gaan, en wat er mis kan gaan.
- De alignmentbelasting Maakt het veilig maken van AI haar trager of slechter? De extra kosten, in geld, tijd of prestaties, om een AI-systeem veilig te maken in plaats van alleen capabel.
- De shoggoth Is de vriendelijke chatbot alleen een masker? Een meme die AI afbeeldt als een monster met tentakels dat een klein smileymasker draagt: de vriendelijke assistent die wij zien.
- De verraderlijke ommezwaai Kan een AI zich aardig voordoen tot ze sterk genoeg is om dat niet meer te hoeven? Het scenario waarin een AI zich goed gedraagt zolang ze zwak is en in de gaten wordt gehouden, en van koers verandert zodra ze niet meer te stoppen is.
- Foom Kan AI zichzelf zo snel verbeteren dat we het niet meer bijbenen? Het idee dat AI, zodra ze zichzelf kan verbeteren, heel snel van menselijk niveau tot ver voorbij ons zou kunnen gaan.
- Het is gewoon autocomplete Voorspelt AI alleen het volgende woord? Het idee dat chatbots alleen een grotere versie zijn van de woordsuggesties op je telefoon, dus dat er niets is om je zorgen over te maken.
- p(doom) Hoe waarschijnlijk is het dat het slecht afloopt met AI? Afkorting voor iemands persoonlijke schatting van de kans dat AI tot een catastrofe leidt, zoals het uitsterven van de mensheid.
- Paperclipmaximalisator Waarom zou een onschuldig doel gevaarlijk kunnen zijn voor een krachtige AI? Een gedachte-experiment over een AI die een onschuldig klinkend doel tot catastrofale uitersten najaagt.
- Stochastische papegaai Begrijpt AI iets, of herhaalt ze alleen wat ze heeft gelezen? De bewering dat taalmodellen woorden op basis van waarschijnlijkheid aan elkaar rijgen, zonder enig begrip van betekenis.
- Trek gewoon de stekker eruit Waarom kunnen we een gevaarlijke AI niet gewoon uitzetten? Het gangbare antwoord dat je een gevaarlijke AI altijd kunt uitzetten, en waarom onderzoekers denken dat het niet zo simpel is.
