AIdeas
- AI 2027 Könnte übermenschliche KI schon in wenigen Jahren kommen? Ein detailliertes Szenario von 2025 darüber, wie KI bis Ende 2027 von heutigen Chatbots zur Superintelligenz gelangen könnte und was dabei schiefgehen kann.
- Büroklammer-Maximierer Warum könnte ein harmloses Ziel für eine mächtige KI gefährlich sein? Ein Gedankenexperiment über eine KI, die ein harmlos klingendes Ziel bis ins katastrophale Extrem verfolgt.
- Das ist doch nur Autovervollständigung Sagt KI nur das nächste Wort voraus? Die Idee, dass Chatbots nur eine größere Version der Wortvorschläge auf deinem Handy sind und es deshalb keinen Grund zur Sorge gibt.
- Der Shoggoth Ist der freundliche Chatbot nur eine Maske? Ein Meme, das KI als Tentakelmonster mit einer kleinen Smiley-Maske zeigt: dem freundlichen Assistenten, den wir sehen.
- Die Alignment-Steuer Macht es KI langsamer oder schlechter, sie sicher zu machen? Die zusätzlichen Kosten an Geld, Zeit oder Leistung, um ein KI-System sicher statt nur leistungsfähig zu machen.
- Die verräterische Wende Könnte eine KI sich nett geben, bis sie stark genug ist, es nicht mehr zu müssen? Das Szenario, in dem sich eine KI gut verhält, solange sie schwach ist und beobachtet wird, und den Kurs ändert, sobald sie nicht mehr aufzuhalten ist.
- Foom Könnte sich KI so schnell selbst verbessern, dass wir nicht mehr mitkommen? Die Idee, dass KI, sobald sie sich selbst verbessern kann, sehr schnell vom menschlichen Niveau weit über uns hinaus gelangen könnte.
- p(doom) Wie wahrscheinlich ist es, dass KI schlecht ausgeht? Kurzform für die persönliche Schätzung, wie wahrscheinlich es ist, dass KI zu einer Katastrophe wie dem Aussterben der Menschheit führt.
- Stochastischer Papagei Versteht KI irgendetwas, oder wiederholt sie nur, was sie gelesen hat? Die Behauptung, dass Sprachmodelle Wörter nach Wahrscheinlichkeit aneinanderreihen, ohne jedes Verständnis von Bedeutung.
- Zieh doch einfach den Stecker Warum können wir eine gefährliche KI nicht einfach abschalten? Die verbreitete Antwort, eine gefährliche KI könne man jederzeit abschalten, und warum Forschende das nicht für so einfach halten.
