AIdeas
- AI 2027 Mohla by nadlidská AI přijít během několika let? Podrobný scénář z roku 2025 o tom, jak by se AI mohla do konce roku 2027 dostat od dnešních chatbotů k superinteligenci, a co by se mohlo pokazit.
- Daň za sladění Dělá zabezpečení AI pomalejší nebo horší? Dodatečné náklady v penězích, čase nebo výkonu na to, aby byl systém AI bezpečný, a ne jen schopný.
- Foom Mohla by se AI zlepšovat tak rychle, že nebudeme stačit? Myšlenka, že jakmile se AI dokáže sama zlepšovat, mohla by se velmi rychle dostat z lidské úrovně daleko za nás.
- Je to jen automatické doplňování Předpovídá AI jen další slovo? Představa, že chatboti jsou jen větší verzí našeptávání slov v tvém telefonu, takže není čeho se bát.
- Maximalizátor kancelářských sponek Proč by neškodný cíl mohl být pro mocnou AI nebezpečný? Myšlenkový experiment o AI, která sleduje neškodně znějící cíl až do katastrofálních extrémů.
- p(doom) Jak pravděpodobné je, že AI dopadne špatně? Zkratka pro něčí osobní odhad pravděpodobnosti, že AI povede ke katastrofě, například k vyhynutí lidstva.
- Prostě to vypni ze zásuvky Proč nemůžeme nebezpečnou AI prostě vypnout? Běžná odpověď, že nebezpečnou AI lze vždycky vypnout, a proč si výzkumníci nemyslí, že je to tak jednoduché.
- Shoggoth Je přátelský chatbot jen maska? Meme, které zobrazuje AI jako chapadlovité monstrum s malou maskou smajlíka: přátelského asistenta, kterého vidíme.
- Stochastický papoušek Rozumí AI něčemu, nebo jen opakuje, co četla? Tvrzení, že jazykové modely skládají slova podle pravděpodobnosti, bez jakéhokoli porozumění významu.
- Zrádný obrat Mohla by se AI chovat hezky, dokud nebude dost silná, aby nemusela? Scénář, ve kterém se AI chová dobře, dokud je slabá a sledovaná, a změní kurz, jakmile ji už nelze zastavit.
