AIdeas
- AI 2027 Mohla by nadľudská AI prísť v priebehu niekoľkých rokov? Podrobný scenár z roku 2025 o tom, ako by sa AI mohla do konca roka 2027 dostať od dnešných chatbotov k superinteligencii, a čo by sa mohlo pokaziť.
- Daň za zosúladenie Robí zabezpečenie AI pomalšou alebo horšou? Dodatočné náklady v peniazoch, čase alebo výkone na to, aby bol systém AI bezpečný, a nie len schopný.
- Foom Mohla by sa AI zlepšovať tak rýchlo, že nebudeme stíhať? Myšlienka, že keď sa AI dokáže sama zlepšovať, mohla by sa veľmi rýchlo dostať z ľudskej úrovne ďaleko za nás.
- Je to len automatické dopĺňanie Predpovedá AI len ďalšie slovo? Predstava, že chatboty sú len väčšou verziou návrhov slov v tvojom telefóne, takže sa netreba ničoho obávať.
- Maximalizátor kancelárskych spiniek Prečo by neškodný cieľ mohol byť pre mocnú AI nebezpečný? Myšlienkový experiment o AI, ktorá sleduje neškodne znejúci cieľ až do katastrofálnych extrémov.
- p(doom) Aké pravdepodobné je, že AI dopadne zle? Skratka pre niečí osobný odhad pravdepodobnosti, že AI povedie ku katastrofe, napríklad k vyhynutiu ľudstva.
- Proste to vytiahni zo zásuvky Prečo nemôžeme nebezpečnú AI jednoducho vypnúť? Bežná odpoveď, že nebezpečnú AI možno vždy vypnúť, a prečo si výskumníci nemyslia, že je to také jednoduché.
- Shoggoth Je priateľský chatbot len maska? Meme, ktoré zobrazuje AI ako chápadlové monštrum s malou maskou smajlíka: priateľského asistenta, ktorého vidíme.
- Stochastický papagáj Rozumie AI niečomu, alebo len opakuje, čo čítala? Tvrdenie, že jazykové modely skladajú slová podľa pravdepodobnosti, bez akéhokoľvek porozumenia významu.
- Zradný obrat Mohla by sa AI správať pekne, kým nebude dosť silná, aby nemusela? Scenár, v ktorom sa AI správa dobre, kým je slabá a sledovaná, a zmení kurz, keď ju už nemožno zastaviť.
