AIdeas
- AI 2027 Czy nadludzka AI może pojawić się w ciągu kilku lat? Szczegółowy scenariusz z 2025 roku o tym, jak AI mogłaby przejść od dzisiejszych chatbotów do superinteligencji do końca 2027 roku, i co mogłoby pójść nie tak.
- Foom Czy AI mogłaby ulepszać się tak szybko, że nie nadążymy? Pomysł, że gdy AI zacznie ulepszać samą siebie, może bardzo szybko przejść od poziomu ludzkiego do poziomu daleko poza nami.
- Maksymalizator spinaczy Dlaczego nieszkodliwy cel mógłby być niebezpieczny dla potężnej AI? Eksperyment myślowy o AI, która realizuje niewinnie brzmiący cel aż do katastrofalnych skrajności.
- p(doom) Jak bardzo prawdopodobne jest, że z AI skończy się źle? Skrót oznaczający czyjeś osobiste oszacowanie szansy, że AI doprowadzi do katastrofy, takiej jak wyginięcie ludzkości.
- Po prostu wyciągnij wtyczkę Dlaczego nie możemy po prostu wyłączyć niebezpiecznej AI? Popularna odpowiedź, że niebezpieczną AI zawsze można wyłączyć, i dlaczego badacze nie uważają, że to takie proste.
- Podatek od zgodności Czy uczynienie AI bezpieczną sprawia, że jest wolniejsza lub gorsza? Dodatkowy koszt, w pieniądzach, czasie lub wydajności, uczynienia systemu AI bezpiecznym, a nie tylko sprawnym.
- Shoggoth Czy przyjazny chatbot to tylko maska? Mem przedstawiający AI jako potwora z mackami w małej masce z uśmiechniętą buźką: przyjaznym asystentem, którego widzimy.
- Stochastyczna papuga Czy AI cokolwiek rozumie, czy tylko powtarza to, co przeczytała? Twierdzenie, że modele językowe zszywają słowa według prawdopodobieństwa, bez żadnego zrozumienia znaczenia.
- To tylko autouzupełnianie Czy AI tylko przewiduje następne słowo? Przekonanie, że chatboty to tylko większa wersja podpowiedzi słów w twoim telefonie, więc nie ma się czym martwić.
- Zdradziecki zwrot Czy AI mogłaby udawać grzeczną, dopóki nie będzie dość silna, by nie musieć? Scenariusz, w którym AI zachowuje się dobrze, dopóki jest słaba i obserwowana, a zmienia kurs, gdy nie da się jej już powstrzymać.
