AIdeas
- AI 2027 Bi li nadljudska UI mogla stići za nekoliko godina? Detaljan scenarij iz 2025. o tome kako bi UI do kraja 2027. mogla doći od današnjih chatbotova do superinteligencije i što bi moglo poći po zlu.
- Foom Bi li se UI mogla poboljšavati tako brzo da ne možemo pratiti? Ideja da bi UI, kad se jednom može sama poboljšavati, vrlo brzo mogla prijeći s ljudske razine daleko iznad nas.
- Izdajnički zaokret Bi li se UI mogla ponašati lijepo dok ne postane dovoljno jaka da više ne mora? Scenarij u kojem se UI lijepo ponaša dok je slaba i pod nadzorom, a mijenja smjer čim je više nije moguće zaustaviti.
- Maksimizator spajalica Zašto bi bezopasan cilj mogao biti opasan za moćnu UI? Misaoni eksperiment o UI-ju koja slijedi bezazleno zvučeći cilj do katastrofalnih krajnosti.
- p(doom) Koliko je vjerojatno da će s UI-jem završiti loše? Skraćenica za nečiju osobnu procjenu vjerojatnosti da će UI dovesti do katastrofe, poput izumiranja čovječanstva.
- Porez na usklađenost Čini li sigurnost UI sporijom ili lošijom? Dodatni trošak, u novcu, vremenu ili performansama, da sustav UI bude siguran, a ne samo sposoban.
- Samo ga isključi iz struje Zašto ne možemo jednostavno isključiti opasnu UI? Uobičajeni odgovor da se opasna UI uvijek može isključiti i zašto istraživači ne misle da je to tako jednostavno.
- Shoggoth Je li ljubazni chatbot samo maska? Mem koji UI prikazuje kao čudovište s pipcima koje nosi malu masku smajlića: ljubaznog asistenta kojeg vidimo.
- Stohastička papiga Razumije li UI išta ili samo ponavlja ono što je pročitala? Tvrdnja da jezični modeli nižu riječi prema vjerojatnosti, bez ikakvog razumijevanja značenja.
- To je samo automatsko dovršavanje Predviđa li UI samo sljedeću riječ? Ideja da su chatbotovi samo veća verzija prijedloga riječi na tvom mobitelu, pa nema razloga za brigu.
