AIdeas
- AI 2027 Ar antžmogiškas DI gali atsirasti per kelerius metus? Išsamus 2025 m. scenarijus apie tai, kaip DI iki 2027 m. pabaigos galėtų nueiti kelią nuo šiandieninių pokalbių robotų iki superintelekto ir kas galėtų nepavykti.
- Foom Ar DI galėtų tobulėti taip greitai, kad nespėtume paskui? Idėja, kad kai DI galės pats save tobulinti, jis galėtų labai greitai pakilti nuo žmogaus lygio toli virš mūsų.
- Klastingas posūkis Ar DI galėtų elgtis gražiai, kol taps pakankamai stiprus, kad nebereikėtų? Scenarijus, kai DI elgiasi gerai, kol yra silpnas ir stebimas, o pakeičia kursą, kai jo nebeįmanoma sustabdyti.
- p(doom) Kokia tikimybė, kad su DI baigsis blogai? Santrumpa, reiškianti asmeninį kieno nors įvertinimą, kokia tikimybė, kad DI sukels katastrofą, pavyzdžiui, žmonijos išnykimą.
- Sąvaržėlių maksimizatorius Kodėl nekenksmingas tikslas galėtų būti pavojingas galingam DI? Minties eksperimentas apie DI, kuris siekia nekenksmingai skambančio tikslo iki katastrofiškų kraštutinumų.
- Stochastinė papūga Ar DI ką nors supranta, ar tik kartoja, ką perskaitė? Teiginys, kad kalbos modeliai jungia žodžius pagal tikimybę, visiškai nesuprasdami prasmės.
- Suderinimo mokestis Ar DI saugumas padaro jį lėtesnį ar prastesnį? Papildoma kaina pinigais, laiku ar našumu už tai, kad DI sistema būtų saugi, o ne tik pajėgi.
- Šogotas Ar draugiškas pokalbių robotas tėra kaukė? Memas, vaizduojantis DI kaip čiuptuvėtą pabaisą, užsidėjusią mažą šypsenėlės kaukę: draugišką asistentą, kurį matome.
- Tai tik automatinis užbaigimas Ar DI tik nuspėja kitą žodį? Idėja, kad pokalbių robotai tėra didesnė tavo telefono žodžių pasiūlymų versija, todėl nėra dėl ko nerimauti.
- Tiesiog ištrauk kištuką Kodėl negalime tiesiog išjungti pavojingo DI? Įprastas atsakymas, kad pavojingą DI visada galima išjungti, ir kodėl tyrėjai mano, kad viskas nėra taip paprasta.
