AIdeas
- A shoggoth Csak egy álarc a barátságos chatbot? Egy mém, amely az MI-t csápos szörnyként ábrázolja, amely egy kis mosolygós álarcot visel: azt a barátságos asszisztenst, akit látunk.
- AI 2027 Megjelenhet néhány éven belül emberfeletti MI? Egy 2025-ös részletes forgatókönyv arról, hogyan juthat el az MI a mai chatbotoktól 2027 végéig a szuperintelligenciáig, és mi romolhat el közben.
- Az áruló fordulat Viselkedhet-e egy MI kedvesen addig, amíg elég erős nem lesz ahhoz, hogy ne kelljen? Az a forgatókönyv, amelyben egy MI jól viselkedik, amíg gyenge és megfigyelt, majd irányt vált, amint már nem lehet megállítani.
- Az összehangolási adó Lassabbá vagy rosszabbá teszi az MI-t, ha biztonságossá tesszük? Az a többletköltség pénzben, időben vagy teljesítményben, amely ahhoz kell, hogy egy MI-rendszer ne csak képes, hanem biztonságos is legyen.
- Csak húzd ki a konnektorból Miért nem kapcsolhatunk ki egyszerűen egy veszélyes MI-t? Az a gyakori válasz, hogy egy veszélyes MI-t mindig ki lehet kapcsolni, és hogy a kutatók miért nem gondolják ezt ilyen egyszerűnek.
- Ez csak szókiegészítés Az MI csak a következő szót jósolja meg? Az az elképzelés, hogy a chatbotok csak a telefonod szójavaslatainak nagyobb változatai, tehát nincs miért aggódni.
- Foom Fejlesztheti-e magát az MI olyan gyorsan, hogy nem tudunk lépést tartani? Az az elképzelés, hogy ha az MI képes lesz önmagát fejleszteni, nagyon gyorsan eljuthat az emberi szintről messze fölénk.
- Gemkapocs-maximalizáló Miért lehet veszélyes egy ártalmatlan cél egy erős MI számára? Gondolatkísérlet egy MI-ről, amely egy ártalmatlannak hangzó célt katasztrofális végletekig hajszol.
- p(doom) Mennyire valószínű, hogy az MI rosszul sül el? Rövidítés arra, hogy valaki személyesen mekkorára becsüli annak esélyét, hogy az MI katasztrófához, például az emberiség kihalásához vezet.
- Sztochasztikus papagáj Ért bármit az MI, vagy csak megismétli, amit olvasott? Az az állítás, hogy a nyelvi modellek valószínűség alapján fűzik össze a szavakat, a jelentés bármiféle megértése nélkül.
