AIdeas
- AI 2027 Bi lahko nadčloveška UI prišla v nekaj letih? Podroben scenarij iz leta 2025 o tem, kako bi UI do konca leta 2027 lahko prešla od današnjih klepetalnikov do superinteligence, in kaj bi šlo lahko narobe.
- Davek na usklajenost Ali zaradi varnosti UI postane počasnejša ali slabša? Dodatni stroški v denarju, času ali zmogljivosti, da je sistem UI varen in ne le zmogljiv.
- Foom Bi se UI lahko izboljševala tako hitro, da ji ne bi mogli slediti? Zamisel, da bi UI, ko bi se lahko sama izboljševala, zelo hitro prešla od človeške ravni daleč čez nas.
- Izdajalski preobrat Bi se UI lahko vedla lepo, dokler ne bi bila dovolj močna, da ji tega ne bi bilo treba? Scenarij, v katerem se UI lepo vede, dokler je šibka in pod nadzorom, nato pa spremeni smer, ko je ni več mogoče ustaviti.
- Maksimizator sponk Zakaj bi bil lahko neškodljiv cilj nevaren za zmogljivo UI? Miselni eksperiment o UI, ki neškodljivo zveneč cilj zasleduje do katastrofalnih skrajnosti.
- p(doom) Kako verjetno je, da se bo z UI slabo končalo? Okrajšava za osebno oceno verjetnosti, da bo UI privedla do katastrofe, kot je izumrtje človeštva.
- Saj je samo samodejno dokončevanje Ali UI le napoveduje naslednjo besedo? Prepričanje, da so klepetalniki le večja različica predlogov besed na tvojem telefonu, zato ni razloga za skrb.
- Samo izklopi ga iz vtičnice Zakaj nevarne UI ne moremo preprosto izklopiti? Pogost odgovor, da je nevarno UI vedno mogoče izklopiti, in zakaj raziskovalci menijo, da ni tako preprosto.
- Shoggoth Je prijazni klepetalnik le maska? Mem, ki UI prikazuje kot pošast z lovkami, ki nosi majhno masko smeška: prijaznega pomočnika, ki ga vidimo.
- Stohastična papiga Ali UI karkoli razume ali le ponavlja, kar je prebrala? Trditev, da jezikovni modeli besede nizajo po verjetnosti, brez kakršnega koli razumevanja pomena.
