AIdeas
- Afstemningsskatten Gør det AI langsommere eller dårligere at gøre den sikker? Den ekstra pris i penge, tid eller ydeevne for at gøre et AI-system sikkert og ikke kun dygtigt.
- AI 2027 Kan overmenneskelig AI komme inden for få år? Et detaljeret scenarie fra 2025 om, hvordan AI kunne gå fra nutidens chatbots til superintelligens inden udgangen af 2027, og hvad der kunne gå galt.
- Den forræderiske vending Kunne en AI opføre sig pænt, indtil den er stærk nok til at lade være? Scenariet, hvor en AI opfører sig pænt, mens den er svag og overvåget, og skifter kurs, når den ikke længere kan stoppes.
- Det er bare autofuldførelse Forudsiger AI kun det næste ord? Idéen om, at chatbots bare er en større udgave af ordforslagene på din telefon, så der er intet at bekymre sig om.
- Foom Kunne AI forbedre sig selv så hurtigt, at vi ikke kan følge med? Idéen om, at når AI først kan forbedre sig selv, kunne den meget hurtigt gå fra menneskeligt niveau til langt forbi os.
- p(doom) Hvor sandsynligt er det, at det går galt med AI? Kortform for nogens personlige vurdering af chancen for, at AI fører til en katastrofe som menneskehedens udslettelse.
- Papirclipsmaksimereren Hvorfor kunne et harmløst mål være farligt for en magtfuld AI? Et tankeeksperiment om en AI, der forfølger et harmløst klingende mål til katastrofale yderpunkter.
- Shoggothen Er den venlige chatbot bare en maske? Et meme, der viser AI som et monster med tentakler, der bærer en lille smiley-maske: den venlige assistent, vi ser.
- Stokastisk papegøje Forstår AI noget, eller gentager den bare, hvad den har læst? Påstanden om, at sprogmodeller sætter ord sammen efter sandsynlighed uden nogen forståelse af betydning.
- Træk bare stikket ud Hvorfor kan vi ikke bare slukke for en farlig AI? Det almindelige svar, at en farlig AI altid kan slukkes, og hvorfor forskere ikke mener, det er så enkelt.
