AIdeas
- AI 2027 Kan övermänsklig AI komma inom några år? Ett detaljerat scenario från 2025 om hur AI skulle kunna gå från dagens chattbottar till superintelligens före slutet av 2027, och vad som skulle kunna gå fel.
- Anpassningsskatten Blir AI långsammare eller sämre av att göras säker? Den extra kostnaden i pengar, tid eller prestanda för att göra ett AI-system säkert och inte bara kapabelt.
- Den förrädiska vändningen Kan en AI bete sig snällt tills den är stark nog att låta bli? Scenariot där en AI beter sig väl medan den är svag och övervakad, och byter kurs när den inte längre kan stoppas.
- Det är bara autokomplettering Förutsäger AI bara nästa ord? Idén att chattbottar bara är en större version av ordförslagen på din telefon, så det finns inget att oroa sig för.
- Dra bara ur sladden Varför kan vi inte bara stänga av en farlig AI? Det vanliga svaret att en farlig AI alltid kan stängas av, och varför forskare inte tror att det är så enkelt.
- Foom Skulle AI kunna förbättra sig själv så snabbt att vi inte hänger med? Idén att när AI väl kan förbättra sig själv skulle den mycket snabbt kunna gå från mänsklig nivå till långt bortom oss.
- Gemmaximeraren Varför skulle ett harmlöst mål kunna vara farligt för en kraftfull AI? Ett tankeexperiment om en AI som driver ett harmlöst klingande mål till katastrofala ytterligheter.
- p(doom) Hur troligt är det att det går illa med AI? Förkortning för någons personliga uppskattning av risken att AI leder till en katastrof, som att mänskligheten dör ut.
- Shoggothen Är den vänliga chattbotten bara en mask? Ett meme som visar AI som ett monster med tentakler som bär en liten smileymask: den vänliga assistent vi ser.
- Stokastisk papegoja Förstår AI något, eller upprepar den bara det den har läst? Påståendet att språkmodeller fogar ihop ord efter sannolikhet, utan någon förståelse av betydelse.
