AIdea

Gemmaximeraren

Varför skulle ett harmlöst mål kunna vara farligt för en kraftfull AI?

Även: gemmaximerare, paperclip maximizer, clippy, paperclipper

Ett tankeexperiment om en AI som driver ett harmlöst klingande mål till katastrofala ytterligheter.

Platshållare. Förklara var idén kommer ifrån, vad folk menar när de använder den och vad den påstår och inte påstår.

Läs mer

Paperclip maximizer (LessWrong wiki) artikel · engelska

Vilka som arbetar med detta

Center for AI Safety En ideell organisation i San Francisco för forskning och fältuppbyggnad som arbetar för att minska samhällsomfattande risker från AI. Den organiserade 2023 Statement on AI Risk.
CeSIA (Franskt centrum för AI-säkerhet) En tankesmedja i Paris som arbetar för att förebygga stora AI-risker genom forskning, policyrådgivning och utbildning. Den gör AI Safety Atlas och startade Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) En ideell forskningsorganisation i Berkeley vars arbete bidrog till att grunda fältet AI-anpassning, och som nu kräver ett globalt, upprätthållet stopp för att bygga superintelligens.
ML4Good Kostnadsfria, intensiva bootcamps om AI-säkerhet på plats, startade i Frankrike och i dag i hela Europa och vidare, med spår för tekniska karriärer och policykarriärer.

Gjort av communityn

Spel, verktyg och forskning från människor som arbetar med AI-säkerhet. Varje projekt öppnas på sin egen sajt.

Mejla dina EU-parlamentariker · 2 minuter