Organisationer
Grupper som arbetar med idéerna i den här kunskapsbanken.
- Apollo Research Testar ledande AI-modeller före lansering för scheming (AI som i hemlighet driver egna mål) och arbetar med regeringar, bland annat Europeiska AI-byrån, kring förlust av kontroll.
- Center for AI Safety En ideell organisation i San Francisco för forskning och fältuppbyggnad som arbetar för att minska samhällsomfattande risker från AI. Den organiserade 2023 Statement on AI Risk.
- CeSIA (Franskt centrum för AI-säkerhet) En tankesmedja i Paris som arbetar för att förebygga stora AI-risker genom forskning, policyrådgivning och utbildning. Den gör AI Safety Atlas och startade Global Call for AI Red Lines.
- Europeiska byrån för artificiell intelligens Europeiska kommissionens AI-centrum. Det upprätthåller AI-förordningens regler för de mest kraftfulla AI-modellerna för allmänna ändamål, bland annat genom att testa dem för risker som förlust av kontroll.
- Future of Life Institute En ideell organisation som arbetar för att styra kraftfull teknik bort från extrema, storskaliga risker. Inom AI bedriver den policyarbete i EU och USA, och den publicerade 2023 det öppna brevet som krävde en paus.
- Machine Intelligence Research Institute (MIRI) En ideell forskningsorganisation i Berkeley vars arbete bidrog till att grunda fältet AI-anpassning, och som nu kräver ett globalt, upprätthållet stopp för att bygga superintelligens.
- ML4Good Kostnadsfria, intensiva bootcamps om AI-säkerhet på plats, startade i Frankrike och i dag i hela Europa och vidare, med spår för tekniska karriärer och policykarriärer.
- PauseAI En gräsrotsrörelse, grundad i Nederländerna 2023, som kämpar för en internationell paus för den mest kraftfulla AI:n tills vi vet hur man gör den säker.
