Organisationer
Grupper, der arbejder med idéerne i denne vidensbase.
- Apollo Research Tester førende AI-modeller før lancering for scheming (AI, der i det skjulte forfølger egne mål), og arbejder med regeringer, herunder Det Europæiske AI-kontor, om tab af kontrol.
- Center for AI Safety En nonprofitorganisation i San Francisco for forskning og opbygning af feltet, der arbejder for at mindske samfundsomfattende risici fra AI. Den stod i 2023 bag Statement on AI Risk.
- CeSIA (Fransk center for AI-sikkerhed) En tænketank i Paris, der arbejder for at forebygge store AI-risici gennem forskning, politisk rådgivning og uddannelse. Den laver AI Safety Atlas og startede Global Call for AI Red Lines.
- Det Europæiske AI-kontor Europa-Kommissionens AI-center. Det håndhæver AI-forordningens regler for de mest magtfulde AI-modeller til almen brug, blandt andet ved at teste dem for risici som tab af kontrol.
- Future of Life Institute En nonprofitorganisation, der arbejder for at styre magtfuld teknologi væk fra ekstreme, storskala risici. På AI-området laver den politisk arbejde i EU og USA og udgav i 2023 det åbne brev, der opfordrede til en pause.
- Machine Intelligence Research Institute (MIRI) En nonprofit forskningsorganisation i Berkeley, hvis arbejde var med til at grundlægge feltet AI-afstemning, og som nu kræver et globalt, håndhævet stop for at bygge superintelligens.
- ML4Good Gratis, intensive bootcamps om AI-sikkerhed med fysisk fremmøde, startet i Frankrig og nu afholdt i hele Europa og videre ud, med spor for tekniske og politiske karrierer.
- PauseAI En græsrodsbevægelse, grundlagt i Nederlandene i 2023, der kæmper for en international pause for den mest magtfulde AI, indtil vi ved, hvordan man gør den sikker.
