Organizacje
Grupy, które pracują nad zagadnieniami z tej bazy wiedzy.
- Apollo Research Testuje czołowe modele AI przed wprowadzeniem na rynek pod kątem scheming (AI potajemnie realizującej własne cele) i współpracuje z rządami, w tym z Europejskim Urzędem ds. Sztucznej Inteligencji, w sprawie utraty kontroli.
- Center for AI Safety Organizacja non-profit z San Francisco zajmująca się badaniami i budowaniem dziedziny, która działa na rzecz ograniczania ryzyk związanych z AI na skalę społeczną. W 2023 roku zorganizowała Statement on AI Risk.
- CeSIA (Francuskie Centrum Bezpieczeństwa AI) Paryski think tank, który działa na rzecz zapobiegania poważnym zagrożeniom związanym z AI poprzez badania, doradztwo polityczne i edukację. Tworzy AI Safety Atlas i zainicjował Global Call for AI Red Lines.
- Europejski Urząd ds. Sztucznej Inteligencji Centrum Komisji Europejskiej ds. AI. Egzekwuje przepisy aktu o AI wobec najpotężniejszych modeli AI ogólnego przeznaczenia, m.in. testując je pod kątem zagrożeń takich jak utrata kontroli.
- Future of Life Institute Organizacja non-profit, która chce odciągać potężne technologie od skrajnych zagrożeń na wielką skalę. W sprawie AI prowadzi działania polityczne w UE i USA, a w 2023 roku opublikowała list otwarty wzywający do przerwy.
- Machine Intelligence Research Institute (MIRI) Organizacja badawcza non-profit z Berkeley, której prace pomogły stworzyć dziedzinę zgodności AI, a która dziś wzywa do globalnego, egzekwowanego wstrzymania budowy superinteligencji.
- ML4Good Bezpłatne, intensywne bootcampy stacjonarne z bezpieczeństwa AI, zapoczątkowane we Francji, a dziś organizowane w całej Europie i poza nią, ze ścieżkami dla karier technicznych i politycznych.
- PauseAI Oddolny ruch, założony w Holandii w 2023 roku, który domaga się międzynarodowej przerwy w rozwoju najpotężniejszej AI, dopóki nie będziemy wiedzieć, jak uczynić ją bezpieczną.
