Szervezetek
Csoportok, amelyek a tudásbázis témáival foglalkoznak.
- Apollo Research Bevezetés előtt teszteli az élvonalbeli MI-modelleket scheming szempontjából (MI, amely titokban saját céljait követi), és kormányokkal, köztük az Európai MI-hivatallal dolgozik az irányítás elvesztésének kérdésén.
- Center for AI Safety Egy San Franciscó-i, kutatással és a terület építésével foglalkozó nonprofit szervezet, amely az MI társadalmi léptékű kockázatainak csökkentésén dolgozik. 2023-ban ő szervezte a Statement on AI Risk nyilatkozatot.
- CeSIA (Francia MI-biztonsági Központ) Egy párizsi agytröszt, amely kutatással, szakpolitikai tanácsadással és oktatással dolgozik az MI súlyos kockázatainak megelőzésén. Ő készíti az AI Safety Atlast, és ő indította el a Global Call for AI Red Lines kezdeményezést.
- Európai Mesterségesintelligencia-hivatal Az Európai Bizottság MI-központja. Érvényre juttatja a mesterségesintelligencia-rendelet szabályait a legerősebb általános célú MI-modellekre, többek között az irányítás elvesztéséhez hasonló kockázatok tesztelésével.
- Future of Life Institute Egy nonprofit szervezet, amely a nagy erejű technológiát igyekszik eltéríteni a szélsőséges, nagy léptékű kockázatoktól. Az MI terén szakpolitikai munkát végez az EU-ban és az USA-ban, és 2023-ban közzétette a szünetet követelő nyílt levelet.
- Machine Intelligence Research Institute (MIRI) Egy berkeley-i nonprofit kutatószervezet, amelynek munkája segített megalapozni az MI-összehangolás területét, és amely ma a szuperintelligencia építésének globális, kikényszerített leállítását követeli.
- ML4Good Ingyenes, intenzív, személyes jelenléttel zajló MI-biztonsági bootcampek, amelyek Franciaországban indultak, és ma Európa-szerte és azon túl is zajlanak, műszaki és szakpolitikai pályákra szóló szakirányokkal.
- PauseAI Egy alulról szerveződő mozgalom, amelyet 2023-ban alapítottak Hollandiában, és amely nemzetközi szünetet követel a legerősebb MI fejlesztésében, amíg nem tudjuk, hogyan tehetjük biztonságossá.
