Organizace
Skupiny, které pracují na tématech z této znalostní báze.
- Apollo Research Testuje špičkové modely AI před uvedením na trh na scheming (AI, která skrytě sleduje vlastní cíle) a spolupracuje s vládami, včetně Evropského úřadu pro umělou inteligenci, na otázce ztráty kontroly.
- Center for AI Safety Nezisková organizace ze San Franciska zaměřená na výzkum a budování oboru, která usiluje o snížení celospolečenských rizik AI. V roce 2023 zorganizovala Statement on AI Risk.
- CeSIA (Francouzské centrum pro bezpečnost AI) Pařížský think tank, který se výzkumem, poradenstvím pro politiku a vzděláváním snaží předcházet závažným rizikům AI. Vytváří AI Safety Atlas a inicioval Global Call for AI Red Lines.
- Evropský úřad pro umělou inteligenci Centrum Evropské komise pro AI. Prosazuje pravidla aktu o AI pro nejvýkonnější obecné modely AI, včetně jejich testování na rizika, jako je ztráta kontroly.
- Future of Life Institute Nezisková organizace, která se snaží odvrátit mocné technologie od extrémních, rozsáhlých rizik. V oblasti AI se věnuje politické práci v EU a USA a v roce 2023 zveřejnila otevřený dopis vyzývající k pauze.
- Machine Intelligence Research Institute (MIRI) Nezisková výzkumná organizace z Berkeley, jejíž práce pomohla založit obor sladění AI a která dnes volá po celosvětovém, vymáhaném zastavení vývoje superinteligence.
- ML4Good Bezplatné intenzivní prezenční bootcampy o bezpečnosti AI, které začaly ve Francii a dnes probíhají po celé Evropě i jinde, se zaměřením na technické a politické kariéry.
- PauseAI Občanské hnutí založené v Nizozemsku v roce 2023, které usiluje o mezinárodní pauzu ve vývoji nejvýkonnější AI, dokud nebudeme vědět, jak ji učinit bezpečnou.
