Organizácie
Skupiny, ktoré pracujú na témach z tejto znalostnej bázy.
- Apollo Research Testuje špičkové modely AI pred uvedením na trh na scheming (AI, ktorá skryto sleduje vlastné ciele) a spolupracuje s vládami vrátane Európskeho úradu pre umelú inteligenciu na otázke straty kontroly.
- Center for AI Safety Nezisková organizácia zo San Francisca zameraná na výskum a budovanie odboru, ktorá sa usiluje o zníženie celospoločenských rizík AI. V roku 2023 zorganizovala Statement on AI Risk.
- CeSIA (Francúzske centrum pre bezpečnosť AI) Parížsky think tank, ktorý sa výskumom, poradenstvom pre politiku a vzdelávaním snaží predchádzať závažným rizikám AI. Vytvára AI Safety Atlas a inicioval Global Call for AI Red Lines.
- Európsky úrad pre umelú inteligenciu Centrum Európskej komisie pre AI. Presadzuje pravidlá aktu o AI pre najvýkonnejšie modely AI na všeobecné účely vrátane ich testovania na riziká, ako je strata kontroly.
- Future of Life Institute Nezisková organizácia, ktorá sa snaží odvrátiť mocné technológie od extrémnych, rozsiahlych rizík. V oblasti AI sa venuje politickej práci v EÚ a USA a v roku 2023 zverejnila otvorený list vyzývajúci k prestávke.
- Machine Intelligence Research Institute (MIRI) Nezisková výskumná organizácia z Berkeley, ktorej práca pomohla založiť odbor zosúladenia AI a ktorá dnes volá po celosvetovom, vymáhanom zastavení vývoja superinteligencie.
- ML4Good Bezplatné intenzívne prezenčné bootcampy o bezpečnosti AI, ktoré začali vo Francúzsku a dnes prebiehajú po celej Európe aj inde, so zameraním na technické a politické kariéry.
- PauseAI Občianske hnutie založené v Holandsku v roku 2023, ktoré sa usiluje o medzinárodnú prestávku vo vývoji najvýkonnejšej AI, kým nebudeme vedieť, ako ju urobiť bezpečnou.
