Organizacije
Skupine koje rade na idejama iz ove baze znanja.
- Apollo Research Prije objavljivanja testira vodeće modele UI-ja na scheming (UI koja potajno slijedi vlastite ciljeve) i surađuje s vladama, uključujući Europski ured za umjetnu inteligenciju, na pitanju gubitka kontrole.
- Center for AI Safety Neprofitna organizacija iz San Francisca za istraživanje i izgradnju područja koja radi na smanjenju rizika od UI-ja društvenih razmjera. Godine 2023. organizirala je Statement on AI Risk.
- CeSIA (Francuski centar za sigurnost UI-ja) Pariški think tank koji istraživanjem, savjetovanjem o politikama i obrazovanjem radi na sprečavanju velikih rizika od UI-ja. Izrađuje AI Safety Atlas i pokrenuo je Global Call for AI Red Lines.
- Europski ured za umjetnu inteligenciju Centar Europske komisije za UI. Provodi pravila Akta o UI-ju za najmoćnije modele UI-ja opće namjene, uključujući njihovo testiranje na rizike poput gubitka kontrole.
- Future of Life Institute Neprofitna organizacija koja nastoji usmjeriti moćnu tehnologiju dalje od ekstremnih rizika velikih razmjera. U pogledu UI-ja bavi se politikom u EU-u i SAD-u, a 2023. objavila je otvoreno pismo s pozivom na stanku.
- Machine Intelligence Research Institute (MIRI) Neprofitna istraživačka organizacija iz Berkeleyja čiji je rad pomogao utemeljiti područje usklađenosti UI-ja i koja sada poziva na globalnu, provedivu obustavu izgradnje superinteligencije.
- ML4Good Besplatni, intenzivni bootcampovi o sigurnosti UI-ja uživo, pokrenuti u Francuskoj, a danas se održavaju diljem Europe i šire, sa smjerovima za tehničke i političke karijere.
- PauseAI Građanski pokret osnovan u Nizozemskoj 2023. koji se zalaže za međunarodnu stanku u razvoju najmoćnije UI dok ne saznamo kako je učiniti sigurnom.
