Organizacije
Skupine, ki se ukvarjajo s temami iz te baze znanja.
- Apollo Research Vodilne modele UI pred izdajo preizkuša glede scheminga (UI, ki skrivaj zasleduje lastne cilje) in z vladami, vključno z Evropskim uradom za umetno inteligenco, sodeluje pri vprašanju izgube nadzora.
- Center for AI Safety Neprofitna organizacija iz San Francisca za raziskave in razvoj področja, ki si prizadeva zmanjšati tveganja UI družbenih razsežnosti. Leta 2023 je organizirala Statement on AI Risk.
- CeSIA (Francoski center za varnost UI) Pariški možganski trust, ki si z raziskavami, svetovanjem pri politikah in izobraževanjem prizadeva preprečiti velika tveganja UI. Ustvarja AI Safety Atlas in je sprožil Global Call for AI Red Lines.
- Evropski urad za umetno inteligenco Center Evropske komisije za UI. Izvršuje pravila akta o UI za najzmogljivejše modele UI za splošne namene, vključno s testiranjem glede tveganj, kot je izguba nadzora.
- Future of Life Institute Neprofitna organizacija, ki si prizadeva zmogljivo tehnologijo usmeriti stran od skrajnih, obsežnih tveganj. Na področju UI se ukvarja s politiko v EU in ZDA, leta 2023 pa je objavila odprto pismo s pozivom k premoru.
- Machine Intelligence Research Institute (MIRI) Neprofitna raziskovalna organizacija iz Berkeleyja, katere delo je pomagalo utemeljiti področje usklajenosti UI in ki zdaj poziva k svetovni, izvršljivi ustavitvi gradnje superinteligence.
- ML4Good Brezplačni, intenzivni tabori o varnosti UI v živo, ki so se začeli v Franciji in zdaj potekajo po vsej Evropi in drugod, s smermi za tehnične in politične kariere.
- PauseAI Gibanje od spodaj navzgor, ustanovljeno na Nizozemskem leta 2023, ki se zavzema za mednarodni premor pri najzmogljivejši UI, dokler ne bomo vedeli, kako jo narediti varno.
