Organizații
Grupuri care lucrează la ideile din această bază de cunoștințe.
- Apollo Research Testează modelele IA de vârf înainte de lansare pentru scheming (IA care își urmărește în ascuns propriile obiective) și lucrează cu guverne, inclusiv cu Oficiul european pentru IA, pe tema pierderii controlului.
- Center for AI Safety O organizație nonprofit din San Francisco dedicată cercetării și dezvoltării domeniului, care lucrează pentru reducerea riscurilor IA la scară societală. A organizat în 2023 Statement on AI Risk.
- CeSIA (Centrul francez pentru siguranța IA) Un think tank din Paris care lucrează pentru prevenirea riscurilor majore ale IA prin cercetare, consiliere pentru politici publice și educație. Realizează AI Safety Atlas și a lansat Global Call for AI Red Lines.
- Future of Life Institute O organizație nonprofit care lucrează pentru a îndepărta tehnologia puternică de riscurile extreme la scară largă. În privința IA desfășoară activitate politică în UE și SUA și a publicat în 2023 scrisoarea deschisă care cerea o pauză.
- Machine Intelligence Research Institute (MIRI) O organizație nonprofit de cercetare din Berkeley, a cărei activitate a ajutat la fondarea domeniului alinierii IA și care cere acum o oprire globală și aplicată a construirii superinteligenței.
- ML4Good Bootcampuri gratuite și intensive despre siguranța IA, cu prezență fizică, începute în Franța și organizate acum în toată Europa și nu numai, cu trasee pentru cariere tehnice și de politici publice.
- Oficiul european pentru IA Centrul Comisiei Europene pentru IA. Aplică regulile Regulamentului privind IA pentru cele mai puternice modele IA de uz general, inclusiv testându-le pentru riscuri precum pierderea controlului.
- PauseAI O mișcare civică, fondată în Țările de Jos în 2023, care militează pentru o pauză internațională a celei mai puternice IA până când vom ști cum s-o facem sigură.
