Organizações
Grupos que trabalham nas ideias desta base de conhecimento.
- Apollo Research Testa modelos de IA de ponta antes do lançamento para detetar scheming (uma IA que persegue às escondidas objetivos próprios), e trabalha com governos, incluindo o Serviço Europeu para a IA, sobre a perda de controlo.
- Center for AI Safety Uma organização sem fins lucrativos de São Francisco dedicada à investigação e à construção da área, que trabalha para reduzir os riscos da IA à escala da sociedade. Organizou em 2023 a Statement on AI Risk.
- CeSIA (Centro Francês para a Segurança da IA) Um think tank sediado em Paris que trabalha para prevenir os grandes riscos da IA através de investigação, aconselhamento político e formação. Produz o AI Safety Atlas e lançou o Global Call for AI Red Lines.
- Future of Life Institute Uma organização sem fins lucrativos que trabalha para afastar a tecnologia poderosa de riscos extremos em grande escala. Na IA faz trabalho político na UE e nos EUA, e publicou em 2023 a carta aberta que pedia uma pausa.
- Machine Intelligence Research Institute (MIRI) Uma organização de investigação sem fins lucrativos de Berkeley cujo trabalho ajudou a fundar a área do alinhamento da IA, e que hoje pede uma paragem global e efetiva na construção de superinteligência.
- ML4Good Bootcamps intensivos e gratuitos sobre segurança da IA, presenciais, iniciados em França e hoje realizados por toda a Europa e não só, com percursos para carreiras técnicas e de políticas públicas.
- PauseAI Um movimento de base, fundado nos Países Baixos em 2023, que defende uma pausa internacional na IA mais poderosa até sabermos como torná-la segura.
- Serviço Europeu para a Inteligência Artificial O centro de IA da Comissão Europeia. Faz cumprir as regras do Regulamento da IA para os modelos de IA de finalidade geral mais poderosos, incluindo testá-los quanto a riscos como a perda de controlo.
