Organizzazioni
Gruppi che lavorano sulle idee di questa base di conoscenza.
- Apollo Research Testa i modelli di IA all’avanguardia prima del rilascio per individuare lo scheming (un’IA che persegue di nascosto obiettivi propri) e lavora con i governi, tra cui l’Ufficio europeo per l’IA, sulla perdita di controllo.
- Center for AI Safety Un’organizzazione non profit di San Francisco che si occupa di ricerca e di costruzione del settore per ridurre i rischi dell’IA su scala sociale. Ha organizzato nel 2023 lo Statement on AI Risk.
- CeSIA (Centro francese per la sicurezza dell’IA) Un think tank con sede a Parigi che lavora per prevenire i grandi rischi dell’IA attraverso ricerca, consulenza politica e formazione. Realizza l’AI Safety Atlas e ha lanciato il Global Call for AI Red Lines.
- Future of Life Institute Un’organizzazione non profit che lavora per allontanare le tecnologie potenti da rischi estremi su larga scala. Sull’IA fa lavoro politico nell’UE e negli Stati Uniti, e nel 2023 ha pubblicato la lettera aperta che chiedeva una pausa.
- Machine Intelligence Research Institute (MIRI) Un’organizzazione di ricerca non profit di Berkeley il cui lavoro ha contribuito a fondare il campo dell’allineamento dell’IA, e che oggi chiede uno stop mondiale e vincolante alla costruzione della superintelligenza.
- ML4Good Bootcamp gratuiti e intensivi in presenza sulla sicurezza dell’IA, nati in Francia e ora organizzati in tutta Europa e oltre, con percorsi per carriere tecniche e politiche.
- PauseAI Un movimento dal basso, fondato nei Paesi Bassi nel 2023, che chiede una pausa internazionale sull’IA più potente finché non sapremo come renderla sicura.
- Ufficio europeo per l’IA Il centro per l’IA della Commissione europea. Fa rispettare le regole dell’AI Act per i modelli di IA per finalità generali più potenti, testandoli anche per rischi come la perdita di controllo.
