AIdea

Massimizzatore di graffette

Perché un obiettivo innocuo potrebbe essere pericoloso per un’IA potente?

Anche: massimizzatore di graffette, paperclip maximizer, clippy, paperclipper

Un esperimento mentale su un’IA che persegue un obiettivo all’apparenza innocuo fino a estremi catastrofici.

Voce provvisoria. Spiega da dove viene l’idea, cosa intende chi la usa e cosa afferma e cosa no.

Per approfondire

Paperclip maximizer (LessWrong wiki) articolo · inglese

Chi ci lavora

Center for AI Safety Un’organizzazione non profit di San Francisco che si occupa di ricerca e di costruzione del settore per ridurre i rischi dell’IA su scala sociale. Ha organizzato nel 2023 lo Statement on AI Risk.
CeSIA (Centro francese per la sicurezza dell’IA) Un think tank con sede a Parigi che lavora per prevenire i grandi rischi dell’IA attraverso ricerca, consulenza politica e formazione. Realizza l’AI Safety Atlas e ha lanciato il Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Un’organizzazione di ricerca non profit di Berkeley il cui lavoro ha contribuito a fondare il campo dell’allineamento dell’IA, e che oggi chiede uno stop mondiale e vincolante alla costruzione della superintelligenza.
ML4Good Bootcamp gratuiti e intensivi in presenza sulla sicurezza dell’IA, nati in Francia e ora organizzati in tutta Europa e oltre, con percorsi per carriere tecniche e politiche.

Fatto dalla comunità

Giochi, strumenti e ricerche di persone che lavorano sulla sicurezza dell’IA. Ognuno si apre sul proprio sito.

Scrivi ai tuoi eurodeputati · 2 minuti