Concetto

Convergenza strumentale

Molti obiettivi finali diversi condividono gli stessi sotto-obiettivi utili, come procurarsi risorse ed evitare di essere spenti.

Voce provvisoria. Spiegare il concetto in parole semplici, poi rimandare alle migliori fonti primarie.

Per approfondire

AI Safety Atlas corso · inglese

AIdeas che portano qui

Basta staccare la spina Perché non possiamo semplicemente spegnere un’IA pericolosa?
La svolta a tradimento Un’IA potrebbe comportarsi bene finché non è abbastanza forte da non doverlo più fare?
Massimizzatore di graffette Perché un obiettivo innocuo potrebbe essere pericoloso per un’IA potente?

Chi ci lavora

Ancora niente qui.

Fatto dalla comunità

Giochi, strumenti e ricerche di persone che lavorano sulla sicurezza dell’IA. Ognuno si apre sul proprio sito.

Takeoff: Europe’s Next Move A 15-minute browser game. You’re Europe’s AI envoy, picking a policy every half-year while the US and China race ahead. Your dashboards show how safe the AI looks; how safe it really was comes out at the end.
Gioco

Scrivi ai tuoi eurodeputati · 2 minuti