Sąvoka

Instrumentinė konvergencija

Daugelis skirtingų galutinių tikslų turi tuos pačius naudingus tarpinius tikslus, pavyzdžiui, įgyti išteklių ir išvengti išjungimo.

Laikinas įrašas. Paaiškinkite sąvoką paprasta kalba, tada pateikite nuorodas į geriausius pirminius šaltinius.

Skaityti daugiau

AI Safety Atlas kursas · anglų

AIdeas, vedančios čia

Klastingas posūkis Ar DI galėtų elgtis gražiai, kol taps pakankamai stiprus, kad nebereikėtų?
Sąvaržėlių maksimizatorius Kodėl nekenksmingas tikslas galėtų būti pavojingas galingam DI?
Tiesiog ištrauk kištuką Kodėl negalime tiesiog išjungti pavojingo DI?

Kas prie to dirba

Kol kas čia nieko nėra.

Sukurta bendruomenės

Žaidimai, įrankiai ir tyrimai iš žmonių, dirbančių DI saugumo srityje. Kiekvienas atsidaro savo svetainėje.

Takeoff: Europe’s Next Move A 15-minute browser game. You’re Europe’s AI envoy, picking a policy every half-year while the US and China race ahead. Your dashboards show how safe the AI looks; how safe it really was comes out at the end.
Žaidimas

Parašyk savo EP nariams · 2 minutės