Pojęcie

Konwergencja instrumentalna

Wiele różnych celów końcowych ma te same użyteczne cele pośrednie, takie jak zdobywanie zasobów i unikanie wyłączenia.

Wpis tymczasowy. Wyjaśnij pojęcie prostym językiem, a potem podaj linki do najlepszych źródeł pierwotnych.

Więcej informacji

AI Safety Atlas kurs · angielski

AIdeas, które tu prowadzą

Maksymalizator spinaczy Dlaczego nieszkodliwy cel mógłby być niebezpieczny dla potężnej AI?
Po prostu wyciągnij wtyczkę Dlaczego nie możemy po prostu wyłączyć niebezpiecznej AI?
Zdradziecki zwrot Czy AI mogłaby udawać grzeczną, dopóki nie będzie dość silna, by nie musieć?

Kto się tym zajmuje

Na razie nic tu nie ma.

Od społeczności

Gry, narzędzia i badania osób, które zajmują się bezpieczeństwem AI. Każdy projekt otwiera się na własnej stronie.

Takeoff: Europe’s Next Move A 15-minute browser game. You’re Europe’s AI envoy, picking a policy every half-year while the US and China race ahead. Your dashboards show how safe the AI looks; how safe it really was comes out at the end.
Gra

Napisz do europosłów · 2 minuty