AIdea

Максимизаторът на кламери

Защо една безобидна цел може да бъде опасна за мощен ИИ?

Още: максимизатор на кламери, paperclip maximizer, clippy, paperclipper

Мисловен експеримент за ИИ, който преследва безобидно звучаща цел до катастрофални крайности.

Временен запис. Обясни откъде идва идеята, какво имат предвид хората, когато я използват, и какво твърди и какво не.

Прочети още

Paperclip maximizer (LessWrong wiki) статия · английски

Кой работи по това

Създадено от общността

Игри, инструменти и изследвания от хора, които работят по безопасността на ИИ. Всеки проект се отваря на собствения си сайт.

Пиши на своите евродепутати · 2 минути