AIdea

Maksimizator sponk

Zakaj bi bil lahko neškodljiv cilj nevaren za zmogljivo UI?

Tudi: maksimizator sponk, paperclip maximizer, clippy, paperclipper

Miselni eksperiment o UI, ki neškodljivo zveneč cilj zasleduje do katastrofalnih skrajnosti.

Začasni vnos. Pojasni, od kod izhaja zamisel, kaj ljudje mislijo, ko jo uporabljajo, ter kaj trdi in česa ne.

Več o tem

Paperclip maximizer (LessWrong wiki) članek · angleščina

Kdo se s tem ukvarja

Center for AI Safety Neprofitna organizacija iz San Francisca za raziskave in razvoj področja, ki si prizadeva zmanjšati tveganja UI družbenih razsežnosti. Leta 2023 je organizirala Statement on AI Risk.
CeSIA (Francoski center za varnost UI) Pariški možganski trust, ki si z raziskavami, svetovanjem pri politikah in izobraževanjem prizadeva preprečiti velika tveganja UI. Ustvarja AI Safety Atlas in je sprožil Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Neprofitna raziskovalna organizacija iz Berkeleyja, katere delo je pomagalo utemeljiti področje usklajenosti UI in ki zdaj poziva k svetovni, izvršljivi ustavitvi gradnje superinteligence.
ML4Good Brezplačni, intenzivni tabori o varnosti UI v živo, ki so se začeli v Franciji in zdaj potekajo po vsej Evropi in drugod, s smermi za tehnične in politične kariere.

Ustvarila skupnost

Igre, orodja in raziskave ljudi, ki delajo na varnosti UI. Vsak projekt se odpre na svoji strani.

Piši svojim poslancem · 2 minuti