AIdea

Saspraužu maksimizētājs

Kāpēc nekaitīgs mērķis varētu būt bīstams spēcīgam MI?

Arī: saspraužu maksimizētājs, paperclip maximizer, clippy, paperclipper

Domu eksperiments par MI, kas tiecas pēc nekaitīgi skanoša mērķa līdz katastrofālām galējībām.

Pagaidu ieraksts. Paskaidro, no kurienes ideja nāk, ko cilvēki ar to domā, to lietojot, un ko tā apgalvo un ko ne.

Lasīt vairāk

Paperclip maximizer (LessWrong wiki) raksts · angļu

Kas pie tā strādā

Center for AI Safety Sanfrancisko bezpeļņas pētniecības un nozares veidošanas organizācija, kas strādā, lai mazinātu sabiedrības mēroga MI riskus. 2023. gadā tā organizēja Statement on AI Risk.
CeSIA (Francijas MI drošības centrs) Parīzē bāzēta ideju laboratorija, kas ar pētniecību, politikas konsultācijām un izglītību strādā, lai novērstu lielus MI riskus. Tā veido AI Safety Atlas un aizsāka Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Bērklijas bezpeļņas pētniecības organizācija, kuras darbs palīdzēja izveidot MI saskaņošanas nozari un kura tagad aicina uz globālu, uzraudzītu superintelekta veidošanas apturēšanu.
ML4Good Bezmaksas, intensīvas klātienes MI drošības apmācību nometnes, kas sākās Francijā un tagad notiek visā Eiropā un ārpus tās, ar virzieniem tehniskai un politikas karjerai.

Kopienas veidots

Spēles, rīki un pētījumi no cilvēkiem, kas strādā pie MI drošības. Katrs atveras savā vietnē.

Raksti saviem deputātiem · 2 minūtes