AIdea

Maximalizátor kancelářských sponek

Proč by neškodný cíl mohl být pro mocnou AI nebezpečný?

Také: maximalizátor sponek, paperclip maximizer, clippy, paperclipper

Myšlenkový experiment o AI, která sleduje neškodně znějící cíl až do katastrofálních extrémů.

Zástupný text. Vysvětli, odkud myšlenka pochází, co lidé myslí, když ji používají, a co tvrdí a co ne.

Další čtení

Paperclip maximizer (LessWrong wiki) článek · angličtina

Kdo se tím zabývá

Center for AI Safety Nezisková organizace ze San Franciska zaměřená na výzkum a budování oboru, která usiluje o snížení celospolečenských rizik AI. V roce 2023 zorganizovala Statement on AI Risk.
CeSIA (Francouzské centrum pro bezpečnost AI) Pařížský think tank, který se výzkumem, poradenstvím pro politiku a vzděláváním snaží předcházet závažným rizikům AI. Vytváří AI Safety Atlas a inicioval Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Nezisková výzkumná organizace z Berkeley, jejíž práce pomohla založit obor sladění AI a která dnes volá po celosvětovém, vymáhaném zastavení vývoje superinteligence.
ML4Good Bezplatné intenzivní prezenční bootcampy o bezpečnosti AI, které začaly ve Francii a dnes probíhají po celé Evropě i jinde, se zaměřením na technické a politické kariéry.

Vytvořila komunita

Hry, nástroje a výzkum od lidí, kteří pracují na bezpečnosti AI. Každý projekt se otevře na vlastním webu.

Napiš svým europoslancům · 2 minuty