AIdea

Maximalizátor kancelárskych spiniek

Prečo by neškodný cieľ mohol byť pre mocnú AI nebezpečný?

Aj: maximalizátor spiniek, paperclip maximizer, clippy, paperclipper

Myšlienkový experiment o AI, ktorá sleduje neškodne znejúci cieľ až do katastrofálnych extrémov.

Zástupný text. Vysvetli, odkiaľ myšlienka pochádza, čo ľudia myslia, keď ju používajú, a čo tvrdí a čo nie.

Čítať ďalej

Paperclip maximizer (LessWrong wiki) článok · angličtina

Kto sa tým zaoberá

Center for AI Safety Nezisková organizácia zo San Francisca zameraná na výskum a budovanie odboru, ktorá sa usiluje o zníženie celospoločenských rizík AI. V roku 2023 zorganizovala Statement on AI Risk.
CeSIA (Francúzske centrum pre bezpečnosť AI) Parížsky think tank, ktorý sa výskumom, poradenstvom pre politiku a vzdelávaním snaží predchádzať závažným rizikám AI. Vytvára AI Safety Atlas a inicioval Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Nezisková výskumná organizácia z Berkeley, ktorej práca pomohla založiť odbor zosúladenia AI a ktorá dnes volá po celosvetovom, vymáhanom zastavení vývoja superinteligencie.
ML4Good Bezplatné intenzívne prezenčné bootcampy o bezpečnosti AI, ktoré začali vo Francúzsku a dnes prebiehajú po celej Európe aj inde, so zameraním na technické a politické kariéry.

Vytvorila komunita

Hry, nástroje a výskum od ľudí, ktorí pracujú na bezpečnosti AI. Každý projekt sa otvorí na vlastnom webe.

Napíš svojim europoslancom · 2 minúty