AIdea

Paperclipmaximalisator

Waarom zou een onschuldig doel gevaarlijk kunnen zijn voor een krachtige AI?

Ook: paperclipmaximalisator, paperclip maximizer, clippy, paperclipper

Een gedachte-experiment over een AI die een onschuldig klinkend doel tot catastrofale uitersten najaagt.

Voorlopige tekst. Leg uit waar het idee vandaan komt, wat mensen bedoelen als ze het gebruiken, en wat het wel en niet beweert.

Meer lezen

Paperclip maximizer (LessWrong wiki) artikel · Engels

Wie hieraan werkt

Center for AI Safety Een non-profit in San Francisco voor onderzoek en het opbouwen van het vakgebied, die risico’s van AI op maatschappelijke schaal wil verkleinen. Het organiseerde in 2023 het Statement on AI Risk.
CeSIA (Frans centrum voor AI-veiligheid) Een denktank in Parijs die grote AI-risico’s wil voorkomen via onderzoek, beleidsadvies en onderwijs. Het maakt de AI Safety Atlas en startte de Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Een non-profit onderzoeksinstituut in Berkeley waarvan het werk hielp het vakgebied van AI-afstemming te grondvesten, en dat nu oproept tot een wereldwijde, gehandhaafde stop op het bouwen van superintelligentie.
ML4Good Gratis, intensieve bootcamps over AI-veiligheid op locatie, begonnen in Frankrijk en nu in heel Europa en daarbuiten, met trajecten voor technische en beleidsloopbanen.

Gemaakt door de community

Games, tools en onderzoek van mensen die aan AI-veiligheid werken. Elk project opent op een eigen site.

Mail je Europarlementariërs · 2 minuten