AIdea

Maximizatorul de agrafe

De ce ar putea un obiectiv inofensiv să fie periculos pentru o IA puternică?

Și: maximizatorul de agrafe, paperclip maximizer, clippy, paperclipper

Un experiment mental despre o IA care urmărește un obiectiv aparent inofensiv până la extreme catastrofale.

Intrare provizorie. Explică de unde vine ideea, ce înțeleg oamenii când o folosesc și ce susține și ce nu.

Citește mai mult

Paperclip maximizer (LessWrong wiki) articol · engleză

Cine lucrează la asta

Center for AI Safety O organizație nonprofit din San Francisco dedicată cercetării și dezvoltării domeniului, care lucrează pentru reducerea riscurilor IA la scară societală. A organizat în 2023 Statement on AI Risk.
CeSIA (Centrul francez pentru siguranța IA) Un think tank din Paris care lucrează pentru prevenirea riscurilor majore ale IA prin cercetare, consiliere pentru politici publice și educație. Realizează AI Safety Atlas și a lansat Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) O organizație nonprofit de cercetare din Berkeley, a cărei activitate a ajutat la fondarea domeniului alinierii IA și care cere acum o oprire globală și aplicată a construirii superinteligenței.
ML4Good Bootcampuri gratuite și intensive despre siguranța IA, cu prezență fizică, începute în Franța și organizate acum în toată Europa și nu numai, cu trasee pentru cariere tehnice și de politici publice.

Făcut de comunitate

Jocuri, instrumente și cercetări ale oamenilor care lucrează la siguranța IA. Fiecare se deschide pe propriul site.

Scrie-le europarlamentarilor tăi · 2 minute