AIdea

Maksimizator spajalica

Zašto bi bezopasan cilj mogao biti opasan za moćnu UI?

Također: maksimizator spajalica, paperclip maximizer, clippy, paperclipper

Misaoni eksperiment o UI-ju koja slijedi bezazleno zvučeći cilj do katastrofalnih krajnosti.

Privremeni unos. Objasni odakle ideja dolazi, što ljudi misle kad je koriste te što tvrdi, a što ne.

Pročitaj više

Paperclip maximizer (LessWrong wiki) članak · engleski

Tko se time bavi

Center for AI Safety Neprofitna organizacija iz San Francisca za istraživanje i izgradnju područja koja radi na smanjenju rizika od UI-ja društvenih razmjera. Godine 2023. organizirala je Statement on AI Risk.
CeSIA (Francuski centar za sigurnost UI-ja) Pariški think tank koji istraživanjem, savjetovanjem o politikama i obrazovanjem radi na sprečavanju velikih rizika od UI-ja. Izrađuje AI Safety Atlas i pokrenuo je Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) Neprofitna istraživačka organizacija iz Berkeleyja čiji je rad pomogao utemeljiti područje usklađenosti UI-ja i koja sada poziva na globalnu, provedivu obustavu izgradnje superinteligencije.
ML4Good Besplatni, intenzivni bootcampovi o sigurnosti UI-ja uživo, pokrenuti u Francuskoj, a danas se održavaju diljem Europe i šire, sa smjerovima za tehničke i političke karijere.

Djelo zajednice

Igre, alati i istraživanja ljudi koji rade na sigurnosti UI-ja. Svaki se projekt otvara na vlastitoj stranici.

Piši svojim zastupnicima · 2 minute