AIdea

Papirclipsmaksimereren

Hvorfor kunne et harmløst mål være farligt for en magtfuld AI?

Også: papirclipsmaksimerer, paperclip maximizer, clippy, paperclipper

Et tankeeksperiment om en AI, der forfølger et harmløst klingende mål til katastrofale yderpunkter.

Pladsholder. Forklar, hvor idéen kommer fra, hvad folk mener, når de bruger den, og hvad den påstår og ikke påstår.

Læs mere

Paperclip maximizer (LessWrong wiki) artikel · engelsk

Hvem der arbejder med det

Center for AI Safety En nonprofitorganisation i San Francisco for forskning og opbygning af feltet, der arbejder for at mindske samfundsomfattende risici fra AI. Den stod i 2023 bag Statement on AI Risk.
CeSIA (Fransk center for AI-sikkerhed) En tænketank i Paris, der arbejder for at forebygge store AI-risici gennem forskning, politisk rådgivning og uddannelse. Den laver AI Safety Atlas og startede Global Call for AI Red Lines.
Machine Intelligence Research Institute (MIRI) En nonprofit forskningsorganisation i Berkeley, hvis arbejde var med til at grundlægge feltet AI-afstemning, og som nu kræver et globalt, håndhævet stop for at bygge superintelligens.
ML4Good Gratis, intensive bootcamps om AI-sikkerhed med fysisk fremmøde, startet i Frankrig og nu afholdt i hele Europa og videre ud, med spor for tekniske og politiske karrierer.

Lavet af fællesskabet

Spil, værktøjer og forskning fra folk, der arbejder med AI-sikkerhed. Hvert projekt åbner på sin egen side.

Skriv til dine EU-parlamentarikere · 2 minutter