AIdea

Büroklammer-Maximierer

Warum könnte ein harmloses Ziel für eine mächtige KI gefährlich sein?

Auch: Büroklammer-Maximierer, paperclip maximizer, clippy, paperclipper

Ein Gedankenexperiment über eine KI, die ein harmlos klingendes Ziel bis ins katastrophale Extrem verfolgt.

Platzhalter. Erkläre, woher die Idee stammt, was Leute meinen, wenn sie sie verwenden, und was sie behauptet und was nicht.

Weiterlesen

Paperclip maximizer (LessWrong wiki) Artikel · Englisch

Wer daran arbeitet

Center for AI Safety Eine gemeinnützige Organisation in San Francisco für Forschung und Feldaufbau, die gesamtgesellschaftliche Risiken durch KI verringern will. Sie organisierte 2023 das Statement on AI Risk.
CeSIA (Französisches Zentrum für KI-Sicherheit) Ein Thinktank in Paris, der durch Forschung, Politikberatung und Bildung große KI-Risiken verhindern will. Er erstellt den AI Safety Atlas und hat den Global Call for AI Red Lines ins Leben gerufen.
Machine Intelligence Research Institute (MIRI) Eine gemeinnützige Forschungsorganisation in Berkeley, deren Arbeit half, das Fachgebiet der KI-Ausrichtung zu begründen, und die heute einen weltweiten, durchgesetzten Stopp beim Bau von Superintelligenz fordert.
ML4Good Kostenlose, intensive Präsenz-Bootcamps zur KI-Sicherheit, in Frankreich gestartet und inzwischen in ganz Europa und darüber hinaus, mit Schwerpunkten für technische und politische Karrieren.

Aus der Community

Spiele, Tools und Forschung von Menschen, die an KI-Sicherheit arbeiten. Jedes Projekt öffnet sich auf seiner eigenen Website.

Schreib an deine Abgeordneten · 2 Minuten