Organisationen
Gruppen, die an den Ideen in diesem Wissensarchiv arbeiten.
- Apollo Research Testet Spitzenmodelle der KI vor der Veröffentlichung auf Scheming (KI, die heimlich eigene Ziele verfolgt), und arbeitet mit Regierungen, darunter dem Europäischen Amt für künstliche Intelligenz, zum Kontrollverlust.
- Center for AI Safety Eine gemeinnützige Organisation in San Francisco für Forschung und Feldaufbau, die gesamtgesellschaftliche Risiken durch KI verringern will. Sie organisierte 2023 das Statement on AI Risk.
- CeSIA (Französisches Zentrum für KI-Sicherheit) Ein Thinktank in Paris, der durch Forschung, Politikberatung und Bildung große KI-Risiken verhindern will. Er erstellt den AI Safety Atlas und hat den Global Call for AI Red Lines ins Leben gerufen.
- Europäisches Amt für künstliche Intelligenz Das KI-Zentrum der Europäischen Kommission. Es setzt die Regeln des AI Act für die leistungsfähigsten KI-Modelle mit allgemeinem Verwendungszweck durch und testet sie unter anderem auf Risiken wie Kontrollverlust.
- Future of Life Institute Eine gemeinnützige Organisation, die mächtige Technologie von extremen, großflächigen Risiken wegsteuern will. Zu KI betreibt sie Politikarbeit in der EU und den USA und veröffentlichte 2023 den offenen Brief, der eine Pause forderte.
- Machine Intelligence Research Institute (MIRI) Eine gemeinnützige Forschungsorganisation in Berkeley, deren Arbeit half, das Fachgebiet der KI-Ausrichtung zu begründen, und die heute einen weltweiten, durchgesetzten Stopp beim Bau von Superintelligenz fordert.
- ML4Good Kostenlose, intensive Präsenz-Bootcamps zur KI-Sicherheit, in Frankreich gestartet und inzwischen in ganz Europa und darüber hinaus, mit Schwerpunkten für technische und politische Karrieren.
- PauseAI Eine Graswurzelbewegung, 2023 in den Niederlanden gegründet, die sich für eine internationale Pause bei der leistungsfähigsten KI einsetzt, bis wir wissen, wie man sie sicher macht.
