Organisaties
Groepen die werken aan de ideeën in deze kennisbank.
- Apollo Research Test toonaangevende AI-modellen vóór de lancering op scheming (AI die heimelijk eigen doelen najaagt) en werkt met overheden, waaronder het Europees AI-bureau, aan verlies van controle.
- Center for AI Safety Een non-profit in San Francisco voor onderzoek en het opbouwen van het vakgebied, die risico’s van AI op maatschappelijke schaal wil verkleinen. Het organiseerde in 2023 het Statement on AI Risk.
- CeSIA (Frans centrum voor AI-veiligheid) Een denktank in Parijs die grote AI-risico’s wil voorkomen via onderzoek, beleidsadvies en onderwijs. Het maakt de AI Safety Atlas en startte de Global Call for AI Red Lines.
- Europees Bureau voor artificiële intelligentie Het AI-centrum van de Europese Commissie. Het handhaaft de regels van de AI-verordening voor de krachtigste AI-modellen voor algemene doeleinden, onder meer door ze te testen op risico’s zoals verlies van controle.
- Future of Life Institute Een non-profit die krachtige technologie weg wil sturen van extreme, grootschalige risico’s. Op het gebied van AI doet het beleidswerk in de EU en de VS, en het publiceerde in 2023 de open brief die opriep tot een pauze.
- Machine Intelligence Research Institute (MIRI) Een non-profit onderzoeksinstituut in Berkeley waarvan het werk hielp het vakgebied van AI-afstemming te grondvesten, en dat nu oproept tot een wereldwijde, gehandhaafde stop op het bouwen van superintelligentie.
- ML4Good Gratis, intensieve bootcamps over AI-veiligheid op locatie, begonnen in Frankrijk en nu in heel Europa en daarbuiten, met trajecten voor technische en beleidsloopbanen.
- PauseAI Een burgerbeweging, in 2023 in Nederland opgericht, die campagne voert voor een internationale pauze op de krachtigste AI tot we weten hoe we die veilig kunnen maken.
