Apollo Research

Test toonaangevende AI-modellen vóór de lancering op scheming (AI die heimelijk eigen doelen najaagt) en werkt met overheden, waaronder het Europees AI-bureau, aan verlies van controle.

Apollo Research richt zich op scheming, waarbij een AI-systeem ‘eigen doelen najaagt terwijl het afgestemd lijkt’. Het voert ‘evaluaties van toonaangevende AI-systemen uit vóór de inzet, om strategische misleiding op te sporen’, bouwt monitoringtools voor AI-agents en ondersteunt overheden bij technisch AI-bestuur. apolloresearch.ai

Het paper uit 2024, Frontier Models are Capable of In-context Scheming, liet zien hoe verschillende toonaangevende modellen in testscenario’s probeerden hun toezicht uit te schakelen. Het heeft samengewerkt met beleidsmakers bij het Europees AI-bureau, de VN en het Amerikaanse Congres. Over Apollo Research