Apollo Research

Testar ledande AI-modeller före lansering för scheming (AI som i hemlighet driver egna mål) och arbetar med regeringar, bland annat Europeiska AI-byrån, kring förlust av kontroll.

Apollo Research fokuserar på scheming, där ett AI-system ”driver egna mål samtidigt som det verkar anpassat”. Organisationen genomför ”utvärderingar av ledande AI-system före driftsättning för att upptäcka strategiskt bedrägeri”, bygger övervakningsverktyg för AI-agenter och stöttar regeringar med teknisk AI-styrning. apolloresearch.ai

Dess artikel från 2024, Frontier Models are Capable of In-context Scheming, visade flera ledande modeller som i testscenarier försökte inaktivera sin övervakning. Den har arbetat med beslutsfattare vid Europeiska AI-byrån, FN och den amerikanska kongressen. Om Apollo Research