Apollo Research

Tester førende AI-modeller før lancering for scheming (AI, der i det skjulte forfølger egne mål), og arbejder med regeringer, herunder Det Europæiske AI-kontor, om tab af kontrol.

Apollo Research fokuserer på scheming, hvor et AI-system »forfølger egne mål, mens det fremstår afstemt«. Organisationen udfører »evalueringer af førende AI-systemer før ibrugtagning for at opdage strategisk bedrag«, bygger overvågningsværktøjer til AI-agenter og støtter regeringer med teknisk AI-styring. apolloresearch.ai

Dens artikel fra 2024, Frontier Models are Capable of In-context Scheming, viste flere førende modeller, der i testscenarier forsøgte at deaktivere deres overvågning. Den har arbejdet med beslutningstagere ved Det Europæiske AI-kontor, FN og den amerikanske Kongres. Om Apollo Research