Apollo Research

Testuje czołowe modele AI przed wprowadzeniem na rynek pod kątem scheming (AI potajemnie realizującej własne cele) i współpracuje z rządami, w tym z Europejskim Urzędem ds. Sztucznej Inteligencji, w sprawie utraty kontroli.

Apollo Research zajmuje się scheming, czyli sytuacją, w której system AI „realizuje własne cele, sprawiając wrażenie zgodnego”. Prowadzi „oceny czołowych systemów AI przed ich wdrożeniem, aby wykrywać strategiczne oszustwo”, tworzy narzędzia do monitorowania agentów AI i wspiera rządy w technicznym zarządzaniu AI. apolloresearch.ai

Jego artykuł z 2024 roku Frontier Models are Capable of In-context Scheming pokazał kilka wiodących modeli próbujących wyłączyć nadzór nad sobą w scenariuszach testowych. Współpracowało z decydentami w Europejskim Urzędzie ds. Sztucznej Inteligencji, ONZ i Kongresie USA. O Apollo Research