Apollo Research

Testuje špičkové modely AI před uvedením na trh na scheming (AI, která skrytě sleduje vlastní cíle) a spolupracuje s vládami, včetně Evropského úřadu pro umělou inteligenci, na otázce ztráty kontroly.

Apollo Research se zaměřuje na scheming, kdy systém AI „sleduje vlastní cíle a přitom působí sladěně“. Provádí „hodnocení špičkových systémů AI před nasazením s cílem odhalit strategické klamání“, vyvíjí monitorovací nástroje pro agenty AI a podporuje vlády v technické správě AI. apolloresearch.ai

Jeho studie z roku 2024 Frontier Models are Capable of In-context Scheming ukázala několik předních modelů, které se v testovacích scénářích pokoušely vyřadit dohled nad sebou. Spolupracovalo s tvůrci politik v Evropském úřadu pro umělou inteligenci, OSN a Kongresu USA. O Apollo Research