Apollo Research

Testuje špičkové modely AI pred uvedením na trh na scheming (AI, ktorá skryto sleduje vlastné ciele) a spolupracuje s vládami vrátane Európskeho úradu pre umelú inteligenciu na otázke straty kontroly.

Apollo Research sa zameriava na scheming, keď systém AI „sleduje vlastné ciele a pritom pôsobí zosúladene“. Vykonáva „hodnotenia špičkových systémov AI pred nasadením s cieľom odhaliť strategické klamanie“, vyvíja monitorovacie nástroje pre agentov AI a podporuje vlády v technickej správe AI. apolloresearch.ai

Jeho štúdia z roku 2024 Frontier Models are Capable of In-context Scheming ukázala niekoľko popredných modelov, ktoré sa v testovacích scenároch pokúšali vyradiť dohľad nad sebou. Spolupracovalo s tvorcami politík v Európskom úrade pre umelú inteligenciu, OSN a Kongrese USA. O Apollo Research