Apollo Research

Тества водещи модели на ИИ преди пускането им за scheming (ИИ, който тайно преследва собствени цели) и работи с правителства, включително Европейската служба по ИИ, по въпроса за загубата на контрол.

Apollo Research се фокусира върху scheming, когато система с ИИ „преследва собствени цели, докато изглежда съгласувана“. Тя провежда „оценки на водещи системи с ИИ преди внедряване, за да открива стратегическа измама“, създава инструменти за наблюдение на ИИ агенти и подпомага правителствата в техническото управление на ИИ. apolloresearch.ai

Нейната статия от 2024 г. Frontier Models are Capable of In-context Scheming показа няколко водещи модела, които в тестови сценарии се опитват да деактивират надзора си. Тя е работила с политици от Европейската служба по ИИ, ООН и Конгреса на САЩ. За Apollo Research