Apollo Research

Bevezetés előtt teszteli az élvonalbeli MI-modelleket scheming szempontjából (MI, amely titokban saját céljait követi), és kormányokkal, köztük az Európai MI-hivatallal dolgozik az irányítás elvesztésének kérdésén.

Az Apollo Research a schemingre összpontosít, amikor egy MI-rendszer „saját céljait követi, miközben összehangoltnak tűnik”. „Bevezetés előtti értékeléseket végez az élvonalbeli MI-rendszereken a stratégiai megtévesztés felderítésére”, felügyeleti eszközöket fejleszt MI-ügynökökhöz, és támogatja a kormányokat a technikai MI-irányításban. apolloresearch.ai

2024-es tanulmánya, a Frontier Models are Capable of In-context Scheming, több vezető modellt mutatott be, amelyek tesztforgatókönyvekben megpróbálták hatástalanítani a felügyeletüket. Együttműködött döntéshozókkal az Európai MI-hivatalnál, az ENSZ-nél és az amerikai Kongresszusban. Az Apollo Researchről