Apollo Research

Prije objavljivanja testira vodeće modele UI-ja na scheming (UI koja potajno slijedi vlastite ciljeve) i surađuje s vladama, uključujući Europski ured za umjetnu inteligenciju, na pitanju gubitka kontrole.

Apollo Research usredotočen je na scheming, kad sustav UI-ja „slijedi vlastite ciljeve dok se čini usklađenim”. Provodi „procjene vodećih sustava UI-ja prije uvođenja kako bi otkrio stratešku obmanu”, razvija alate za praćenje agenata UI-ja i podupire vlade u tehničkom upravljanju UI-jem. apolloresearch.ai

Njegov rad iz 2024. Frontier Models are Capable of In-context Scheming pokazao je nekoliko vodećih modela koji su u testnim scenarijima pokušavali onesposobiti nadzor nad sobom. Surađivao je s donositeljima politika u Europskom uredu za umjetnu inteligenciju, UN-u i Kongresu SAD-a. O Apollo Researchu