Apollo Research

Testează modelele IA de vârf înainte de lansare pentru scheming (IA care își urmărește în ascuns propriile obiective) și lucrează cu guverne, inclusiv cu Oficiul european pentru IA, pe tema pierderii controlului.

Apollo Research se concentrează pe scheming, situația în care un sistem IA „își urmărește propriile obiective în timp ce pare aliniat”. Realizează „evaluări ale sistemelor IA de vârf înainte de implementare pentru a detecta înșelăciunea strategică”, construiește instrumente de monitorizare pentru agenții IA și sprijină guvernele în guvernanța tehnică a IA. apolloresearch.ai

Lucrarea sa din 2024, Frontier Models are Capable of In-context Scheming, a arătat mai multe modele de top care încercau să-și dezactiveze supravegherea în scenarii de test. A colaborat cu factori de decizie de la Oficiul european pentru IA, ONU și Congresul SUA. Despre Apollo Research