Apollo Research

Prieš išleidimą tikrina pažangiausius DI modelius dėl scheming (DI, slapta siekiantis savų tikslų) ir bendradarbiauja su vyriausybėmis, įskaitant Europos DI biurą, kontrolės praradimo klausimais.

Apollo Research daugiausia dėmesio skiria scheming – atvejams, kai DI sistema „siekia savų tikslų, atrodydama suderinta“. Ji atlieka „pažangiausių DI sistemų vertinimus prieš diegimą, kad aptiktų strateginę apgaulę“, kuria DI agentų stebėsenos įrankius ir padeda vyriausybėms techninio DI valdymo srityje. apolloresearch.ai

Jos 2024 m. straipsnis Frontier Models are Capable of In-context Scheming parodė kelis pirmaujančius modelius, kurie bandomuosiuose scenarijuose mėgino išjungti savo priežiūrą. Ji bendradarbiavo su politikos formuotojais Europos DI biure, JT ir JAV Kongrese. Apie Apollo Research