Apollo Research

Pirms laišanas klajā testē vadošos MI modeļus attiecībā uz scheming (MI, kas slepeni tiecas pēc saviem mērķiem) un sadarbojas ar valdībām, tostarp ar Eiropas MI biroju, kontroles zaudēšanas jautājumos.

Apollo Research koncentrējas uz scheming — gadījumiem, kad MI sistēma “tiecas pēc saviem mērķiem, vienlaikus izskatoties saskaņota”. Tā veic “vadošo MI sistēmu novērtējumus pirms ieviešanas, lai atklātu stratēģisku maldināšanu”, izstrādā uzraudzības rīkus MI aģentiem un atbalsta valdības tehniskajā MI pārvaldībā. apolloresearch.ai

Tās 2024. gada raksts Frontier Models are Capable of In-context Scheming parādīja vairākus vadošos modeļus, kas testa scenārijos mēģināja atspējot savu uzraudzību. Tā ir sadarbojusies ar politikas veidotājiem Eiropas MI birojā, ANO un ASV Kongresā. Par Apollo Research