Apollo Research

Vodilne modele UI pred izdajo preizkuša glede scheminga (UI, ki skrivaj zasleduje lastne cilje) in z vladami, vključno z Evropskim uradom za umetno inteligenco, sodeluje pri vprašanju izgube nadzora.

Apollo Research se osredotoča na scheming, ko sistem UI »zasleduje lastne cilje, medtem ko se zdi usklajen«. Izvaja »ocenjevanja vodilnih sistemov UI pred uvedbo za odkrivanje strateškega zavajanja«, razvija orodja za spremljanje agentov UI in vladam pomaga pri tehničnem upravljanju UI. apolloresearch.ai

Njegov članek iz leta 2024 Frontier Models are Capable of In-context Scheming je pokazal več vodilnih modelov, ki so v testnih scenarijih poskušali onemogočiti nadzor nad seboj. Sodeloval je z oblikovalci politik pri Evropskem uradu za umetno inteligenco, OZN in ameriškem kongresu. O Apollo Research