Apollo Research

Testib tipptasemel tehisintellekti mudeleid enne väljalaset scheming’u suhtes (tehisintellekt, mis taotleb salaja omaenda eesmärke) ja teeb kontrolli kaotamise küsimustes koostööd valitsustega, sealhulgas Euroopa tehisintellektiametiga.

Apollo Research keskendub scheming’ule, mille puhul tehisintellekti süsteem „taotleb omaenda eesmärke, paistes samal ajal joondatuna“. Ta teeb „tipptasemel tehisintellekti süsteemide hindamisi enne kasutuselevõttu, et tuvastada strateegilist pettust“, ehitab tehisintellekti agentide jälgimise tööriistu ja toetab valitsusi tehisintellekti tehnilisel juhtimisel. apolloresearch.ai

Selle 2024. aasta artikkel Frontier Models are Capable of In-context Scheming näitas mitut juhtivat mudelit, mis püüdsid testistsenaariumides oma järelevalvet keelata. Ta on teinud koostööd poliitikakujundajatega Euroopa tehisintellektiametis, ÜRO-s ja USA Kongressis. Apollo Researchist