Apollo Research

Tittestja mudelli tal-IA ewlenin qabel it-tnedija għal scheming (IA li ssegwi bil-moħbi għanijiet tagħha stess), u taħdem mal-gvernijiet, inkluż l-Uffiċċju Ewropew għall-IA, dwar it-telf tal-kontroll.

Apollo Research tiffoka fuq scheming, fejn sistema tal-IA “issegwi għanijiet tagħha stess waqt li tidher allinjata”. Tagħmel “evalwazzjonijiet ta’ sistemi tal-IA ewlenin qabel l-użu biex tidentifika l-qerq strateġiku”, tibni għodod ta’ monitoraġġ għal aġenti tal-IA, u tappoġġja lill-gvernijiet fil-governanza teknika tal-IA. apolloresearch.ai

Id-dokument tagħha tal-2024, Frontier Models are Capable of In-context Scheming, wera diversi mudelli ewlenin jippruvaw jiddiżattivaw is-sorveljanza tagħhom f’xenarji ta’ test. Ħadmet ma’ dawk li jfasslu l-politika fl-Uffiċċju Ewropew għall-IA, fin-NU u fil-Kungress tal-Istati Uniti. Dwar Apollo Research