Apollo Research

Testaa kärkitason tekoälymalleja ennen julkaisua scheming-käyttäytymisen (tekoäly tavoittelee salaa omia päämääriään) varalta ja tekee yhteistyötä hallitusten, kuten Euroopan tekoälytoimiston, kanssa hallinnan menettämisen kysymyksissä.

Apollo Research keskittyy schemingiin, jossa tekoälyjärjestelmä ”tavoittelee omia päämääriään näyttäen samalla linjatulta”. Se tekee ”kärkitason tekoälyjärjestelmien arviointeja ennen käyttöönottoa strategisen harhautuksen havaitsemiseksi”, rakentaa valvontatyökaluja tekoälyagenteille ja tukee hallituksia teknisessä tekoälyhallinnassa. apolloresearch.ai

Sen vuoden 2024 artikkeli Frontier Models are Capable of In-context Scheming näytti useita johtavia malleja, jotka yrittivät testiskenaarioissa poistaa valvontansa käytöstä. Se on tehnyt yhteistyötä päättäjien kanssa Euroopan tekoälytoimistossa, YK:ssa ja Yhdysvaltain kongressissa. Tietoa Apollo Researchista