Apollo Research

Δοκιμάζει κορυφαία μοντέλα ΤΝ πριν από την κυκλοφορία τους για scheming (ΤΝ που επιδιώκει κρυφά δικούς της στόχους) και συνεργάζεται με κυβερνήσεις, μεταξύ αυτών και την Ευρωπαϊκή Υπηρεσία ΤΝ, για την απώλεια ελέγχου.

Η Apollo Research εστιάζει στο scheming, όπου ένα σύστημα ΤΝ «επιδιώκει δικούς του στόχους ενώ φαίνεται ευθυγραμμισμένο». Διενεργεί «αξιολογήσεις κορυφαίων συστημάτων ΤΝ πριν από την ανάπτυξή τους για τον εντοπισμό στρατηγικής εξαπάτησης», φτιάχνει εργαλεία παρακολούθησης για πράκτορες ΤΝ και στηρίζει κυβερνήσεις στην τεχνική διακυβέρνηση της ΤΝ. apolloresearch.ai

Η εργασία της του 2024 Frontier Models are Capable of In-context Scheming έδειξε αρκετά κορυφαία μοντέλα να προσπαθούν να απενεργοποιήσουν την εποπτεία τους σε σενάρια δοκιμών. Έχει συνεργαστεί με υπεύθυνους χάραξης πολιτικής στην Ευρωπαϊκή Υπηρεσία ΤΝ, στον ΟΗΕ και στο Κογκρέσο των ΗΠΑ. Σχετικά με την Apollo Research