Ερμηνευσιμότητα

Η επιστήμη του να κοιτάμε μέσα σε ένα μοντέλο ΤΝ για να καταλάβουμε πώς λειτουργεί και γιατί κάνει ό,τι κάνει.

Ένα εκπαιδευμένο μοντέλο ΤΝ είναι δισεκατομμύρια αριθμοί. Κανείς δεν τους έγραψε· προσαρμόστηκαν αυτόματα κατά την εκπαίδευση. Γι’ αυτό ακόμη και οι δημιουργοί του δεν μπορούν απλώς να διαβάσουν τι ξέρει ή γιατί έδωσε μια απάντηση. Οι ερευνητές της Anthropic το είπαν καθαρά το 2024: «Ως επί το πλείστον αντιμετωπίζουμε τα μοντέλα ΤΝ ως μαύρο κουτί.» Ο διευθύνων σύμβουλος της εταιρείας, Dario Amodei, έγραψε το 2025 ότι «οι άνθρωποι εκτός του πεδίου συχνά εκπλήσσονται και ανησυχούν όταν μαθαίνουν ότι δεν καταλαβαίνουμε πώς λειτουργούν τα ίδια μας τα δημιουργήματα ΤΝ», και παρέθεσε την άποψη του ερευνητή Chris Olah ότι αυτά τα συστήματα «καλλιεργούνται περισσότερο παρά κατασκευάζονται».

Η έρευνα ερμηνευσιμότητας προσπαθεί να το αλλάξει αυτό. Το 2024, ερευνητές βρήκαν εκατομμύρια εσωτερικά «χαρακτηριστικά» σε ένα από τα μοντέλα παραγωγής της Anthropic, από πόλεις και ανθρώπους έως αφηρημένες ιδέες όπως σφάλματα στον κώδικα, τήρηση μυστικών και επιδίωξη εξουσίας. Η ενίσχυση ενός χαρακτηριστικού αλλάζει τη συμπεριφορά του μοντέλου: ενίσχυσε το χαρακτηριστικό της γέφυρας Golden Gate και το μοντέλο ισχυρίζεται ότι είναι η γέφυρα.

Έχει σημασία για την ασφάλεια γιατί οι δοκιμές συμπεριφοράς δείχνουν μόνο τι κάνει ένα μοντέλο όταν το παρακολουθούν. Αν ένα μοντέλο ήταν παραπλανητικά ευθυγραμμισμένο, η απόδειξη θα βρισκόταν μέσα του. Το πεδίο προοδεύει, αλλά τα χαρακτηριστικά που βρέθηκαν ως τώρα είναι μόνο ένα μικρό μέρος όσων περιέχουν τα μεγάλα μοντέλα.