Ο φόρος ευθυγράμμισης

Επίσης: alignment tax, φόρος ασφάλειας, safety tax

Το επιπλέον κόστος, σε χρήμα, χρόνο ή επιδόσεις, για να είναι ένα σύστημα ΤΝ ασφαλές και όχι μόνο ικανό.

Ο φόρος ευθυγράμμισης είναι «το κόστος που προκύπτει όταν επιμένουμε να αναπτύσσουμε μόνο ευθυγραμμισμένη ΤΝ», όπως το διατύπωσε ο ερευνητής ασφάλειας ΤΝ Paul Christiano σε μια ομιλία το 2020. Είναι ό,τι κοστίζει η ασφάλεια σε σύγκριση με τον πιο γρήγορο και φθηνό δρόμο προς ένα ικανό σύστημα: επιπλέον έρευνα και δοκιμές, καθυστερημένη κυκλοφορία ή ένα μοντέλο που τα πάει λίγο χειρότερα σε κάποιες εργασίες.

Ο όρος εμφανίζεται στην πράξη. Όταν η OpenAI εκπαίδευσε το InstructGPT με ανθρώπινη ανατροφοδότηση (RLHF) το 2022, το μοντέλο έγινε πιο χρήσιμο και πιο φιλαλήθες, αλλά τα πήγε χειρότερα σε αρκετά τυπικά τεστ. Η εργασία το ονόμασε «παράδειγμα φόρου ευθυγράμμισης» και βρήκε τρόπο να τον μειώσει, αναμειγνύοντας μέρος της αρχικής εκπαίδευσης. Οι συγγραφείς εξήγησαν επίσης γιατί έχει σημασία: ένας υψηλός φόρος ευθυγράμμισης «δίνει κίνητρα για τη χρήση μοντέλων που δεν είναι ευθυγραμμισμένα αλλά είναι πιο ικανά».

Αυτή είναι η πραγματική ανησυχία. Σε έναν αγώνα ανάμεσα σε εταιρείες, όποιος πληρώνει τον φόρο κινδυνεύει να μείνει πίσω από όποιον δεν τον πληρώνει. Ο Christiano περιέγραψε δύο απαντήσεις: να μειωθεί ο φόρος μέσω της έρευνας, ώστε η ασφαλής ΤΝ να είναι και η καλύτερη ΤΝ, ή να εξασφαλιστεί ότι όλοι τον πληρώνουν, μέσω συμφωνιών και κανόνων, ώστε η ασφάλεια να μην είναι ανταγωνιστικό μειονέκτημα. Ρυθμίσεις όπως η πράξη της ΕΕ για την ΤΝ (AI Act) είναι μια προσπάθεια για το δεύτερο.