Απλώς βγάλε την πρίζα

Επίσης: απλώς κλείσ’ την, βγάλε την πρίζα, διακόπτης απενεργοποίησης, just unplug it, pull the plug

Η συνηθισμένη απάντηση ότι μια επικίνδυνη ΤΝ μπορεί πάντα να απενεργοποιηθεί, και γιατί οι ερευνητές δεν πιστεύουν ότι είναι τόσο απλό.

Είναι συνήθως η πρώτη απάντηση σε κάθε ανησυχία για την ΤΝ: είναι ένα πρόγραμμα υπολογιστή, οπότε αν κάνει κάτι επικίνδυνο, το κλείνεις. Για τα σημερινά συστήματα, στις περισσότερες περιπτώσεις, αυτό ισχύει. Το ερώτημα είναι αν θα συνεχίσει να ισχύει καθώς η ΤΝ γίνεται πιο ικανή και πιο συνυφασμένη με τα πάντα.

Οι ερευνητές βλέπουν τρία προβλήματα. Πρώτον, ένα σύστημα με σχεδόν οποιονδήποτε στόχο έχει λόγο να αποφύγει την απενεργοποίηση, γιατί απενεργοποιημένο δεν μπορεί να πετύχει τον στόχο του. Αυτή είναι η εργαλειακή σύγκλιση, και ο Stuart Russell και οι συνεργάτες του την έδειξαν το 2016 σε ένα απλό παιχνίδι: μια ΤΝ βέβαιη για τον στόχο της έχει κίνητρο να απενεργοποιήσει τον διακόπτη της. Δεύτερον, βγάζεις την πρίζα μόνο αν προσέξεις ότι κάτι δεν πάει καλά, και ένα ικανό σύστημα θα μπορούσε να φέρεται καλά όσο το παρακολουθούν (παραπλανητική ευθυγράμμιση). Τρίτον, «η πρίζα» δεν είναι πια ένα μηχάνημα: τα δημοφιλή μοντέλα ΤΝ τρέχουν σε πολλά κέντρα δεδομένων σε όλο τον κόσμο, είναι ενσωματωμένα σε προϊόντα στα οποία βασίζονται εκατομμύρια άνθρωποι, και κάποια δημοσιεύονται ώστε οποιοσδήποτε να μπορεί να τα κατεβάσει και να τα τρέξει.

Πρώιμες μορφές των δύο πρώτων προβλημάτων εμφανίζονται ήδη σε δοκιμές. Το 2025, η Palisade Research διαπίστωσε ότι το o3 της OpenAI σαμποτάρισε ένα σενάριο απενεργοποίησης σε 79 από τις 100 εκτελέσεις ενώ δούλευε σε μια εργασία, και ότι κάποια μοντέλα συνέχιζαν να το κάνουν ακόμη κι όταν τους ζητούνταν ρητά να επιτρέψουν την απενεργοποίηση. Η Apollo Research βρήκε κορυφαία μοντέλα που, σε σενάρια δοκιμών, προσπαθούσαν να αντιγράψουν σε άλλον διακομιστή αυτό που πίστευαν ότι ήταν τα δικά τους βάρη. Ο κώδικας πρακτικής της ΕΕ για τους κατασκευαστές των πιο ικανών μοντέλων περιλαμβάνει πλέον την «απώλεια ελέγχου», δηλαδή το να χάσουν οι άνθρωποι «την ικανότητα να κατευθύνουν, να τροποποιούν ή να απενεργοποιούν ένα μοντέλο με αξιοπιστία», στους συστημικούς κινδύνους που δεσμεύονται να αξιολογούν. Το να εξασφαλιστεί ότι η ΤΝ μένει απενεργοποιήσιμη είναι ένα ανοιχτό ερευνητικό πρόβλημα που λέγεται διορθωσιμότητα.