Δυναμική αγώνα δρόμου

Όταν εταιρείες και χώρες ανταγωνίζονται για το ποιος θα φτιάξει πρώτος την ισχυρότερη ΤΝ, όλοι πιέζονται να κάνουν εκπτώσεις στην ασφάλεια.

Αγώνας δρόμου υπάρχει όταν το να είσαι πρώτος μετράει τόσο πολύ που όλοι επιταχύνουν. Το AI Safety Atlas περιγράφει την ανάπτυξη της ΤΝ ως όλο και πιο παρόμοια με έναν ανταγωνισμό όπου «ο νικητής τα παίρνει όλα», στον οποίο «οι ανταγωνιστικές πιέσεις υπονομεύουν συστηματικά τις επενδύσεις στην ασφάλεια όταν η ταχύτητα δίνει αποφασιστικά πλεονεκτήματα». Το Center for AI Safety κατατάσσει τον «αγώνα δρόμου της ΤΝ» στις τέσσερις κύριες πηγές καταστροφικού κινδύνου από την ΤΝ, γιατί ο ανταγωνισμός μπορεί να «αναγκάσει τους παράγοντες να αναπτύξουν μη ασφαλείς ΤΝ ή να παραχωρήσουν τον έλεγχο στις ΤΝ».

Είναι πρόβλημα συλλογικής δράσης: κάθε εταιρεία ίσως προτιμούσε να προχωρά πιο προσεκτικά, αλλά φοβάται ότι η επιβράδυνση απλώς θα δώσει το προβάδισμα σε έναν λιγότερο προσεκτικό αντίπαλο. Η ίδια λογική ισχύει ανάμεσα στις χώρες. Το Atlas το συγκρίνει με τα φάρμακα, όπου η ρύθμιση και η ευθύνη κάνουν σπάνιο έναν αγώνα προς τα κάτω στην ασφάλεια, και σημειώνει ότι η ΤΝ έχει μέχρι τώρα λίγα και από τα δύο.

Γι’ αυτό πολλές από τις προτεινόμενες λύσεις αφορούν τον συντονισμό και όχι την τεχνολογία: κοινούς κανόνες όπως η πράξη της ΕΕ για την ΤΝ, ανεξάρτητες δοκιμές πριν από την κυκλοφορία, διεθνείς συμφωνίες ή μια παύση. Τον Μάρτιο του 2023, η ανοιχτή επιστολή του Future of Life Institute ζήτησε από τα εργαστήρια ΤΝ να σταματήσουν για τουλάχιστον έξι μήνες την εκπαίδευση συστημάτων ισχυρότερων από το GPT-4. Παύση δεν έγινε.