Αναδρομική αυτοβελτίωση

Προγραμματιστές, προγραμματιστής, προγραμματίστρια, developer, μηχανικός λογισμικού, πληροφορική, κώδικας, Επιστήμονες και ερευνητές, επιστήμονας, ερευνητής, ερευνήτρια, έρευνα, ακαδημαϊκός, εργαστήριο

ΤΝ που βοηθά να φτιαχτεί καλύτερη ΤΝ, η οποία φτιάχνει ακόμη καλύτερη, σε έναν βρόχο ανατροφοδότησης που θα μπορούσε να επιταχύνει δραματικά την πρόοδο.

Οι περισσότερες τεχνολογίες δεν βελτιώνουν τον εαυτό τους. Η ΤΝ θα μπορούσε: ο σχεδιασμός και η εκπαίδευση συστημάτων ΤΝ είναι από μόνα τους πνευματική εργασία, και αν η ΤΝ γίνει καλή σε αυτήν, κάθε γενιά θα μπορούσε να βοηθήσει να φτιαχτεί μια ισχυρότερη επόμενη. Το AI Safety Atlas το περιγράφει ως «ένα σύστημα ΤΝ γίνεται καλύτερο στο να βελτιώνει τον εαυτό του», έναν βρόχο ανατροφοδότησης που συνεχώς επιταχύνεται. Η ιδέα πηγαίνει πίσω στον στατιστικό I. J. Good, που υποστήριξε το 1965 ότι μια μηχανή εξυπνότερη από εμάς θα μπορούσε να σχεδιάσει ακόμη καλύτερες μηχανές, οδηγώντας σε μια «έκρηξη νοημοσύνης».

Το πόσο γρήγορα θα έτρεχε ένας τέτοιος βρόχος αμφισβητείται. Στην εικόνα της «γρήγορης απογείωσης» ξεφεύγει γρήγορα, αφήνοντας λίγο χρόνο για αντίδραση. Στην εικόνα της «αργής απογείωσης» η πρόοδος συσσωρεύεται πιο σταδιακά, αν και σύμφωνα με μια εκτίμηση και πάλι 10 έως 100 φορές ταχύτερα από τη Βιομηχανική Επανάσταση. Το Atlas σημειώνει ότι η διαφορά συχνά καταλήγει στο αν τα προβλήματα θα ήταν αντιληπτά και διορθώσιμα εγκαίρως. Σενάρια όπως το AI 2027 αντιμετωπίζουν την ΤΝ που κάνει έρευνα ΤΝ ως το σημείο καμπής.

Έχει σημασία για την ασφάλεια γιατί ένας γρήγορος βρόχος μικραίνει τον χρόνο για να εντοπιστούν και να διορθωθούν τα προβλήματα. Ο κώδικας πρακτικής της ΕΕ για τα πιο ικανά μοντέλα ΤΝ αναφέρει την «αυτοβελτίωση» και την ΤΝ που «δημιουργεί ή βελτιώνει αυτόνομα μοντέλα ΤΝ» ανάμεσα στους τρόπους με τους οποίους οι άνθρωποι θα μπορούσαν να χάσουν τον έλεγχο.