AIdea
Foom
Θα μπορούσε η ΤΝ να βελτιώνεται τόσο γρήγορα ώστε να μην προλαβαίνουμε;
Επίσης: έκρηξη νοημοσύνης, απότομη απογείωση, γρήγορη απογείωση, η μοναδικότητα, intelligence explosion, hard takeoff
Η ιδέα ότι, μόλις η ΤΝ μπορεί να βελτιώνει τον εαυτό της, θα μπορούσε πολύ γρήγορα να περάσει από το ανθρώπινο επίπεδο πολύ πέρα από εμάς.
Το «foom» είναι ο ήχος από κάτι που απογειώνεται πολύ γρήγορα. Έγινε το όνομα για μια γρήγορη «έκρηξη νοημοσύνης» σε μια διαδικτυακή αντιπαράθεση του 2008 ανάμεσα στον θεωρητικό της ΤΝ Eliezer Yudkowsky και τον οικονομολόγο Robin Hanson, για το «αν οι γενικά ευφυείς ΤΝ θα μπορούν να βελτιώνουν τις δικές τους ικανότητες πολύ γρήγορα». Η βασική ιδέα είναι παλαιότερη: το 1965 ο στατιστικός I. J. Good υποστήριξε ότι μια μηχανή εξυπνότερη από εμάς θα μπορούσε να σχεδιάσει ακόμη καλύτερες μηχανές, πυροδοτώντας μια «έκρηξη νοημοσύνης».
Ο μηχανισμός είναι ένας βρόχος ανατροφοδότησης. Αν η ΤΝ γίνει καλή στη δουλειά της κατασκευής ΤΝ, κάθε βελτίωση φέρνει την επόμενη πιο γρήγορα. Το AI Safety Atlas χρησιμοποιεί το «foom» ως συνώνυμο της «γρήγορης απογείωσης» και της «απότομης απογείωσης». Η αντίθετη άποψη είναι μια «αργή απογείωση», όπου η πρόοδος επίσης συσσωρεύεται, αλλά πιο σταδιακά· σύμφωνα με μια εκτίμηση που παραθέτει το Atlas, και πάλι 10 έως 100 φορές ταχύτερα από τη Βιομηχανική Επανάσταση.
Ποιο από τα δύο θα συμβεί έχει μεγαλύτερη σημασία απ’ όσο ακούγεται. Όπως σημειώνει το Atlas, η διαφωνία συχνά καταλήγει στο αν τα προβλήματα θα ήταν «αντιληπτά και διορθώσιμα εγκαίρως». Μια γρήγορη απογείωση αφήνει λίγο περιθώριο για να εντοπιστεί ένα λάθος και να διορθωθεί. Σενάρια όπως το AI 2027 βάζουν στο κέντρο της ιστορίας τους την ΤΝ που κάνει έρευνα ΤΝ, και ο κώδικας πρακτικής της ΕΕ για τα πιο ικανά μοντέλα αναφέρει την «αυτοβελτίωση» της ΤΝ ανάμεσα στους τρόπους με τους οποίους οι άνθρωποι θα μπορούσαν να χάσουν τον έλεγχο.
