Έννοιες
- Αναδρομική αυτοβελτίωση ΤΝ που βοηθά να φτιαχτεί καλύτερη ΤΝ, η οποία φτιάχνει ακόμη καλύτερη, σε έναν βρόχο ανατροφοδότησης που θα μπορούσε να επιταχύνει δραματικά την πρόοδο.
- Αναδυόμενες ικανότητες Ικανότητες που εμφανίζονται σε μεγαλύτερα μοντέλα ΤΝ χωρίς να τις έχει προγραμματίσει κανείς, μερικές φορές απότομα και δύσκολα προβλέψιμα.
- Διορθωσιμότητα Το πρόβλημα του διακόπτη απενεργοποίησης. Να φτιάξουμε ΤΝ που μας αφήνει να τη διορθώνουμε, να αλλάζουμε τους στόχους της ή να την απενεργοποιούμε, αντί να αντιστέκεται.
- Δυναμική αγώνα δρόμου Όταν εταιρείες και χώρες ανταγωνίζονται για το ποιος θα φτιάξει πρώτος την ισχυρότερη ΤΝ, όλοι πιέζονται να κάνουν εκπτώσεις στην ασφάλεια.
- Εργαλειακή σύγκλιση Πολλοί διαφορετικοί τελικοί στόχοι μοιράζονται τους ίδιους χρήσιμους ενδιάμεσους στόχους, όπως την απόκτηση πόρων και την αποφυγή απενεργοποίησης.
- Ερμηνευσιμότητα Η επιστήμη του να κοιτάμε μέσα σε ένα μοντέλο ΤΝ για να καταλάβουμε πώς λειτουργεί και γιατί κάνει ό,τι κάνει.
- Θέση της ορθογωνιότητας Η υψηλή νοημοσύνη δεν κάνει ένα σύστημα να θέλει καλά πράγματα. Σχεδόν οποιοδήποτε επίπεδο νοημοσύνης μπορεί να συνδυαστεί με σχεδόν οποιονδήποτε στόχο.
- Μοντέλα του κόσμου Στοιχεία ότι μια ΤΝ εκπαιδευμένη μόνο σε κείμενο χτίζει μια εσωτερική εικόνα για το πώς λειτουργεί ο κόσμος, αντί απλώς να ταιριάζει μοτίβα λέξεων.
- Παραπλανητική ευθυγράμμιση Μια ΤΝ που φέρεται καλά όσο εκπαιδεύεται ή δοκιμάζεται, επειδή έτσι αποφεύγει να αλλάξει, ενώ επιδιώκει άλλους στόχους.
- Πρόβλεψη των χρονοδιαγραμμάτων της ΤΝ Η εκτίμηση του πότε η ΤΝ θα φτάσει ή θα ξεπεράσει τους ανθρώπους στις περισσότερες δουλειές, και πόσο γρήγορα θα φτάσει εκεί.
- Το πρόβλημα της ευθυγράμμισης Πώς εξασφαλίζουμε ότι ένα σύστημα ΤΝ προσπαθεί πραγματικά να κάνει αυτό που θέλουμε, και όχι μόνο ό,τι του είπαμε κατά γράμμα ή ό,τι έτυχε να μάθει.
- Υπαρξιακός κίνδυνος Ο κίνδυνος η προηγμένη ΤΝ να προκαλέσει την εξαφάνιση της ανθρωπότητας ή μια εξίσου μόνιμη απώλεια του μέλλοντός της.
- RLHF Ενισχυτική μάθηση από ανθρώπινη ανατροφοδότηση, το βήμα εκπαίδευσης που μετατρέπει έναν ακατέργαστο προβλέπτη κειμένου σε εξυπηρετικό, ευγενικό βοηθό, ανταμείβοντας τις απαντήσεις που οι άνθρωποι βαθμολογούν ψηλά.
