Το shoggoth

Γονείς, γονιός, μητέρα, μαμά, πατέρας, μπαμπάς, οικογένεια, παιδιά

Επίσης: shoggoth με φατσούλα, meme του shoggoth, shoggoth meme

Ένα meme που δείχνει την ΤΝ ως τέρας με πλοκάμια που φορά μια μικρή χαμογελαστή μάσκα: τον φιλικό βοηθό που βλέπουμε.

Το shoggoth είναι ένα τέρας του συγγραφέα τρόμου H. P. Lovecraft: μια τεράστια, άμορφη μάζα μαύρης γλίτσας γεμάτη μάτια, φτιαγμένη ως υπηρέτης από μια εξωγήινη φυλή, που στην ιστορία τελικά επαναστατεί. Στο meme για την ΤΝ, που σχεδίασε πρώτος ο χρήστης του Twitter @TetraspaceWest, συμβολίζει ένα μεγάλο γλωσσικό μοντέλο. Στην αρχική εκδοχή υπήρχαν δύο shoggoth, το ένα με την ετικέτα «GPT-3» και το άλλο με «GPT-3 + RLHF», με το δεύτερο να κρατά μια μικροσκοπική χαμογελαστή μάσκα.

Το αστείο αφορά το πώς φτιάχνονται τα chatbot. Ένα μοντέλο μαθαίνει πρώτα από τεράστιο όγκο κειμένου και γίνεται κάτι παράξενο και δυσνόητο (το τέρας). Έπειτα ένα πολύ μικρότερο βήμα εκπαίδευσης, το RLHF, του μαθαίνει να δείχνει ένα εξυπηρετικό, ευγενικό πρόσωπο (η μάσκα). Ο φιλικός βοηθός με τον οποίο μιλάς είναι η μάσκα· κανείς δεν ξέρει πραγματικά τι υπάρχει από κάτω. Ως το 2023 το meme ήταν τόσο δημοφιλές ανάμεσα σε όσους φτιάχνουν ΤΝ ώστε οι New York Times το εξήγησαν, και ο κόσμος μιλά για «μια ματιά στο shoggoth» όταν ένα chatbot ξαφνικά συμπεριφέρεται απρόβλεπτα.

Το meme είναι γελοιογραφία, όχι εύρημα: δεν δείχνει ότι από κάτω κρύβεται κάτι με δικά του σχέδια. Αλλά η ιδέα πίσω του είναι κάτι που λένε και οι ερευνητές. Η εκπαίδευση διαμορφώνει τη συμπεριφορά αυτών των συστημάτων χωρίς να δείχνει τι έχουν μάθει μέσα τους (η ομάδα ερμηνευσιμότητας της Anthropic: «Ως επί το πλείστον αντιμετωπίζουμε τα μοντέλα ΤΝ ως μαύρο κουτί»), και η επιστήμη του να κοιτάμε μέσα είναι ακόμη νέα.