Οργανώσεις
Ομάδες που εργάζονται πάνω στις ιδέες αυτής της βάσης γνώσεων.
- Ευρωπαϊκή Υπηρεσία Τεχνητής Νοημοσύνης Το κέντρο της Ευρωπαϊκής Επιτροπής για την ΤΝ. Επιβάλλει τους κανόνες της πράξης για την ΤΝ στα ισχυρότερα μοντέλα ΤΝ γενικού σκοπού, μεταξύ άλλων δοκιμάζοντάς τα για κινδύνους όπως η απώλεια ελέγχου.
- Apollo Research Δοκιμάζει κορυφαία μοντέλα ΤΝ πριν από την κυκλοφορία τους για scheming (ΤΝ που επιδιώκει κρυφά δικούς της στόχους) και συνεργάζεται με κυβερνήσεις, μεταξύ αυτών και την Ευρωπαϊκή Υπηρεσία ΤΝ, για την απώλεια ελέγχου.
- Center for AI Safety Ένας μη κερδοσκοπικός οργανισμός έρευνας και ανάπτυξης του πεδίου στο Σαν Φρανσίσκο, που εργάζεται για τη μείωση των κινδύνων της ΤΝ σε κοινωνική κλίμακα. Οργάνωσε το 2023 το Statement on AI Risk.
- CeSIA (Γαλλικό Κέντρο για την Ασφάλεια της ΤΝ) Μια δεξαμενή σκέψης με έδρα το Παρίσι που εργάζεται για την πρόληψη των μεγάλων κινδύνων της ΤΝ μέσω έρευνας, συμβουλευτικής πολιτικής και εκπαίδευσης. Δημιουργεί το AI Safety Atlas και ξεκίνησε το Global Call for AI Red Lines.
- Future of Life Institute Ένας μη κερδοσκοπικός οργανισμός που εργάζεται για να απομακρύνει την ισχυρή τεχνολογία από ακραίους κινδύνους μεγάλης κλίμακας. Για την ΤΝ κάνει πολιτική δουλειά στην ΕΕ και τις ΗΠΑ, και δημοσίευσε το 2023 την ανοιχτή επιστολή που ζητούσε παύση.
- Machine Intelligence Research Institute (MIRI) Ένας μη κερδοσκοπικός ερευνητικός οργανισμός στο Μπέρκλεϊ, του οποίου το έργο βοήθησε να θεμελιωθεί το πεδίο της ευθυγράμμισης της ΤΝ, και που τώρα ζητά μια παγκόσμια, επιβαλλόμενη διακοπή της κατασκευής υπερνοημοσύνης.
- ML4Good Δωρεάν, εντατικά δια ζώσης bootcamp για την ασφάλεια της ΤΝ, που ξεκίνησαν στη Γαλλία και πλέον γίνονται σε όλη την Ευρώπη και αλλού, με κατευθύνσεις για τεχνικές καριέρες και καριέρες πολιτικής.
- PauseAI Ένα κίνημα βάσης, που ιδρύθηκε στην Ολλανδία το 2023, και αγωνίζεται για μια διεθνή παύση στην ισχυρότερη ΤΝ μέχρι να μάθουμε πώς να την κάνουμε ασφαλή.
