AIdea
p(doom)
Πόσο πιθανό είναι να πάει άσχημα η ΤΝ;
Επίσης: p-doom, pdoom, πιθανότητα καταστροφής, probability of doom
Συντομογραφία για την προσωπική εκτίμηση κάποιου για την πιθανότητα η ΤΝ να οδηγήσει σε καταστροφή, όπως η εξαφάνιση της ανθρωπότητας.
Το «p(doom)» γράφεται σαν πιθανότητα στα μαθηματικά: η πιθανότητα του αφανισμού («doom»). Ξεκίνησε ως εσωτερικό αστείο στο φόρουμ LessWrong γύρω στο 2009 και διαδόθηκε ευρέως μετά την κυκλοφορία του GPT-4 το 2023, όταν το «πόσο είναι το p(doom) σου;» έγινε συνηθισμένη ερώτηση για όποιον φτιάχνει ή μελετά την ΤΝ.
Το AI Safety Atlas το ορίζει ως «την υποκειμενική πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει υπαρξιακά καταστροφικές συνέπειες για την ανθρωπότητα». Οι απαντήσεις διαφέρουν τεράστια. Το Atlas καταγράφει δημοσιευμένες εκτιμήσεις από 0% (ο επενδυτής Marc Andreessen) και κάτω από 0,01% (ο ερευνητής ΤΝ Yann LeCun), μέσω 10–20% και 20% (οι πρωτοπόροι της ΤΝ Geoffrey Hinton και Yoshua Bengio), έως πάνω από 95% (ο Eliezer Yudkowsky του MIRI). Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, αναφέρεται με 10–25%. Στη μεγαλύτερη έρευνα ανάμεσα σε ερευνητές ΤΝ, από 38% έως 51% έδωσαν τουλάχιστον 10% πιθανότητα σε συνέπειες τόσο σοβαρές όσο η εξαφάνιση της ανθρωπότητας.
Τι δεν είναι ένα p(doom): μέτρηση. Δεν υπάρχει «καμία τυποποιημένη μεθοδολογία», όπως λέει το Atlas, και οι άνθρωποι εννοούν διαφορετικά πράγματα με το «doom» και με τον χρονικό ορίζοντα. Αυτό που δείχνουν όμως οι αριθμοί είναι ότι πολλοί από όσους γνωρίζουν καλύτερα την ΤΝ θεωρούν μια καταστροφή πραγματική πιθανότητα, όχι επιστημονική φαντασία. Για σύγκριση, λίγοι θα επιβιβάζονταν σε αεροπλάνο με 10% πιθανότητα να συντριβεί.
