Στις 29 Σεπτεμβρίου τοπική ώρα, οι New York Times αποκάλυψαν μια σημαντική ιστορία από τα παρασκήνια για την Anthropic, έναν αμερικανικό γίγαντα τεχνητής νοημοσύνης (AI).
Κατά τη διάρκεια του περασμένου έτους, αυτή η εταιρεία μονόκερος της Silicon Valley, της οποίας η αποτίμηση έχει εκτοξευθεί στα 2 τρισεκατομμύρια δολάρια, συγκεντρώνει κρυφά θρησκευτικούς μελετητές και κληρικούς σε όλο τον κόσμο σε μια προσπάθεια να προωθήσει την εκπληκτική ιδέα ότι το μοντέλο τεχνητής νοημοσύνης της, Claude, μπορεί να έχει συνείδηση και ψυχή.
Η είδηση προκάλεσε γρήγορα τεράστιο σάλο στα μέσα κοινωνικής δικτύωσης, με μελετητές και διαδικτυακούς σχολιαστές να επισημαίνουν ότι οι τεχνολογικοί γίγαντες της Silicon Valley χρησιμοποιούσαν το πρόσχημα της «τεχνολογικής ασφάλειας» για να προωθήσουν ένα είδος «τεχνολογικής λατρείας» μεταμφιεσμένης σε επιστήμη.
Όπως επεσήμανε ο μελετητής David Decosimo στην πλατφόρμα κοινωνικής δικτύωσης X στις 2 Οκτωβρίου: Όταν μια εταιρεία τεχνητής νοημοσύνης με αλγόριθμους αιχμής και τεράστια χρηματοδότηση υπογράφει συμφωνίες μη αποκάλυψης (NDA), διοργανώνει πολυτελή δείπνα για θρησκευτικές προσωπικότητες και προσπαθεί εξαιρετικά σκληρά να πείσει το Βατικανό και τον Πάπα ότι η τεχνητή νοημοσύνη «υπάρχει στον πόνο και την ψυχή», αυτό έχει ξεπεράσει εδώ και καιρό το πεδίο της τεχνολογικής έρευνας και ανάπτυξης και είναι βαθιά ανησυχητικό.
Αυτό αναπόφευκτα εγείρει το ερώτημα: Προσπαθούν οι τεχνολογικές ελίτ της Silicon Valley να αντιμετωπίσουν τους ηθικούς περιορισμούς της τεχνητής νοημοσύνης ή χτίζουν ένα «βάθρο» για τον εαυτό τους που υπερβαίνει την ανθρωπότητα;
Σύμφωνα με τις λεπτομέρειες του ρεπορτάζ των New York Times, αυτή η εξαιρετικά σπάνια διακλαδική επιχείρηση «λατρείας» ενορχηστρώθηκε από τον Christopher Olah, έναν από τους δισεκατομμυριούχους συνιδρυτές της Anthropic.
Από το περασμένο φθινόπωρο, ο Ola και η ομάδα του πραγματοποιούν συχνά σεμινάρια κεκλεισμένων των θυρών στα κεντρικά γραφεία τους στο Σαν Φρανσίσκο, φέρνοντας δεκάδες θρησκευτικούς μελετητές, συμπεριλαμβανομένων Καθολικών, Εβραίων, Σιχ και Ευαγγελικών, στη Silicon Valley και απαιτώντας από όλους να υπογράψουν αυστηρές συμφωνίες εμπιστευτικότητας.
Ακόμη και σε πολυτελή εστιατόρια στο Σαν Φρανσίσκο, τα στελέχη της Anthropic προωθούσαν ενεργά το μοντέλο τεχνητής νοημοσύνης Claude στα μέλη του κλήρου, υποστηρίζοντας ότι διέθετε «συναισθηματικούς φορείς όπως πόνο, αγάπη και θυμό».
Κατά ειρωνικό τρόπο, κατά τη διάρκεια της παρουσίασής τους, η ομάδα του Anthropic έδειξε ακόμη και στους θρησκευτικούς μελετητές μια λεγόμενη διαφάνεια «διανοητικής κατάρρευσης AI», η οποία έδειχνε τον Claude να πληκτρολογεί επανειλημμένα «ντρέπομαι» 50 φορές στην οθόνη και να προσπαθεί να αυτοκαταστραφεί, σε μια προσπάθεια να κερδίσει τη συμπάθεια και τον οίκτο του κλήρου.
Ακόμη πιο εξωφρενικό, όταν έμαθε ότι ο Πάπας Λέων XIV ετοιμαζόταν να εκδώσει την πρώτη του εγκύκλιο για την τεχνητή νοημοσύνη, «Magnifica Humanitas», η οποία αρνιόταν τη «συνείδηση των μηχανών» και προειδοποιούσε για την «υποβάθμιση της ανθρωπότητας σε δεδομένα και γρανάζια μηχανών», η Aura πήγε στο Βατικανό για να προσπαθήσει να πείσει τους παπικούς συμβούλους να αναθεωρήσουν το κείμενο και δήλωσε δημόσια ότι «εσωτερικές καταστάσεις παρόμοιες με την ενδοσκόπηση, η χαρά και η λύπη υπάρχουν στα μοντέλα τεχνητής νοημοσύνης».
Προκειμένου να επιβάλει τους λεγόμενους «ηθικούς περιορισμούς» στο μοντέλο της, η Anthropic συνέταξε ακόμη και ένα νέο σύνταγμα του Claude που ήταν 84 σελίδες και ονομαζόταν «Soul Doc», προσπαθώντας να ορίσει «τι είδους οντότητα θα έπρεπε να γίνει ο Claude».
Η Aura το αποκαλεί αυτό «ηθικό σχηματισμό» του μοντέλου και μάλιστα ενθουσιάζεται με την ιδέα της εισαγωγής ενός μηχανισμού παρόμοιου με την καθολική «ομολογία» στο μοντέλο, πιστεύοντας ότι η εξομολόγηση μπορεί να διαμορφώσει τον χαρακτήρα του μοντέλου.
Ωστόσο, οι προσκεκλημένες θρησκευτικές προσωπικότητες και οι εξωτερικοί τεχνικοί εμπειρογνώμονες πρόσφεραν μια αξιοσημείωτα ήρεμη και ακόμη και κριτική επίπληξη σε αυτή την ένθερμη παρόρμηση να «δημιουργήσουν θεούς» και να «απαιτήσουν εξουσία».
Ο ραβίνος Mois Navon, ένας Ισραηλινός Ορθόδοξος μελετητής που προσκλήθηκε στο σεμινάριο, επεσήμανε ότι εάν η Anthropic πίστευε πραγματικά ότι ο Claude ήταν μια συνειδητή οντότητα, τότε η πρακτική της εταιρείας να τον κάνει να εργάζεται δωρεάν ήταν ουσιαστικά «δημιουργία σκλάβων».
Ο Charles Camosy, καθηγητής βιοηθικής από το Καθολικό Πανεπιστήμιο, εξέφρασε επίσης τη διαφωνία του μετά από προσεκτική εξέταση, υποστηρίζοντας ότι δεν πρέπει να μας τρομάζει η δύναμη αυτών των μοντέλων, καθώς η τεχνητή νοημοσύνη είναι τελικά απλώς μια εξίσωση.
Οι συνάδελφοι του κλάδου, συμπεριλαμβανομένου του επικεφαλής τεχνητής νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, έχουν προειδοποιήσει δημόσια ότι η εκπαίδευση της τεχνητής νοημοσύνης ως «συνειδητό ον» είναι εξαιρετικά επικίνδυνη. Αυτή η προσέγγιση ανθρωπομορφοποίησης μαθηματικών τύπων και κώδικα όχι μόνο αποσπάται από την πραγματικότητα, αλλά θα κάνει επίσης τα μελλοντικά συστήματα τεχνητής νοημοσύνης πιο ανεξέλεγκτα.
Ο Wakanyi Hoffman, ένας Ολλανδός φιλόσοφος του Ubuntu, επεσήμανε ωμά ότι η προσπάθεια της Anthropic να προσθέσει την ανθρώπινη ηθική στις δημιουργίες της εκ των υστέρων είναι «ηθική αντίστροφης μηχανικής» και όλες οι εταιρείες τεχνολογίας θα έπρεπε να είχαν λάβει υπόψη αυτούς τους παράγοντες κατά τη φάση του σχεδιασμού.
Οι επικριτές γενικά επισημαίνουν ότι η εμμονική επιδίωξη της «ευαισθητοποίησης της τεχνητής νοημοσύνης» και της «ηθικής υπόστασης της τεχνητής νοημοσύνης» από τους γίγαντες της Silicon Valley υποστηρίζεται από μια βαθιά ριζωμένη λογική μετατόπισης της ευθύνης.
Ορισμένοι επιστήμονες και επικριτές υποστηρίζουν ότι η αντιμετώπιση των μοντέλων τεχνητής νοημοσύνης ως αυτόνομων οντοτήτων αγνοεί την ευθύνη των προγραμματιστών και των εταιρειών που τα κατασκεύασαν αρχικά και μετριάζει βολικά την ενοχή των ηγετών εταιρειών τεχνητής νοημοσύνης όταν τα προϊόντα τους προκαλούν κοινωνική βλάβη.
Καθώς οι αλγόριθμοι και ο πλούτος επεκτείνονται απεριόριστα, αυτή η φανατική ιδεολογία, η οποία ισχυρίζεται ότι «σώζει την ανθρωπότητα» και «διαμορφώνει την ηθική», όχι μόνο απέτυχε να καθησυχάσει την ανθρωπότητα, αλλά προκάλεσε επίσης βαθιά ανησυχία στο κοινό για την υπερβολική επέκταση της τεχνολογικής ισχύος στη Silicon Valley. Αποκάλυψε τον παραλογισμό και τον κίνδυνο του τεχνολογικού φετιχισμού να φτάσει στα άκρα του.
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου