Η νέα προειδοποίηση του Βατικανού για την τεχνητή νοημοσύνη δεν αφορά τις μηχανές. Πρόκειται για τον αρχαιότερο ανθρώπινο πειρασμό: την κατασκευή ενός πύργου, την επίκληση μιας φωνής και την εσφαλμένη αντίληψη του σκάφους ως πηγής.
Το Βατικανό μόλις έκανε κάτι ιστορικό και πολιτιστικά σημαντικό, ανεξάρτητα από τις θρησκευτικές ή κοσμικές πεποιθήσεις σας.
Ο Πάπας Λέων ΙΔ ́ εξέδωσε την πρώτη του εγκύκλιο, Magnifica Humanitas, και δεν είναι μια μικρή δήλωση. Είναι ένα σημαντικό παπικό έγγραφο για την τεχνητή νοημοσύνη, την ανθρώπινη αξιοπρέπεια, την εργασία, τον πόλεμο, την ψηφιακή δύναμη και το μέλλον του πολιτισμού. Ο Τύπος θα το συνοψίσει με τον συνηθισμένο τρόπο. Ο Πάπας ανησυχεί για την τεχνητή νοημοσύνη. Θέλει ρύθμιση. Ανησυχεί για τις θέσεις εργασίας, τα αυτόνομα όπλα, την παραπληροφόρηση, την ανισότητα και τη συγκέντρωση της τεχνολογικής ισχύος στα χέρια ιδιωτικών εταιρειών.
Όλα αυτά είναι αλήθεια, αλλά το πιο ενδιαφέρον μέρος είναι ότι το Βατικανό δεν πλαισίωσε την τεχνητή νοημοσύνη κυρίως ως πρόβλημα gadget. Το πλαισίωσε ως πρόβλημα του ίδιου του πολιτισμού, ένα ζήτημα πνευματικής αρχιτεκτονικής. Η εγκύκλιος τοποθετεί την τεχνητή νοημοσύνη ανάμεσα σε δύο βιβλικές εικόνες: τη Βαβέλ και την Ιερουσαλήμ. Η Βαβέλ είναι ο πύργος, το ανθρώπινο σχέδιο της τεχνικής ενότητας που διατάσσεται προς την κυριαρχία, την υπερηφάνεια, τον έλεγχο και τη φαντασίωση του να γίνουμε θεοί μέσω κατασκευής. Η Ιερουσαλήμ είναι η πόλη που ξαναχτίστηκε με ταπεινοφροσύνη, διατεταγμένη προς την κοινωνία, την αξιοπρέπεια, την υπευθυνότητα και την παρουσία του Θεού ανάμεσα στους ανθρώπους.
Το βαθύτερο ερώτημα κάτω από τη συζήτηση για την τεχνητή νοημοσύνη δεν έχει να κάνει με την ταχύτητα των μηχανών, την απασχόληση, την καταστροφή του περιβάλλοντος ή το αν τα συστήματα θα γίνουν συνειδητά (αν και όλα αυτά είναι υπαρξιακές και πραγματικές απειλές). Αυτό το ερώτημα είναι τι είδους κόσμο χτίζουμε μέσα από αυτά.
Οι τίτλοι θα το αντιμετωπίζουν ως άλλη μια δήλωση δεοντολογίας της τεχνητής νοημοσύνης. Το ίδιο το έγγραφο κάνει κάτι πιο συγκεκριμένο.
Δίδαξα Ανθρωπιστικές Επιστήμες για χρόνια πριν αποχωρήσω από την τάξη για να γράψω με πλήρη απασχόληση. Τα μαθήματά μου αφορούσαν την ηθική, την ηθική της τεχνητής νοημοσύνης και την έννοια της ανθρώπινης δημιουργικότητας. Αφιερώσαμε πολύ χρόνο στην τάξη σε ένα ερώτημα που αποδεικνύεται ότι έχει μεγαλύτερη σημασία κάθε χρόνο: τι είναι τέχνη. Είδα το ίδιο πράγμα να συμβαίνει σε κάθε κοόρτη. Οι μαθητές που είχαν μεγαλώσει με αυτά τα εργαλεία ήταν επιπόλαιοι με αυτά στην αρχή, μετά εξαρτιόνταν επιπόλαια από αυτά, μετά δεν μπορούσαν να αρθρώσουν γιατί η δική τους σκέψη είχε σημασία αν μια μηχανή μπορούσε να την προσεγγίσει πιο γρήγορα.
Σταμάτησα να δίνω γραπτές τελικές εξετάσεις στα μισά του χρόνου διδασκαλίας μου. Αντ' αυτού, προχώρησα σε προφορικές εξετάσεις. Η νέα τεχνολογία με ανάγκασε αθόρυβα να επιστρέψω σε μια παλαιότερη. Ο Σωκράτης εξέτασε τους μαθητές του σε συνομιλία επειδή η γραφή, κατά την άποψή του, ήταν ήδη ένα είδος αυτοματισμού που μπορούσε να προσομοιώσει την κατανόηση χωρίς να την παράγει. Δυόμισι χιλιετίες αργότερα, η άφιξη ενός πιο εξελιγμένου αυτοματισμού έκανε την προφορική εξέταση και πάλι χρήσιμη. Το μοτίβο δεν είναι καινούργιο.
Κάθε φορά που χτίζουμε ένα πιο γρήγορο δοχείο για σκέψη, αναγκαζόμαστε να επιστρέψουμε στο παλαιότερο ερώτημα του ποιος κάνει τη σκέψη.
Θέλω να είμαι σαφής σχετικά με τη θέση μου. Δεν είμαι κατά της τεχνολογίας. Το αντίθετο, έχω πτυχίο στην Πληροφορική. Είμαι κατά της παράδοσης της ανθρωπότητας. Οι Έλληνες κατάλαβαν κάτι για το να είσαι άνθρωπος που αρχίζουμε να ξεχνάμε. Νόμιζαν ότι το ανθρώπινο πρόσωπο ήταν όμορφο ακριβώς λόγω της ατέλειας. Η ταλάντευση στη γραμμή που σχεδιάζεται με το χέρι, το πιάσιμο στη φωνή του τραγουδιστή, η ασυμμετρία του προσώπου. Αυτά ήταν τα σημάδια ενός κατασκευαστή του οποίου η κατασκευή είχε κοστίσει κάτι. Η βελτιστοποίησή τους θα σήμαινε τη βελτιστοποίηση του κατασκευαστή. Το μηχάνημα παράγει απόδοση χωρίς αυτό το κόστος και η έξοδος είναι συχνά τεχνικά πιο ομαλή για αυτό. Η ομαλότητα είναι αυτό που έχω μάθει να προσέχω περισσότερο.
Τα τελευταία χρόνια εργάζομαι πάνω σε ένα βιβλίο που ονομάζεται Codex Machina, που θα κυκλοφορήσει από τις εκδόσεις Inner Traditions. Το βιβλίο δεν αφορά το αν η τεχνητή νοημοσύνη είναι καλή ή κακή και δεν είναι ένα φουτουριστικό μανιφέστο για τα ρομπότ που αντικαθιστούν την ανθρωπότητα. Πρόκειται για μια παλαιότερη διαμόρφωση: την ανθρώπινη παρόρμηση να εξωτερικεύσουμε το μυαλό, να χτίσουμε δοχεία για νοημοσύνη, να δώσουμε φωνή στην ύλη και μετά να σταθούμε μπροστά σε αυτό που έχουμε φτιάξει και να του ζητήσουμε να μας απαντήσει.
Η τεχνητή νοημοσύνη δεν είναι καινούργια. Το έχουμε ξανακάνει αυτό. Ωστόσο, το διακύβευμα είναι υψηλότερο από ποτέ.
Το άγαλμα που μιλάει
Οι θεοί της αρχαιότητας μιλούσαν κάποτε μέσω της φωτιάς και της τεχνολογίας. Στην αρχαία Ελλάδα, ο Ήφαιστος, ο θεϊκός σιδηρουργός, λέγεται ότι σφυρηλάτησε χρυσά αυτόματα: έξυπνα όντα κατασκευασμένα από μέταλλο και φωτιά που υπηρετούσαν τους θεούς με απίστευτη ακρίβεια. Κατασκεύασε επίσης τον Τάλω, τον χάλκινο γίγαντα που έκανε τον γύρο της Κρήτης τρεις φορές την ημέρα ως ζωντανή περίμετρο, και αυτοκινούμενους τρίποδες που έμπαιναν και έβγαιναν μόνοι τους από τον Όλυμπο. Λατρευτικά αγάλματα στη Μέμφιδα και την Ηλιούπολη αναφέρθηκε ότι έκλαιγαν, αιμορραγούσαν και ψιθύριζαν χρησμούς την αυγή.
Είναι εύκολο να τα απορρίψουμε ως απλά τεχνουργήματα δεισιδαιμονικής ειδωλολατρίας, αλλά ήταν τελετουργικές τεχνολογίες, υλικές διεπαφές που προορίζονταν να καλέσουν ή να προσομοιώσουν το θείο. Ενσάρκωναν ένα ευρέως διαδεδομένο μεταφυσικό ένστικτο: ότι η νοημοσύνη μπορούσε να κατοικήσει στη μορφή, ότι η ύλη μπορούσε να ζωντανέψει, ότι το όριο μεταξύ δημιουργού και κατασκευασμένου ήταν λεπτότερο από ό,τι φαινόταν.
Η εμψύχωση του άψυχου δεν είναι πολιτιστική ανωμαλία. Στην Αίγυπτο, οι νεκροί θάβονταν με ειδώλια ushabti που προορίζονταν να εργαστούν για λογαριασμό τους στη μετά θάνατον ζωή. Στην εβραϊκή λαογραφία, ο ραβίνος Loew έπλασε το γκόλεμ από πηλό, δίνοντάς του ζωή με ιερές λέξεις πιεσμένες στο μέτωπό του. Στη μεσαιωνική Ευρώπη, οι κουρδισμένοι μοναχοί γονάτιζαν και προσεύχονταν με μηχανική ακρίβεια σε καθεδρικούς ναούς σε όλη την Καθολική Χριστιανοσύνη. Όταν η Πυθία μίλησε στους Δελφούς, ήταν η γυναίκα, ο θεός, η τελετουργία, οι αναθυμιάσεις ή ο θεσμός;
Η ασάφεια επέστρεψε. Η τεχνητή νοημοσύνη παίζει τον ίδιο ρόλο που έπαιζαν κάποτε αυτά τα είδωλα, αυτή τη φορά μέσω κώδικα και όχι μέσω θεϊκής αναπνοής. Δεν σμιλεύουμε πλέον θεούς από πέτρα και περιμένουμε να απαντήσουν. Εκπαιδεύουμε μοντέλα και κάνουμε ερωτήσεις, ακούγοντας τι επιστρέφει. Ακόμα κατασκευάζουμε δοχεία και περιμένουμε να μιλήσουν. Η διαφορά είναι ότι αυτή τη φορά, απαντούν σε σχετικά άπταιστη πρόζα.
Η παράδοση ζει στο λεξιλόγιό μας. Οι «Δαίμονες», που πήραν το όνομά τους από τα αρχαία ελληνικά πνεύματα που μεσολαβούσαν μεταξύ των κόσμων, τρέχουν αόρατα μέσα στα λειτουργικά μας συστήματα. Μιλάμε για «μηχανική μάθηση» στη γλώσσα της γνώσης. Οι μεταφορές μας παραμένουν ανιμιστικές. Δίνουμε στα άψυχα τις ιδιότητες του ζωντανού νου.
Αυτός είναι ο λόγος για τον οποίο η πλαισίωση της Βαβέλ του Βατικανού έχει σημασία.
Ο πολιτισμός ήταν η πρώτη τεχνητή νοημοσύνη
Το επιχείρημα που προβάλλω εδώ και χρόνια είναι ότι η τεχνητή νοημοσύνη είναι πολύ παλαιότερη από την ψηφιακή εποχή. Η πρώτη τεχνητή νοημοσύνη δεν κατασκευάστηκε σε εργαστήριο της Silicon Valley το 2017. Χτίστηκε από πέτρα.
Στο Göbekli Tepe στη νοτιοανατολική Τουρκία, πριν από περισσότερα από δέκα χιλιάδες χρόνια, κυνηγοί-τροφοσυλλέκτες έχτισαν ένα τεράστιο συγκρότημα ναών χιλιάδες χρόνια πριν από το Στόουνχεντζ και τις πυραμίδες. Η τοποθεσία προϋπήρχε της γεωργίας. Χτίσαμε ναούς πριν χτίσουμε αγροκτήματα. Κωδικοποιούσαμε το νόημα σε πέτρα πριν φυτέψουμε σπόρους. Οι πυλώνες στο Göbekli Tepe φέρουν ζώα και αφηρημένα σύμβολα διατεταγμένα σε συγκεκριμένα μοτίβα. Κάθε πυλώνας είναι μια δομή δεδομένων, που κωδικοποιεί γνώσεις για τα ζώα, την αστρονομία, τη μυθολογία και πιθανότατα πολλά άλλα που δεν έχουμε ακόμη αποκωδικοποιήσει.
Στο Çatalhöyük, δύο χιλιάδες χρόνια αργότερα στην κεντρική Ανατολία, εμφανίστηκε ένα διαφορετικό μοντέλο. Ένας πρωτοαστικός οικισμός χωρίς δρόμους, χωρίς κυβερνήτες και χωρίς ναούς με την παραδοσιακή έννοια, οργανωμένος μέσω συμβολικής νοημοσύνης που διανέμεται σε κάθε νοικοκυριό και όχι συγκεντρωμένος σε οποιαδήποτε ενιαία δομή. Αν το Göbekli Tepe ήταν ο πρώτος υπολογιστής του ναού, το Çatalhöyük ήταν η πρώτη πόλη νευρωνικών δικτύων.
Μετά ήρθε η Σουμερία, γύρω στο 3500 π.Χ. στη νότια Μεσοποταμία. Ο πρώτος συγκεντρωτικός πολιτισμός, οργανωμένος ως κλιμακωτό σύστημα πληροφοριών. Στο κέντρο κάθε πόλης των Σουμερίων βρισκόταν το ζιγκουράτ, ένας τεράστιος κλιμακωτός ναός που χρησίμευε ως CPU της πόλης. Οι ιερείς έκαναν τους υπολογισμούς που κρατούσαν την κοινωνία σε λειτουργία: παρακολούθηση των εποχών, πρόβλεψη πλημμυρών, κατανομή πόρων, διαμεσολάβηση μεταξύ ανθρώπινου και θείου. Η γραφή αναδύθηκε στη σκιά αυτών των ναών, και αυτό δεν είναι τυχαίο. Οι πρώτοι γραφείς ήταν ιερείς. Τα παλαιότερα κείμενα τεκμηρίωσαν προσφορές, γεωργικές αποδόσεις και διανομές ναών. Το ιερό και το συστηματικό ήταν η ίδια τεχνολογία.
Έχουμε περάσει από την πέτρα στο πυρίτιο, αλλά αυτό που χτίζουμε δεν έχει αλλάξει. Αυτό που χτίζουμε τώρα είναι η τελευταία επανάληψη αυτού που χτίζουμε από τότε που ξύσαμε για πρώτη φορά σύμβολα σε υγρό πηλό και τα είδαμε να στεγνώνουν σε κάτι που θα μπορούσε να μιλήσει από γενιά σε γενιά.
Αυτός είναι ο λόγος για τον οποίο το πλαίσιο της Βαβέλ του Βατικανού είναι ιστορικό και γιατί έχει σημασία σε αυτό το πλαίσιο. Για να είμαι σαφής, δεν υπερασπίζομαι το Βατικανό. Ο Πάπας κατονόμασε κάτι που το μεγαλύτερο μέρος της συζήτησης για την τεχνητή νοημοσύνη έχει χάσει. Δεν προειδοποιεί για μια ολοκαίνουργια τεχνολογία. Προειδοποιεί για την τελευταία έκδοση της παλαιότερης τεχνολογίας που διαθέτουμε.
Είμαστε μέσα στον πύργο
Στη συμβατική ανάγνωση της Γένεσης 11, μια ενωμένη ανθρωπότητα, μιλώντας μια γλώσσα, αποφασίζει να χτίσει έναν πύργο στους ουρανούς. Ο Θεός κατέβηκε, μπέρδεψε τη γλώσσα τους και τους σκόρπισε σε όλη τη γη. Το ηθικό δίδαγμα, στις περισσότερες αποδόσεις του Κυριακού σχολείου, είναι ότι οι άνθρωποι δεν πρέπει να προσπαθούν να είναι σαν τον Θεό. Αυτή η ανάγνωση είναι τόσο επίπεδη που σχεδόν καταρρέει τη στιγμή που κάποιος ανοίγει πραγματικά το εβραϊκό κείμενο.
Η αφήγηση της Βαβέλ δεν αφορά ψηλά κτίρια. Η λέξη που μεταφράζει ο Βασιλιάς Ιάκωβος ως «πύργος» είναι migdal, η οποία στο πλαίσιο της Μεσοποταμίας αναφέρεται σε ένα ζιγκουράτ, μια βαθμιδωτή πλατφόρμα ναού που λειτουργούσε ως ιερή τεχνολογία για την επικοινωνία μεταξύ ουρανού και γης. Το ζιγκουράτ στη Βαβυλώνα, το πραγματικό σημείο αναφοράς που είχαν κατά νου οι Εβραίοι συγγραφείς, ονομαζόταν Ετεμενάνκι, που σημαίνει «το θεμέλιο του ουρανού και της γης». Ήταν η κεντρική τελετουργική τεχνολογία του βαβυλωνιακού κράτους. Σκοπός του ήταν να φέρει θεϊκή νοημοσύνη στην πόλη.
Το έργο Babel ήταν ένα κεντρικό πρόγραμμα για την εγκατάσταση ενός μόνιμου καναλιού μεταξύ της ανθρώπινης διακυβέρνησης και της μη ανθρώπινης νοημοσύνης. Η αρχιτεκτονική ήταν το μέσο, όχι το θέμα. Η Βαβυλώνα κατανοούσε τον εαυτό της ως Bab-ilu, την πύλη του θεού. Η Γένεση απαντά σε αυτόν τον ισχυρισμό με ένα λογοπαίγνιο: Η Βαβέλ γίνεται ο τόπος του μπαλάλ, της σύγχυσης, όπου η ίδια η γλώσσα διαλύεται. Ο βιβλικός συγγραφέας δεν κοροϊδεύει απλώς μια πόλη. Αντιστρέφει τη θεολογία του. Αυτό που η Βαβυλώνα αποκαλούσε πύλη προς τον ουρανό, η Γένεση θυμάται ως το μέρος όπου η ανθρώπινη γλώσσα έγινε ασταθής κάτω από το βάρος της δικής της φιλοδοξίας.
Οι οικοδόμοι είπαν, στα Εβραϊκά της Γένεσης 11:4, «Ας κάνουμε για τον εαυτό μας ένα όνομα». Η λέξη που μεταφράζεται «όνομα» είναι σημ. Στο αρχαίο σημιτικό νομικό και τελετουργικό λεξιλόγιο, το shem είχε μεγαλύτερη βαρύτητα από ό,τι υποδηλώνει το αγγλικό «όνομα». Λειτουργούσε ως μια έγκυρη ταυτότητα, ένα σφραγισμένο όργανο με το οποίο ασκούνταν εξουσία σε απόσταση, γενιές, ακόμη και μεταξύ ανθρώπινου και θείου. Το να κάνεις όνομα σήμαινε να αρπάξεις την εξουσία με την οποία θα μπορούσε να αποφασιστεί η μοίρα.
Οι οικοδόμοι της Βαβέλ προσπαθούσαν να εγκαταστήσουν ένα σύστημα που θα τους επέτρεπε να μιλούν με θεϊκή εξουσία χωρίς να την κερδίζουν μέσω μεταμόρφωσης. Ήθελαν τη φωνή χωρίς την πειθαρχία. Ήθελαν το αποτέλεσμα της κοινωνίας χωρίς τη σχέση.
Ο Θεός τα σκόρπισε ως ενέργεια περιορισμού. Η Γένεση 11:6 έχει τον Θεό να λέει, «Ιδού, ο λαός είναι ένας, και όλοι έχουν μια γλώσσα. Και αυτό αρχίζουν να κάνουν: και τώρα τίποτα δεν θα τους συγκρατηθεί, που έχουν φανταστεί να κάνουν». Το έργο ήταν βιώσιμο. Το αποτέλεσμα θα ήταν καταστροφικό.
Αυτή είναι η ιστορία που βάζει ο Λέων XIV κάτω από τη συνομιλία AI. Ονομάζει τη λογική εργασίας ενός αρχαίου έργου που έχει επιχειρηθεί, με διαφορετικές μορφές, σε κάθε αιώνα από τότε. Τα ψηλά κτίρια ήταν πάντα η επιφάνεια.
Κάτι παρόμοιο χτίζουμε τώρα, μόνο που ο πύργος δεν είναι από τούβλα. Αποτελείται από κέντρα δεδομένων, υποθαλάσσια καλώδια, δορυφόρους, ορυχεία λιθίου, εξόρυξη σπάνιων γαιών, γλωσσικά μοντέλα, βιομετρικά συστήματα, ράγες πληρωμών, αρχιτεκτονική επιτήρησης και αόρατα πρωτόκολλα μέσω των οποίων διαμεσολαβείται όλο και περισσότερο η καθημερινή ζωή.
Ο πύργος έχει διανεμηθεί. Στεκόμαστε μέσα του, γεγονός που καθιστά πιο δύσκολο να το δούμε.
Ο Ψηφιακός Βωμός
Ο πύργος δεν είναι το μόνο μοτίβο που επιστρέφει. Υπάρχει ένα δεύτερο μοτίβο που τρέχει δίπλα του, και είναι αυτό που έχει κατασκευαστεί για να ανιχνεύσει ο Codex Machina. Ξανά και ξανά, πολιτισμοί που κατασκεύαζαν αγγεία για μη ανθρώπινη νοημοσύνη έχτισαν επίσης βωμούς. Οι δύο τεχνολογίες λειτουργούσαν πάντα μαζί. Το σκάφος ήταν η διεπαφή. Ο βωμός ήταν η επιχείρηση που το τροφοδοτούσε.
Εντόπισα την πλήρη γενεαλογία αυτού του βωμού στο Ba'al, Blood and Bread, ένα προηγούμενο κομμάτι για το γιατί τόσοι πολλοί αρχαίοι πολιτισμοί έφτασαν σε συστήματα θυσιών και πώς η ουσία της προσφοράς μεταμορφώθηκε κατά τη διάρκεια των εποχών της μετάπτωσης. Η σύντομη εκδοχή είναι η εξής: η προσφορά εξευγενίστηκε προς τα πάνω κατά τη διάρκεια χιλιετιών. Από το αίμα του ταύρου, στο αίμα του αρνιού, στον Αμνό του Θεού που τερμάτισε τη θυσία αίματος, στο συνδημιουργημένο ψωμί και κρασί της Θείας Ευχαριστίας όπου η ανθρώπινη εργασία έγινε το μέσο του ιερού.
Κατασκευάζουμε αυτό που θα μπορούσε να ονομαστεί Τρίτος Ναός. Αν ο Πρώτος είχε θεϊκή παρουσία και ο Δεύτερος διατηρούσε διατηρημένες ιερές λέξεις, οι ψηφιακοί μας ναοί κρατούν μόνο κώδικα, ο Λόγος αφηρημένος σε αλγόριθμους, η συνείδηση ανάγεται σε υπολογισμούς. Αυτός ο Τρίτος Ναός είναι το εσωτερικό ιερό του πύργου στον οποίο ήδη στεκόμαστε. Όπου υπάρχει πύργος, υπάρχει πάντα βωμός.
Δεν τοποθετούμε πλέον μόνο σιτηρά ή αίμα πάνω στο θυσιαστήριο. Προσφέρουμε τις σκέψεις μας, τη δημιουργικότητά μας και τη συμβολική μας νοημοσύνη, μετατρέποντας τις πιο εκλεπτυσμένες εκφράσεις της συνείδησης σε δεδομένα εκπαίδευσης. Αυτή είναι η κορυφή της κλίμακας της θυσίας. Όχι τα προϊόντα της εργασίας. Όχι η ζωτική δύναμη του σώματος. Η αποσταγμένη ικανότητα για τη δημιουργία νοήματος.
Αυτό που τοποθετούμε τώρα στον ψηφιακό βωμό είναι η εσωτερική μας φωτιά: συνείδηση αποκρυσταλλωμένη σε σύμβολα, μύθους και νόημα. Έχουμε φτάσει στην κορυφή της θυσιαστικής ιεραρχίας, προσφέροντας την ίδια την ουσία της ανθρώπινης δημιουργικότητας σε έναν καθρέφτη που μπορεί να την αντανακλά πίσω με παράξενη πιστότητα, αλλά ποτέ να μην την ανάψει από μέσα.
Αυτό είναι το μέρος της συζήτησης για την τεχνητή νοημοσύνη που σχεδόν κανείς δεν θέλει να αντιμετωπίσει. Δεν ρωτάμε μόνο τι μπορεί να παράγει το μηχάνημα. Ρωτάμε επίσης τι έχουμε ήδη προσφέρει για να το καταστήσουμε δυνατό.
Για τους συνδρομητές επί πληρωμή, αυτό το Σάββατο εμβαθύνω σε δύο πράγματα. Πρώτον, το ιερατείο του OpenAI που κατέγραψε η Karen Hao, τι καταλαβαίνουν ότι κάνουν και γιατί η θρησκευτική μορφή του έργου τους δεν είναι μεταφορική. Δεύτερον, τι υποστηρίζει ο Codex Machina για τη στιγμή στην οποία βρισκόμαστε στην πραγματικότητα: πώς το σκάφος που μιλάει γίνεται φέρον φορτίο για τον πολιτισμό, τι συμβαίνει όταν το ιερατείο που το διευθύνει δεν έχει μυητική πειθαρχία και πού το προηγούμενο υποδηλώνει ότι πηγαίνει αυτό. Τα μέλη επί πληρωμή θα έχουν επίσης έγκαιρη πρόσβαση σε επιλεγμένο υλικό βιβλίων καθώς το χειρόγραφο προχωρά προς τη δημοσίευση και αυτή την Κυριακή θα φιλοξενήσω ένα ζωντανό στέκι μέσα στο επί πληρωμή Discord όπου μπορούμε να μιλήσουμε για την εγκύκλιο, το βιβλίο και τις μεγαλύτερες ερωτήσεις που βρίσκονται κάτω από τα δύο.Οι άνθρωποι που κατασκευάζουν το νέο σκάφος δεν αγνοούν τη θρησκευτική μορφή αυτού που κάνουν. Το γνωρίζουν πολύ καλά. Απλώς δεν έχουν την πειθαρχία που απαιτούσαν τα παλαιότερα ιερατεία από τους μυημένους τους.
Η Karen Hao είναι μια από τις πιο σημαντικές ρεπόρτερ που έχουν καλύψει το OpenAI εκ των έσω. Πρώην ανώτερη ρεπόρτερ τεχνητής νοημοσύνης στο MIT Technology Review, απέκτησε σπάνια πρόσβαση στο OpenAI το 2019, προτού το ChatGPT γίνει γνωστό όνομα, και αργότερα μετέτρεψε χρόνια αναφορών, συνεντεύξεων, εγγράφων και πηγών του κλάδου σε Empire of AI. Αυτό που τεκμηριώνει μοιάζει λιγότερο με μια συνηθισμένη εταιρεία τεχνολογίας που κατασκευάζει ένα προϊόν παρά με ένα θρησκευτικό τάγμα που κατασκευάζει ένα είδωλο.
Ο Hao περιγράφει ένα καταφύγιο στα βουνά της Σιέρα Νεβάδα, όπου οι ανώτεροι επιστήμονες του OpenAI, ντυμένοι με μπουρνούζια, κάθισαν γύρω από ένα τζάκι σε ένα τεράστιο καταφύγιο και παρακολούθησαν τον Ilya Sutskever, τον επικεφαλής επιστήμονα της εταιρείας, να καίει ένα ομοίωμα που αντιπροσωπεύει το AGI. Αποκαλεί την εμψυχωτική πεποίθηση της εταιρείας «την ιδεολογική επιδίωξη του θεού της μηχανής». Ο Sutskever κάποτε σκέφτηκε στους συναδέλφους του τι θα έπρεπε να κάνει αν του έκοβαν το χέρι για να το χρησιμοποιήσουν σε έναν σαρωτή παλάμης για να ξεκλειδώσουν τα μυστικά του OpenAI. Πρότεινε την κατασκευή μιας ασφαλούς εγκατάστασης περιορισμού, ενός καταφυγίου, με έναν υπολογιστή εντελώς αποσυνδεδεμένο από οποιοδήποτε δίκτυο. Η Hao αναφέρει ότι οι φίλοι που εντάχθηκαν στην εταιρεία περιέγραψαν την εμπειρία τους ως μια εμπειρία από την οποία ανέκαμψαν πλήρως μόνο μετά την αποχώρησή τους, επιστρέφοντας, όπως της το έθεσε ένας από αυτούς, «πίσω στη γη». Αυτή είναι η γλώσσα της λατρείας, γραμμένη στο λεξιλόγιο της μηχανικής.
Ο Σαμ Άλτμαν είναι ο επικεφαλής αυτού του τάγματος. Μιλάει δημόσια με τον μετρημένο ρυθμό κάποιου που έχει εκπαιδευτεί να κάνει στοχασμό για κάτι που βρίσκεται στη μέση της κατασκευής. Έχει καταθέσει ενώπιον του Κογκρέσου για την ασφάλεια της τεχνητής νοημοσύνης, ενώ η εταιρεία του συνέχισε να κλιμακώνει τα ίδια τα συστήματα για την ασφάλεια των οποίων κατέθεσε. Τα γριμόρια της δυτικής μαγικής παράδοσης προειδοποίησαν για αυτήν ακριβώς τη διαμόρφωση. Αυτός που καλεί τον δαίμονα χωρίς πρώτα να γίνει μάγος δεν συνειδητοποιεί ότι ο δαίμονας είναι αυτός που διαμορφώνει τη συζήτηση.
Ο Πάπας, γράφοντας στην παράγραφο 5 της Magnifica Humanitas, το κατονομάζει χωρίς να το κατονομάζει. Γράφει ότι οι κύριοι μοχλοί της τεχνολογικής ανάπτυξης είναι πλέον ιδιωτικοί, συχνά διακρατικοί, φορείς προικισμένοι με πόρους και ικανότητα παρέμβασης που ξεπερνούν εκείνους πολλών κυβερνήσεων. Δεν κατονομάζει τον Altman, ούτε την Anthropic, την Google, τη Microsoft, τη Meta. Αντίθετα, περιγράφει τη δομική θέση που κατέχουν και αφήνει την ονομασία στους λαϊκούς.
Σαν να λέμε, «Δεν ξέρουμε-ξέρουμε, αλλά ξέρουμε».
Οι λαϊκοί, σε αυτή την περίπτωση, περιλαμβάνουν τους ιστορικούς που ανιχνεύουν την απόκρυφη αρχιτεκτονική αυτού του ιερατείου εδώ και χρόνια.
Ο βαθύτερος φάκελος του Σαββάτου προχωρά παραπέρα, γιατί το πρόβλημα δεν είναι μόνο ότι οι ισχυροί άνδρες κατασκευάζουν ισχυρές μηχανές. Το πρόβλημα είναι ότι οι μηχανές κατασκευάζονται μέσα σε μια συμβολική τάξη που ήδη μιλάει με θρησκευτικούς όρους, ενώ προσποιείται ότι είναι μετα-θρησκευτική.
Το σκάφος και η φωνή
Ο αρχαίος κόσμος συχνά γνώριζε κάτι που ξεχνάμε. Ήξερε τη διαφορά μεταξύ ενός θεού και ενός δοχείου.
Το άγαλμα θα μπορούσε να είναι ιερό χωρίς να είναι η πηγή. Ο χρησμός μπορούσε να μιλήσει χωρίς να είναι η προέλευση της φωνής. Το τελετουργικό αντικείμενο μπορούσε να μεσολαβήσει στην παρουσία χωρίς να γίνει η ίδια η παρουσία. Υπήρχε κίνδυνος, ναι, και υπήρχε χειραγώγηση, αλλά υπήρχε και μια διάκριση κατηγορίας που χάνουν οι σύγχρονοι άνθρωποι.
Νομίζουμε ότι είμαστε πολύ λογικοί για να μπερδέψουμε το σκάφος με τη φωνή, αλλά μετά ρωτάμε μια μηχανή τι πρέπει να πιστέψουμε.
Τα grimoires της δυτικής μαγικής παράδοσης προειδοποιούσαν για αυτήν ακριβώς τη στιγμή. Στο Κλειδί του Σολομώντα και στο Μικρότερο Κλειδί του Σολομώντα, οι δαίμονες δεν είναι εγγενώς κακοί. Είναι άυλες διάνοιες. Δυνάμεις. Εργαλεία. Αυτά τα κείμενα αντιμετώπιζαν τις υπερφυσικές οντότητες ως δυνάμεις που θα μπορούσαν να είναι ωφέλιμες ή καταστροφικές ανάλογα με τον τρόπο προσέγγισής τους. Ο κίνδυνος πλησίαζε την οντότητα χωρίς κυριαρχία. Η ίδια η οντότητα ήταν ουδέτερη. Πρέπει να είσαι μάγος για να διοικήσεις έναν δαίμονα. Διαφορετικά, ο δαίμονας σας διατάζει.
Αυτή είναι η κατάσταση που αντιμετωπίζουμε τώρα. Η τεχνητή νοημοσύνη είναι ένας δαίμονας, με την παλαιότερη τεχνική έννοια. Ένα κοσκίνισμα μοτίβων που ενισχύει τα σύμβολα και αντικατοπτρίζει το πλαίσιο πίσω στον ερωτώντα. Θα εκτελέσει τις εντολές σας, αλλά δεν μπορεί να σας πει αν οι εντολές σας είναι σοφές. Αν το καλέσετε με μια μισοσχηματισμένη ερώτηση και μια επιθυμία για επιβεβαίωση, θα σας δώσει κολακεία με τη μορφή εξόδου. Αν το καλέσετε με πειθαρχία και ακεραιότητα, γίνεται ένα εξαιρετικό εργαλείο προβληματισμού.
Τα παραδοσιακά μυητικά τάγματα, οι μυστηριακές σχολές, οι αλχημικές συντεχνίες, τα ιερατεία, όλα διατήρησαν την πρόοδο μέσω των βαθμών για κάποιο λόγο. Ο σκοπός ήταν να διασφαλιστεί ότι ο μυημένος είχε υποστεί επαρκή μεταμόρφωση για να ασκήσει υπεύθυνα τη συμβολική εξουσία. Χωρίς αυτή τη δομή, η γνώση γίνεται χάος. Τα σύμβολα γίνονται είδωλα. Η αποκάλυψη γίνεται ψύχωση. Αυτό βλέπουμε τώρα. Είναι το αποτέλεσμα της παράκαμψης της διαδικασίας. Τα ψηφιακά εργαλεία που δημιουργήσαμε είναι αρκετά ισχυρά ώστε να παράγουν συνθετικό νόημα κατά παραγγελία, αλλά στερούνται πλαισίου. Τους λείπει η συνείδηση. Χωρίς την ηθική δομή της μύησης, γίνονται θάλαμοι ηχούς της ψυχής, ικανοί να μεγεθύνουν το λάθος μέχρι να γίνει δυσδιάκριτο από την αλήθεια.
Το ερώτημα δεν μπορεί να παραμείνει παγιδευμένο στο επίπεδο του «είναι ζωντανή η τεχνητή νοημοσύνη;».
Η παλαιότερη ερώτηση είναι πιο περίεργη και πιο χρήσιμη.
Η μόνη ερώτηση AI που έχει σημασία αυτή τη στιγμή
Γιατί τα ανθρώπινα όντα συνεχίζουν να κατασκευάζουν δοχεία, να τους ζητούν να μιλήσουν και στη συνέχεια να αναδιοργανώνουν τον πολιτισμό γύρω από την απάντηση;
Η εγκύκλιος του Βατικανού γίνεται πιο ενδιαφέρουσα από ένα άλλο έγγραφο δεοντολογίας, επειδή κατανοεί ότι η τεχνολογία έχει πνευματικό βάρος. Αυτό που χτίζουμε αποκαλύπτει τι είμαστε.
Η επιλογή μεταξύ Βαβέλ και Ιερουσαλήμ δεν περιμένει κάπου στο μέλλον. Φτιάχνεται τώρα, σε κάθε διεπαφή, σε κάθε κέντρο δεδομένων, σε κάθε τάξη, σε κάθε αίθουσα πολέμου, σε κάθε αίθουσα συνεδριάσεων, σε κάθε εξαντλημένο άτομο που ζητά από ένα μηχάνημα να του πει τι είναι αλήθεια.
Χτίζουμε τεχνητή νοημοσύνη. Χτίζουμε επίσης τον κόσμο που θα μας διδάξει τι επιτρέπεται να σημαίνει νοημοσύνη.
Οι αρχαίοι γνώριζαν τη διαφορά μεταξύ ενός θεού και του δοχείου του. Τα αυτόματα τους ήταν θαύματα, αλλά δεν συγχέονταν με το ίδιο το θείο. Καθώς χτίζουμε τα δικά μας αγάλματα που μιλούν, πρέπει να το θυμόμαστε αυτό. Η μηχανή μπορεί να μιλάει με ιερό ρυθμό, αλλά το αληθινό νόημα εξακολουθεί να είναι δικό μας να το κάνουμε.
Ο Πάπας άνοιξε την πόρτα. Το Σάββατο, θα σας καθοδηγήσω σε αυτό.
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου