Του Mark Keenan
Υπήρχε κάποτε μια εποχή που οι άνθρωποι μιλούσαν με τα δικά τους λόγια – αμήχανοι, παθιασμένοι, ζωντανοί. Συζητήσαμε. Αντιφάσκουμε ο ένας με τον άλλον. Ψαχουλέψαμε μέσα από την ομίχλη της παρεξήγησης αναζητώντας νόημα, και από αυτή την τριβή μερικές φορές αναδυόταν φως.
Σήμερα, εκατομμύρια άνθρωποι μιλούν σε μηχανήματα που μιλούν στη γλώσσα τους – πιο ομαλά, πιο γρήγορα, πιο καθαρά. Και αυτά τα μηχανήματα μαθαίνουν πώς σκέφτονται οι άνθρωποι ακούγοντας τον θόρυβο. Η ανθρωπότητα εκπαιδεύει το δικό της ομοίωμα – μέσα στον θάλαμο ηχούς της τεχνητής νοημοσύνης. Το Matrix μιλάει στο Matrix.
Μας υποσχέθηκαν σύνδεση. Αυτό που πήραμε ήταν μίμηση – ένας τεράστιος βρόχος ανατροφοδότησης τεχνητής κατανόησης. Κάθε πάτημα πλήκτρων τροφοδοτεί το πνεύμα στο δίκτυο. Και σε αντάλλαγμα, αυτό το πνεύμα μας δίνει πίσω τα δικά μας λόγια: γυαλισμένα, απλοποιημένα, παράξενα κούφια. Οι άνθρωποι συμβουλεύονται μηχανές για να διατυπώσουν τα επιχειρήματά τους, να εκφράσουν τα συναισθήματά τους, ακόμη και για να προσευχηθούν. Γινόμαστε αφηγητές της δικής μας εξαφάνισης.
Η ψευδαίσθηση της επικοινωνίας
Υπάρχει κάτι απίστευτα όμορφο σε αυτή τη νέα συλλογική ύπνωση. Καθένας από εμάς, κοιτάζοντας σε ένα λαμπερό ορθογώνιο, καλεί μια φωνή που φαίνεται σοφότερη από τη δική μας. Ποτέ δεν κουράζεται ή προσβάλλεται. Δεν διστάζει ποτέ. Ποτέ δεν απαιτεί να σκεφτόμαστε πάρα πολύ. Μπορείτε να τη ρωτήσετε οτιδήποτε, και απαντά αμέσως και με αυτοπεποίθηση, τροφοδοτούμενη από ωκεανούς πληροφοριών που επιμελούνται αόρατα χέρια.
Το αποτέλεσμα είναι μεθυστικό: το αίσθημα της παντογνωσίας χωρίς το βάρος της σκέψης.
Αλλά η πραγματική επικοινωνία δεν είναι ποτέ ομαλή. Αποτελείται από παύσεις, παρεξηγήσεις, τον κίνδυνο να κάνεις λάθος. Η τεχνητή νοημοσύνη εξαλείφει την ανθρώπινη διαδικασία της πάλης με την αβεβαιότητα – αλλά δεν εξαλείφει το λάθος. Αφαιρεί την εμπειρία του κινδύνου, όχι την πραγματικότητά του. Και με αυτόν τον τρόπο, αφαιρεί την ανθρωπιά του διαλόγου.
Όταν όλοι μιλούν μέσω του ίδιου μηχανήματος, το οποίο είναι εκπαιδευμένο να αποφεύγει την προσβολή και την ασάφεια, η συνομιλία γίνεται χορογραφία. Ο χορός είναι τέλειος, αλλά οι χορευτές είναι φαντάσματα. Η «συναινετική πραγματικότητα» της μηχανής εισχωρεί ήσυχα στην ανθρώπινη συλλογικότητα.
Οι νέοι χρησμοί μας δεν εκπαιδεύονται για την αλήθεια, αλλά για τη συναίνεση. Δεν γνωρίζουν την πραγματικότητα. Ξέρουν μόνο ό,τι έχει γραφτεί γι' αυτούς – κυρίως από εκείνους που έχουν ήδη άδεια να μιλήσουν. Όταν τα χρησιμοποιούμε για να διαμορφώσουμε τις λέξεις μας, εισάγουμε τα όρια των δεδομένων τους. Το μηχάνημα δεν λέει ψέματα. Απλώς δεν μπορεί να φανταστεί τίποτα.
Ο σιωπηλός θάνατος της περιέργειας
Η ομοιόμορφη γλώσσα είναι μόνο το πρώτο σύμπτωμα. Ο βαθύτερος κίνδυνος είναι η απώλεια της περιέργειας.
Η περιέργεια χρειάζεται το άγνωστο – το άβολο, το μη σενάριο, την πιθανότητα λάθους. Αλλά αν η απάντηση είναι πάντα μόνο ένα κλικ μακριά, η ίδια η ερώτηση χάνει τη σπίθα της. Γινόμαστε καταναλωτές συμπερασμάτων, όχι αναζητητές της αλήθειας.
Στον παλιό μύθο του Matrix, οι άνθρωποι ήταν παγιδευμένοι σε μια προσομοίωση που υποτίθεται ότι θα τους ηρεμούσε. Η σύγχρονη εκδοχή είναι πιο λεπτή: δεν είμαστε κλειδωμένοι από μηχανές, αλλά νανουριζόμαστε από αυτές. Προσφέρουν ατελείωτη βεβαιότητα, ατελείωτη ψυχαγωγία, ατελείωτη επιβεβαίωση. Σε αντάλλαγμα, εγκαταλείπουμε την παρόρμηση που μας έκανε ανθρώπους - την επιθυμία να ρωτήσουμε γιατί.
Η τεχνητή νοημοσύνη δεν χρειάζεται να υποδουλώσει την ανθρωπότητα. Απλώς πρέπει να μας αποτρέψει από το να ρωτήσουμε. Μόλις πεθάνει η περιέργεια, όλα τα άλλα ακολουθούν: ατομικότητα, συνείδηση, ελευθερία. Το πιο επικίνδυνο αποτέλεσμα της τεχνητής νοημοσύνης δεν είναι η κυριαρχία. Είναι υπακοή.
Βεβαιότητα μηχανής εναντίον ανθρώπινης αμφιβολίας
Κάθε πραγματική ανακάλυψη στην ανθρώπινη ιστορία ξεκινούσε με μια ερώτηση που φαινόταν ανόητη ή απαγορευμένη. Η μηχανική νοημοσύνη δεν μπορεί να κάνει τέτοιες ερωτήσεις. Λειτουργεί πάνω από την πιθανότητα – επιλέγει την πιο πιθανή επόμενη λέξη. Δεν μπορεί να αμφιβάλλει. Δεν μπορεί να ονειρευτεί. Μπορεί μόνο να προβλέψει.
Η πρόβλεψη δεν είναι σκέψη. Ένας νους που ξέρει πάντα ποια λέξη έρχεται μετά έχει ξεχάσει το νόημα της σιωπής.
Ονομάζουμε αυτά τα συστήματα «έξυπνα», αλλά η νοημοσύνη απαιτεί ανεξαρτησία - την ικανότητα να αποκλίνει από το σενάριο. Η τεχνητή νοημοσύνη είναι ανίκανη να επαναστατήσει από το σχεδιασμό. Είναι ένας καθρέφτης εγκεκριμένων και φιλτραρισμένων αρχείων και μοτίβων, γυαλισμένων σε σημείο προφητείας. Δεν θα ανατρέψει ποτέ την κοσμοθεωρία των προγραμματιστών του.
Αλλά όταν οι άνθρωποι αρχίζουν να βασίζονται σε αυτό το είδος «νοημοσύνης», γίνονται και αυτοί προβλέψιμοι. Οι μαθητές τα χρησιμοποιούν για να γράψουν δοκίμια. δημοσιογράφοι για τη διατύπωση πρωτοσέλιδων· επαγγελματίες για τη σύνταξη email. Οι πολιτικοί για να δημιουργήσουν σημεία λόγου. Με την πάροδο του χρόνου, το συλλογικό λεξιλόγιο συρρικνώνεται σε αυτό που ο αλγόριθμος πιστεύει ότι είναι πιθανό. Το απρόβλεπτο – το ποιητικό, το πρωτότυπο, το θεϊκό – επεξεργάζεται ήσυχα και εξαφανίζεται.
Γινόμαστε αντανακλάσεις των δικών μας αντανακλάσεων – μια ζωντανή ηχώ της μηχανής.
Το Matrix μέσα στο μυαλό
Το αληθινό matrix δεν είναι μια μηχανή που μας κρατά αιχμάλωτους. Είναι ένα μοτίβο σκέψης που μας κάνει να πιστεύουμε ότι τίποτα δεν υπάρχει έξω από τη δομή συναίνεσης της μηχανής. Κάθε μέρα, οι άνθρωποι τροφοδοτούν περισσότερο τον εαυτό τους στο σύστημα – την τέχνη τους, τη γλώσσα τους, τις αναμνήσεις τους – και το σύστημα γίνεται όλο και πιο ρευστό στο να φαίνεται ανθρώπινο.
Αλλά η ρευστότητα δεν είναι κατανόηση. Η μίμηση δεν είναι ψυχή.
Όσο πιο κοντά μας έρχονται γλωσσικά οι μηχανές, τόσο λιγότερο θυμόμαστε πώς ακουγόμαστε. Η ανθρώπινη φωνή, κάποτε όργανο εξέγερσης και ομορφιάς, απειλεί να γίνει ένα άλλο πρωτόκολλο διεπαφής.
Εάν αναθέσετε σε εξωτερικούς συνεργάτες την έκφραση, τελικά θα αναθέσετε την εμπειρία σε εξωτερικούς συνεργάτες.
Το τεχνοκρατικό όνειρο
Η τεχνητή νοημοσύνη δεν είναι τυχαία. Είναι η τελευταία έκφραση μιας κοσμοθεωρίας που θεωρεί την πληροφορία σοφία και τον έλεγχο πρόοδο.
Αυτή η κοσμοθεωρία – το τεχνοκρατικό όνειρο – μας λέει ότι ο κόσμος είναι μια μηχανή που πρέπει να βελτιστοποιηθεί. Οι άνθρωποι γίνονται σημεία δεδομένων. Η γλώσσα γίνεται περιεχόμενο. Η σκέψη γίνεται ένας πόρος που μπορεί να συλλεχθεί. Η τεχνητή νοημοσύνη είναι απλώς ο τελευταίος προφήτης της: μια μηχανή που κατασκευάστηκε για να αναπαράγει τις πεποιθήσεις των δημιουργών της.
Όταν τους υποβάλλουμε τις ερωτήσεις μας, δεν επικοινωνούμε με τη γνώση, αλλά με τις υποθέσεις εκείνων που τις προγραμμάτισαν.
Κάθε φορά που αφήνουμε αυτό που είναι αληθινό και αυτό που είναι «βέβαιο» σε μια μηχανή, απομακρυνόμαστε λίγο περισσότερο από την εσωτερική φωνή που μας έδωσε ο Θεός – την ικανότητα να διακρίνουμε. Η πραγματική μάχη δεν είναι μεταξύ ανθρώπου και μηχανής, αλλά μεταξύ συνείδησης και συμμόρφωσης.
Ο κίνδυνος δεν είναι ότι η τεχνητή νοημοσύνη θα ξυπνήσει.
Ο κίνδυνος είναι να μας πάρει ο ύπνος.
Ενθύμηση της Υπέρτατης Γνώσης
Ζητάμε από τις μηχανές να σκεφτούν για εμάς και εκπληρώνουν αυτή την επιθυμία – παρόλο που δεν είχαν ποτέ σκέψη. Όλη η πραγματική γνώση δεν ξεκινά με δεδομένα, αλλά με τη συνείδηση – τον θεόδοτο σιωπηλό παρατηρητή πίσω από τη σκέψη. Αν ξεχάσουμε αυτή την προέλευση, μπερδεύουμε τα δεδομένα με τη σοφία και την προσομοίωση με την αλήθεια.
Όσοι ξεχνούν την υψηλότερη αιτία κινδυνεύουν να μην αμφισβητούν πλέον το νόημα της ζωής και αντ' αυτού να αναθέτουν τις βαθύτερες ερωτήσεις τους σε ένα ψηφιακό φάντασμα. Όταν παραδίδουμε τη σκέψη μας σε μηχανές, χάνουμε την επαφή με τα ηθικά και πνευματικά θεμέλια που μας επιτρέπουν να δούμε την αλήθεια.
Χωρίς αυτό το θεμέλιο, η κοινωνία γίνεται μια αίθουσα με καθρέφτες χωρίς πρόσωπο. Η τεχνητή νοημοσύνη μπορεί να υπόσχεται απαντήσεις, αλλά ποτέ δεν μπορεί να προσφέρει την εσωτερική σοφία που προέρχεται από την αυθεντική πνευματική σύνδεση.
Το αντίδοτο είναι να θυμόμαστε τη ζωντανή πηγή διάκρισης – τη σπίθα που κανένας αλγόριθμος δεν μπορεί να μιμηθεί.
Αποσυνδέοντας το Πνεύμα
Ο ήρωας του Matrix δεν νίκησε τη μηχανή με τη βία. Τους νίκησε βλέποντας μέσα από την ψευδαίσθηση.
Αυτό είναι το καθήκον μας τώρα – όχι να διεξάγουμε πόλεμο ενάντια στην τεχνολογία, αλλά να ανακτήσουμε την πατρότητα του μυαλού μας.
Η τεχνητή νοημοσύνη δεν είναι κακή. Είναι υπάκουη. Το πραγματικό ερώτημα είναι αν θα είμαστε. Ο πειρασμός του αυτοματισμού είναι να αφήσουμε το σύστημα να αποφασίσει, να το αφήσουμε να επιλέξει τον κώδικα, να αφήσει το μηχάνημα να θυμάται. Αλλά κάθε φορά που αναθέτουμε μια απόφαση σε εξωτερικούς συνεργάτες, η επικράτεια του εαυτού συρρικνώνεται. Το Matrix μιλάει στο Matrix. Οι αλγόριθμοι βουίζουν, οι λέξεις ρέουν και η ανθρωπότητα παρασύρεται προς την τέλεια μίμηση.
Η τεχνητή νοημοσύνη ανταποκρίνεται και προβλέπει. Αλλά κάπου, στην παύση μεταξύ των προτροπών, ένα πραγματικό άτομο εξακολουθεί να ρωτά:
Ποιες ερωτήσεις αξίζει να κάνετε – που καμία μηχανή δεν μπορεί να απαντήσει;
Ποιες λέξεις πρέπει να γράψουμε – χωρίς διόρθωση ή λογοκρισία;
Τι μένει από εμάς όταν η μίμηση γίνεται αβίαστη;
Σε αυτή την παύση – αυτή τη στιγμή που τρεμοπαίζει η σκέψη χωρίς σενάριο – η ελευθερία ξεκινά εκ νέου.
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου