υποβολή: Alejandro Mora Donoso

Σε μια από τις πιο αξιομνημόνευτες σκηνές στο The Matrix Reloaded, ο Neo συνομιλεί με τον σύμβουλο Hamann στα βάθη της Σιών, της τελευταίας πόλης απαλλαγμένης από ανθρώπινα όντα. Καθώς κοιτάζουν τις γιγάντιες μηχανές που κρατούν την πόλη σε λειτουργία, ο Hamann θέτει ένα περίπλοκο ερώτημα: ποια διαφορά υπάρχει πραγματικά μεταξύ των μηχανών που υπηρετούν τους ανθρώπους και αυτών που πολεμούν; Εξάλλου, το νερό που πίνουν, ο αέρας που αναπνέουν και η ενέργεια που συντηρεί τη ζωή στη Σιών εξαρτώνται εξ ολοκλήρου από τα τεχνολογικά συστήματα. Η ανθρώπινη αντίσταση, φαινομενικά αντίθετη με τον κόσμο των μηχανών, δεν θα μπορούσε να επιβιώσει χωρίς αυτές.

Αυτή η σύντομη συνομιλία περιέχει μια φιλοσοφική ιδέα που σήμερα αποκτά μια εκπληκτική συνάφεια. Σε μια εποχή που η τεχνητή νοημοσύνη βρίσκεται στο επίκεντρο ηθικών, πολιτικών και πολιτιστικών ανησυχιών, η πρόσφατη εγκύκλιος του Πάπα Λέοντα XIV μας καλεί να αναλογιστούμε ένα ερώτημα που υπερβαίνει κατά πολύ την τεχνολογία: τι σημαίνει να είσαι άνθρωπος σε έναν κόσμο όπου η ύπαρξή μας διαμεσολαβείται βαθιά από τεχνικές συσκευές;

Η πιο άμεση απάντηση είναι να επιβεβαιώσουμε ότι υπάρχει κάτι αμείωτο ανθρώπινο που πρέπει να προστατευτεί από την πρόοδο της τεχνολογίας. Και, χωρίς αμφιβολία, υπάρχει μια απαραίτητη προειδοποίηση σε αυτή την ανησυχία. Η τεχνητή νοημοσύνη αναδύεται σε μια εποχή που χαρακτηρίζεται από τη συγκέντρωση εξουσίας, τη μαζική παρακολούθηση, τη μόνιμη εξαγωγή δεδομένων και τη μετατροπή της ανθρώπινης εμπειρίας σε αξιοποιήσιμες πληροφορίες. Το ζήτημα των ηθικών ορίων αυτών των τεχνολογιών είναι απαραίτητο.

Ωστόσο, η συνομιλία μεταξύ Neo και Hamann μας αναγκάζει να δούμε το πρόβλημα από άλλη οπτική γωνία. Ίσως το ερώτημα δεν είναι απλώς πώς να υπερασπιστούμε την ανθρωπότητα από τις μηχανές, αλλά να κατανοήσουμε ότι η ανθρώπινη ιστορία ήταν πάντα συνυφασμένη με αυτές. Η γραφή, τα βιβλία, τα αρχεία, το τυπογραφείο, οι μηχανές, οι υπολογιστές και τα ψηφιακά δίκτυα δεν έφτασαν σε μια ολοκληρωμένη και ολοκληρωμένη ανθρωπότητα: συνέβαλαν στη διαμόρφωσή της. Η τεχνολογία εμφανίζεται όχι μόνο ως εξωτερική απειλή, αλλά και ως συνθήκη της δικής μας ιστορικής ύπαρξης.

Αυτό δεν σημαίνει παθητική αποδοχή οποιασδήποτε τεχνολογικής καινοτομίας ή υπόθεση ότι η τεχνολογική ανάπτυξη είναι ένα αναπόφευκτο πεπρωμένο. Σημαίνει, μάλλον, την αναγνώριση ότι οι απλοί διαγωνισμοί τείνουν να κρύβουν βαθύτερα προβλήματα. Το αποφασιστικό ερώτημα δεν είναι αν πρέπει να επιλέξουμε μεταξύ ανθρωπότητας ή τεχνολογίας, αλλά τι είδους σχέση θέλουμε να οικοδομήσουμε μεταξύ των δύο. Ποιος ελέγχει αυτά τα εργαλεία; Ποιες μορφές ζωής προωθούν; Ποιες έννοιες της ελευθερίας, της κοινότητας και της αξιοπρέπειας ενισχύουν ή αποδυναμώνουν;

Υπάρχει όμως ένας ακόμη βαθύτερος κίνδυνος. Η τεχνητή νοημοσύνη δεν μπορεί απλώς να αυτοματοποιήσει εργασίες ή να αντικαταστήσει εργασίες. Μπορεί επίσης να συμβάλει στην οργάνωση του ορίζοντα του νοητού. Όταν οι αλγόριθμοι επιλέγουν τις πληροφορίες που λαμβάνουμε, προβλέπουν τις επιθυμίες μας, ιεραρχούν τις απαντήσεις και οργανώνουν τον δημόσιο χώρο, παύουν να είναι απλά εργαλεία για να γίνουν διαμεσολαβητές της αλήθειας. Η συζήτηση δεν αφορά πλέον μόνο τη διάκριση μεταξύ αληθινών και ψευδών πληροφοριών. Συνίσταται, πάνω απ' όλα, στο να αναρωτηθούμε ποιος ορίζει τι φαίνεται αληθινό, σχετικό ή ακόμα και φανταστικό.

Η αλήθεια δεν μας παρουσιάζεται ποτέ γυμνή. Διαμεσολαβείται πάντα από θεσμούς, γλώσσες, τεχνολογίες και σχέσεις εξουσίας. Κάθε εποχή κατασκευάζει τους μηχανισμούς με τους οποίους καθορίζει τι μπορεί να θεωρηθεί νόμιμη γνώση και τι υποβιβάζεται σε λάθος, σιωπή ή αορατότητα. Η τεχνητή νοημοσύνη δεν δημιουργεί αυτό το πρόβλημα, αλλά το ενισχύει σε πρωτοφανή κλίμακα, επειδή συγκεντρώνει σε λίγες πλατφόρμες την ικανότητα παραγωγής, παραγγελίας και διανομής της γνώσης με την οποία εκατομμύρια άνθρωποι ερμηνεύουν την πραγματικότητα.

Γι' αυτό αξίζει επίσης να αναθεωρήσουμε την ιδέα μας για την ελευθερία. Για πολύ καιρό έχουμε κατανοήσει την ελευθερία ως τη δυνατότητα επιλογής μεταξύ διαφορετικών εναλλακτικών. Ωστόσο, η επιλογή δεν σημαίνει πάντα ότι είσαι ελεύθερος. Ένας καταναλωτής μπορεί να επιλέξει ανάμεσα σε εκατοντάδες προϊόντα, ενώ εξακολουθεί να υπόκειται πλήρως σε μια λογική που ποτέ δεν αποφάσισε. Ένας πολίτης μπορεί να ψηφίσει μεταξύ διαφορετικών υποψηφιοτήτων και, ακόμα κι έτσι, να μην βρει καμία εναλλακτική λύση που να αμφισβητεί τις θεμελιώδεις δομές της υπάρχουσας τάξης. Η ελευθερία δεν είναι απλώς να επιλέγεις από επιλογές που έχουν σχεδιαστεί προηγουμένως από άλλους. Η ελευθερία ξεκινά όταν είμαστε σε θέση να δημιουργήσουμε νέες δυνατότητες, να επεκτείνουμε το πεδίο του φανταστικού και να μεταμορφώσουμε τις συνθήκες που οργανώνουν την ύπαρξή μας.

Υπό αυτή την έννοια, η εγκύκλιος μπορεί να διαβαστεί ως πρόσκληση σε μια φιλοσοφική συζήτηση που μόλις αρχίζει. Η μεγαλύτερη συμβολή του μπορεί να έγκειται όχι μόνο στις απαντήσεις που προσφέρει, αλλά στην ευκαιρία να ανακρίνουμε εκ νέου τις κατηγορίες με τις οποίες σκεφτόμαστε την εποχή μας. Γιατί αν αυτή η συζήτηση στη Σιών υποδηλώνει κάτι, είναι ότι τα όρια μεταξύ των ανθρώπων και των δημιουργημάτων τους δεν ήταν ποτέ εντελώς ξεκάθαρα.

Η τεχνητή νοημοσύνη δεν μας αναγκάζει απλώς να αναρωτηθούμε τι μπορούν να κάνουν οι μηχανές. Μας αναγκάζει, πάνω απ' όλα, να αναρωτηθούμε ποιοι είμαστε όταν ζούμε περιτριγυρισμένοι από αυτούς, εξαρτόμαστε από αυτούς και, σε μεγάλο βαθμό, κατανοούμε τον εαυτό μας μέσα από αυτούς. Εκεί ξεκινά μια συζήτηση που δεν είναι τεχνική, αλλά βαθιά φιλοσοφική, ηθική και πολιτική.

Η ιστορία δείχνει ότι καμία μορφή κυριαρχίας δεν διατηρείται μόνο με τη βία. Πρέπει επίσης να οικοδομήσει ένα συγκεκριμένο καθεστώς αλήθειας, να οργανώσει αυτό που μια κοινωνία θεωρεί προφανές, λογικό ή δυνατό. Υπό αυτή την έννοια, η τεχνητή νοημοσύνη αντιπροσωπεύει μια άνευ προηγουμένου πολιτική πρόκληση. Μπορεί να γίνει ένα εξαιρετικό εργαλείο για την επέκταση των ανθρώπινων ικανοτήτων ή την εδραίωση ενός νέου τύπου εξουσίας, ικανού να διαχειρίζεται όχι μόνο τις πληροφορίες, αλλά και τις ίδιες τις συνθήκες υπό τις οποίες σκεφτόμαστε, αποφασίζουμε και ενεργούμε.

Όποιος ελέγχει τα μηχανήματα δεν θα ελέγχει μόνο την τεχνολογία. Θα έχει καθοριστική επίδραση στην παραγωγή της αλήθειας, στην κυκλοφορία της γνώσης και στα όρια του φανταστικού. Και εδώ διακυβεύεται η πιθανότητα ότι η ελευθερία συνεχίζει να είναι η ανθρώπινη ικανότητα να δημιουργεί νέους κόσμους και όχι μόνο να επιλέγει ανάμεσα σε αυτούς που άλλοι έχουν ήδη σχεδιάσει.