Του Hakan Illatiksi
Τεχνητή νοημοσύνη, τεχνολογίες κρίσεων και συστημικό χάος
Κάθε τεχνολογία κρίσης υπόσχεται να σώσει το σύστημα που την παράγει. Αλλά, όταν το σύστημα έχει ήδη εξαντληθεί, μπορεί επίσης να επιταχύνει αυτό που υποτίθεται ότι περιέχει.
Η υπόθεση της συνέχειας
Η τεχνητή νοημοσύνη δεν εγκαινιάζει την ιστορία της τεχνικής διοίκησης. Το συγκεντρώνει, το επιταχύνει και το κάνει αδιαφανές.
Κάθε συστημική κρίση παράγει τα δικά της εργαλεία διοίκησης. Καμία ιστορική τάξη δεν μετασχηματίζεται μόνο μέσω ιδεών, θεσμών ή στρατιωτικών συγκρούσεων. Μετασχηματίζεται επίσης μέσω τεχνολογιών που αναδιοργανώνουν την αντίληψη, επιταχύνουν την κυκλοφορία των πληροφοριών, ταξινομούν τους πληθυσμούς, διευρύνουν την ικανότητα διοίκησης και αλλάζουν τη σχέση εξουσίας και κοινωνίας.
Σήμερα, αυτή η λειτουργία εκτελείται από την τεχνητή νοημοσύνη. Δεν είναι όμως το πρώτο.
Υπάρχει μια λειτουργική συνέχεια μεταξύ της φωτιάς που ελέγχεται από τις πρώτες ανθρώπινες ομάδες, το τυπογραφείο, τον σιδηρόδρομο, τον τηλέγραφο, τις κρατικές στατιστικές, τα μέσα μαζικής ενημέρωσης, τον υπολογιστή, την κυβερνητική, το διαδίκτυο και τους σύγχρονους αλγόριθμους. Δεν πρόκειται για μια τέλεια ισοδυναμία - κάθε τεχνολογία λειτουργεί σε διαφορετικά στηρίγματα, κλίμακες και πλαίσια - αλλά για την ιστορική επανάληψη ορισμένων θεμελιωδών λειτουργιών: εντολή, ταξινόμηση, επιτάχυνση και αναδιοργάνωση της κοινωνικής αντίληψης.
Η τεχνητή νοημοσύνη κληρονομεί όλες αυτές τις λειτουργίες και τις ριζοσπαστικοποιεί. Επεξεργάζεται τεράστιες ποσότητες πληροφοριών, αυτοματοποιεί αποφάσεις, ταξινομεί πληθυσμούς, επιταχύνει τον πόλεμο, αναδιοργανώνει την εργασία, διαχειρίζεται την προσοχή, παράγει προπαγάνδα, επιτήρηση, προβλέπει τη συμπεριφορά και συγκεντρώνει τη γνωστική δύναμη. Σε προηγούμενες κρίσεις, αυτές οι λειτουργίες κατανεμήθηκαν μεταξύ διαφορετικών μέσων. Σήμερα αρχίζουν να συγκλίνουν σε μια ενιαία υποδομή.
Αυτό που είναι νέο δεν είναι ότι μια τεχνολογία παρεμβαίνει στον τρόπο με τον οποίο οι κοινωνίες αντιμετωπίζουν τις κρίσεις τους. Αυτό συμβαίνει ακριβώς από τη φωτιά. Η πραγματική καινοτομία είναι ότι η τεχνητή νοημοσύνη εκτελεί αυτές τις λειτουργίες σε πραγματικό χρόνο, σε πλανητική κλίμακα, με πρωτοφανή αδιαφάνεια και με την ικανότητα να αλλάζει κατά τη διάρκεια της ίδιας της κρίσης.
Αυτός είναι ο λόγος για τον οποίο η τεχνητή νοημοσύνη δεν πρέπει να θεωρείται απλώς ως μια τεχνική καινοτομία. Είναι μια ιστορική μεταβατική τεχνολογία. Εμφανίζεται σε μια εποχή που η παγκόσμια τάξη χάνει τη νομιμότητά της, η παγκόσμια οικονομία κατακερματίζεται, ο πόλεμος γίνεται πιο πιθανός, οι θέσεις εργασίας γίνονται επισφαλείς, οι πλεονάζοντες πληθυσμοί αυξάνονται, η κοινή αλήθεια αποσυντίθεται και τα πολιτικά συστήματα χάνουν την ικανότητά τους να μεσολαβούν. Η τεχνητή νοημοσύνη εισέρχεται σε αυτόν τον κόσμο όχι ως ουδέτερη λύση, αλλά ως επιταχυντής.
Ο κεντρικός της ρόλος στο συστημικό χάος συνίσταται ακριβώς σε αυτό: αυξάνει την τεχνική ικανότητα μιας τάξης που έχει χάσει την ιστορική της ικανότητα προσανατολισμού.
1. Η φωτιά ως η πρώτη τεχνολογία κρίσης
Πριν κυβερνήσει τα δεδομένα, η ανθρωπότητα έμαθε να συγκεντρώνει σώματα γύρω από μια φλόγα, την ανθρώπινη εμπειρία. Ήταν θερμότητα, άμυνα, μαγείρεμα, φως και ενέργεια. Αλλά ήταν επίσης κάτι βαθύτερο: μια τεχνολογία συλλογικής προσοχής.
Η φωτιά δεν έλυσε μόνο πρακτικά προβλήματα. Άλλαξε τη σχέση της ομάδας με τον χρόνο, τον χώρο, το φαγητό, τον φόβο και την ομιλία. Όπου υπήρχε σκοτάδι, παρήγαγε ένα κέντρο. Όπου υπήρχε διασπορά, παρήγαγε επανένωση. Όπου υπήρχε μια αδιαφοροποίητη νύχτα, παρήγαγε μια ιστορία. Η εστία μπόρεσε να λειτουργήσει ως ένας από τους πρώτους υλικούς οργανωτές της κοινής αντίληψης.
Η λειτουργία εντολών του δεν πρέπει να νοείται ως ρητή εξουσία. Δεν υπήρχε τεχνικός διοικητής ή μηχανή λήψης αποφάσεων εκεί. Όμως η φωτιά οργάνωσε σώματα και βλέμματα. Δημιούργησε ένα μέσα και ένα έξω: τον κύκλο του φωτός και το απειλητικό σκοτάδι, τον χώρο του λόγου και τον χώρο του κινδύνου, την εγγύτητα της ομάδας και την εξωτερικότητα του αγνώστου. Γύρω από τη φωτιά, η προσοχή θα μπορούσε να συγκεντρωθεί, η μνήμη θα μπορούσε να μεταδοθεί και οι αποφάσεις θα μπορούσαν να λάβουν συλλογική μορφή.
Εκτελούσε επίσης μια ταξινομική λειτουργία. Διαχώριζε το ωμό από το μαγειρεμένο, το κατοικήσιμο από το εχθρικό, το εξημερωμένο από το άγριο, το ασφαλές φαγητό από το επικίνδυνο φαγητό, τη βιολογική μέρα από την αφηγηματική νύχτα. Η φωτιά ταξινόμησε τον κόσμο επειδή μεταμόρφωσε την εμπειρία του κόσμου. Δεν σου επέτρεπε μόνο να δεις. δίδαξε πώς να ξεχωρίζει.
Η λειτουργία επιτάχυνσής του ήταν εξίσου καθοριστική. Το μαγείρεμα μείωσε τους χρόνους μάσησης και πέψης, διεύρυνε τη διαθεσιμότητα τροφής, επέτρεψε την επεξεργασία υλικών και άνοιξε επακόλουθους τεχνικούς δρόμους. Η ιστορία της τεχνολογίας μπορεί να διαβαστεί, εν μέρει, ως προέκταση της φωτιάς: φούρνος, μεταλλουργία, κεραμικά, τήξη, ατμομηχανή, μηχανή εσωτερικής καύσης, βιομηχανία. Η φωτιά ήταν μια αρχική μορφή επιτάχυνσης του μετασχηματισμού της ύλης.
Αλλά η πιο βαθιά λειτουργία του ήταν η αναδιοργάνωση της κοινωνικής αντίληψης. Η φωτιά επέτρεψε στη νύχτα να πάψει να είναι μόνο διακοπή ή απειλή για να γίνει μια στιγμή επανένωσης, ιστορίας, μύθου και μνήμης. Η κοινότητα δεν επέζησε μόνο γύρω από τη φωτιά. Αφηγήθηκε γύρω από αυτό. Εκεί σχηματίστηκε ένα «εμείς» γύρω από μια κοινή εμπειρία.
Σε καταστάσεις κινδύνου - πείνα, κρύο, επίθεση, ασθένεια, μετανάστευση, πένθος - η φωτιά θα μπορούσε να αποκτήσει μια τελετουργική διάσταση. Όχι επειδή έλυσε αυτόματα την κρίση, αλλά επειδή παρήγαγε έναν αντιληπτικό χώρο στον οποίο η ομάδα μπορούσε να την αναγνωρίσει, να τη δραματοποιήσει, να την ονομάσει και να αποφασίσει. Η εστία ήταν μια διεπαφή κρίσης: έφερνε τα σώματα κοντά, εστίαζε την προσοχή και καθιστούσε δυνατές κοινές αποφάσεις.
Αυτή η αρχική εικόνα είναι σημαντική γιατί σας επιτρέπει να μετρήσετε την ταυτόχρονη αντιστροφή. Η φωτιά ενοποίησε την προσοχή. Η τεχνητή νοημοσύνη τείνει να το κατακερματίζει. Η εστία μάζεψε πτώματα. Η τροφή διαχωρίζει τα άτομα. Η φωτιά έκανε δυνατή μια κοινή ιστορία. Ο αλγόριθμος παράγει προσαρμοσμένες πραγματικότητες. Η φωτιά ίδρυσε ένα «εμείς». Η τεχνητή νοημοσύνη μπορεί να διαχειριστεί μοναχικά πλήθη.
2. Από την αλχημεία της φωτιάς στη βιομηχανική επιτάχυνση
Ο πολιτισμός ξεκίνησε με την εξημέρωση της φωτιάς. κατέληξε να μετατρέψει την καύση σε ιστορικό πεπρωμένο.
Για χιλιετίες, η φωτιά συνέχισε να είναι η ενεργειακή βάση του τεχνικού μετασχηματισμού. Η κεραμική, η μεταλλουργία, η μαγειρική, τα καμίνια, τα όπλα, η αρχιτεκτονική και στη συνέχεια η ατμομηχανή επέκτειναν τη δύναμή της. Η ιστορία του πολιτισμού μπορεί να διαβαστεί ως μια ιστορία ολοένα και πιο περίπλοκων καύσεων.
Με την πάροδο του χρόνου, όμως, οι λειτουργίες που συγκέντρωνε η φωτιά στην εστία άρχισαν να διαχωρίζονται. Η κοινή λέξη, η κοινωνική ταξινόμηση, η πολιτική διοίκηση, η τεχνική επιτάχυνση και η παραγωγή νοήματος καταλήφθηκαν από θεσμούς, γραπτά, αρχεία, στρατούς, μηχανές και μέσα ενημέρωσης. Η φωτιά συνέχισε να είναι μια ενεργειακή βάση, αλλά έπαψε να είναι το ορατό κέντρο της κοινότητας.
Στις αρχαίες αυτοκρατορίες, η γραφή, η απογραφή και το αρχείο ανέλαβαν τη λειτουργία της ταξινόμησης ανθρώπων, αφιερωμάτων, εδαφών, καλλιεργειών, στρατιωτών και χρεών. Η φωτιά παρέμενε στους φούρνους, τα σιδηρουργεία, τις θυσίες, τις τιμωρίες και τις τελετουργίες, αλλά η διοίκηση της κοινωνίας περνούσε όλο και περισσότερο μέσα από πινακίδες, μητρώα και γραφειοκρατίες.
Σε πολλά αυτοκρατορικά και θρησκευτικά τάγματα, η φωτιά χρησιμοποιήθηκε επίσης ως παραδειγματική τιμωρία, συμβολικός εξαγνισμός ή δημόσια σκηνοθεσία των συνόρων μεταξύ αυτού που επιτρεπόταν και αυτού που καταδικαζόταν. Δεν ήταν πλέον απλώς μια κοινοτική εστία. θα μπορούσε να είχε γίνει πειθαρχικό θέαμα. Η ίδια τεχνολογία που συγκέντρωσε μπορούσε επίσης να διαχωρίσει, να σημαδέψει και να καταστρέψει.
Η μεγάλη μετάλλαξη ήρθε με τη Βιομηχανική Επανάσταση. Η ατμομηχανή - φωτιά, νερό, σίδηρος και πίεση - εισήγαγε μια συστημική επιτάχυνση. Ο σιδηρόδρομος συμπίεσε τις αποστάσεις. Το εργοστάσιο συμπίεσε τον χρόνο εργασίας. Ο τηλέγραφος συμπίεζε τα μηνύματα. Η διοίκηση δεν ασκούνταν πλέον πρόσωπο με πρόσωπο γύρω από τη φωτιά, αλλά μέσω χρονοδιαγραμμάτων, χαρτών, τηλεγραφημάτων, πολεμικών δελτίων, λογιστικής και, αργότερα, συστημάτων υπολογισμού.
Η καύση έπαψε να είναι απλώς ένα στήριγμα για τη ζωή της κοινότητας. Έγινε μια μηχανή εκπολιτιστικής επέκτασης. Αυτή η μεταμόρφωση είναι η βάση του σύγχρονου κόσμου αλλά και της μεταβολικής του εξάντλησης. Οι βιομηχανικές πυρκαγιές πολλαπλασίασαν τον πληθυσμό, την παραγωγή, τις μεταφορές, τον πόλεμο και την κατανάλωση. αλλά άνοιξε επίσης το δρόμο για τον ενεργειακό, οικολογικό και κλιματικό κορεσμό του παρόντος.
3. Ο Τύπος και η κρίση του μονοπωλίου της αλήθειας
Όταν το κείμενο πολλαπλασιάστηκε, η αλήθεια έπαψε να έχει έναν μόνο φύλακα.
Η τυπογραφία ήταν, για την κρίση της μεσαιωνικής και θρησκευτικής ευρωπαϊκής τάξης, κάτι παρόμοιο με αυτό που αντιπροσωπεύει η τεχνητή νοημοσύνη για την κρίση της σύγχρονης ψηφιακής τάξης: μια τεχνολογία που άλλαξε την εξουσία πάνω στην αλήθεια.
Πριν από την εκτύπωση, η νόμιμη παραγωγή γνώσης συγκεντρωνόταν σε θρησκευτικά ιδρύματα, πανεπιστήμια, γραφείς, δικαστήρια και πολιτικές αρχές. Το κείμενο κυκλοφόρησε αργά. Η αντιγραφή ήταν δύσκολη, δαπανηρή και περιορισμένη. Η εξουσιοδοτημένη διερμηνεία εξαρτιόταν από αναγνωρισμένους διαμεσολαβητές. Το μονοπώλιο της αλήθειας δεν ήταν απόλυτο, αλλά φυλασσόταν σθεναρά από θεσμικές δομές ικανές να ελέγχουν την κυκλοφορία της γνώσης.
Ο Τύπος τροποποίησε αυτήν την αναφορά. Πολλαπλασίασε τα κείμενα, επιτάχυνε τις αντιπαραθέσεις, διέδωσε μεταφράσεις της Βίβλου, φυλλάδια, δόγματα, χάρτες, επιστημονικές πραγματείες και πολιτική προπαγάνδα. Δεν δημιούργησε τη Μεταρρύθμιση, τους θρησκευτικούς πολέμους ή τη νεωτερικότητα από μόνη της, αλλά άλλαξε τις συνθήκες της δυνατότητας όλων αυτών. Πολλαπλασιάζοντας την κυκλοφορία του κειμένου, πολλαπλασιάστηκε και η διαφωνία για την ερμηνεία του.
Η λειτουργία του ήταν να σπάσει το προηγούμενο μονοπώλιο της συμβολικής διαμεσολάβησης. Ενώ προηγουμένως η αρχή διαχειριζόταν το κείμενο αργά, ο Τύπος επέτρεπε την κυκλοφορία, την αντιγραφή, την αμφισβήτηση και τον πολλαπλασιασμό. Η συνέπεια ήταν διφορούμενη. Διεύρυνε την πρόσβαση στη γνώση, προώθησε νέες μορφές κριτικής και άνοιξε το δρόμο για πνευματικές επαναστάσεις. Αλλά ενέτεινε επίσης τους δογματικούς πολέμους, την προπαγάνδα, τον θρησκευτικό κατακερματισμό και τις κρίσεις νομιμότητας.
Ο Τύπος δείχνει ένα θεμελιώδες μάθημα: μια τεχνολογία επικοινωνίας δεν παράγει αυτόματα χειραφέτηση. Μπορεί να απελευθερώσει τις αισθήσεις, αλλά και να πολλαπλασιάσει τις συγκρούσεις. Μπορεί να σπάσει τα μονοπώλια, αλλά και να καταστρέψει τη συναίνεση. Μπορεί να διευρύνει τη γνώση, αλλά και να επιταχύνει τον πόλεμο για την αλήθεια.
Υπό αυτή την έννοια, ο Τύπος εκτελούσε μια λειτουργία ισοδύναμη με αυτή της τεχνητής νοημοσύνης όσον αφορά την παραγωγή και τη διανομή νοήματος. Και οι δύο τεχνολογίες παρεμβαίνουν εκεί όπου μια κοινωνία αποφασίζει τι είναι αλήθεια, ποιος μπορεί να το πει, πώς κυκλοφορεί και υπό ποια εξουσία αναγνωρίζεται.
4. Σιδηρόδρομος και τηλέγραφος: η επιτάχυνση της αυτοκρατορικής διοίκησης
Η σύγχρονη αυτοκρατορία δεν κατέκτησε μόνο εδάφη: έμαθε να μειώνει την απόσταση μεταξύ τάξης και υπακοής.
Κατά τη διάρκεια του δέκατου ένατου αιώνα, ο σιδηρόδρομος και ο τηλέγραφος ήταν καθοριστικές τεχνολογίες της νέας βιομηχανικής και αυτοκρατορικής τάξης. Εκτέλεσαν μια λειτουργία που εκτελεί σήμερα η τεχνητή νοημοσύνη σε άλλο επίπεδο: επιτάχυνση της διοίκησης σε μεγάλες περιοχές.
Ο σιδηρόδρομος κατέστησε δυνατή τη μετακίνηση στρατευμάτων, αγαθών, πρώτων υλών και πληθυσμών με πρωτοφανή ταχύτητα. Ο τηλέγραφος κατέστησε δυνατή τη μετάδοση παραγγελιών, τιμών, ειδήσεων και στρατιωτικών οδηγιών σχεδόν ακαριαία για την ώρα. Μαζί μεταμόρφωσαν την κλίμακα των κρατών, των αυτοκρατοριών και του βιομηχανικού καπιταλισμού.
Πριν, η διακυβέρνηση μιας μεγάλης επικράτειας συνεπαγόταν καθυστερήσεις, τοπική αυτονομία και βραδύτητα. Οι παραγγελίες χρειάζονταν μέρες, εβδομάδες ή μήνες. Τα προάστια διατήρησαν ένα ορισμένο περιθώριο χάρη στην απόσταση. Με τον σιδηρόδρομο και τον τηλέγραφο, το κέντρο μπόρεσε να συντονίσει τα προάστια πολύ πιο αποτελεσματικά. Η εξουσία έγινε ταχύτερη, πιο συγκεντρωτική και πιο εξορυκτική.
Οι αποικίες, οι εσωτερικές αγορές, οι σύγχρονοι στρατοί και οι κρατικές διοικήσεις εξαρτιόνταν από αυτή την υποδομή. Η αυτοκρατορική επέκταση δεν ήταν μόνο στρατιωτική. Ήταν υλικοτεχνική και επικοινωνιακή. Η κυριαρχία σε μακρινές περιοχές απαιτούσε διαδρομές, καλώδια, σταθμούς, δρομολόγια, χάρτες, λογιστικά και γρήγορες παραγγελίες. Οι υποδομές δεν συνόδευαν την εξουσία: ήταν μέρος της εξουσίας.
Η τεχνητή νοημοσύνη εκτελεί παρόμοια λειτουργία σήμερα, αλλά σε δεδομένα, συμπεριφορές και αποφάσεις. Σας επιτρέπει να συντονίζετε τεράστια συστήματα, να ανιχνεύετε μοτίβα, να προβλέπετε κινδύνους, να αυτοματοποιείτε τις απαντήσεις και να μειώνετε την αυτονομία του δωματίου μπροστά από το αλγοριθμικό κέντρο. Όπου ο τηλέγραφος μετέδιδε εντολές, η τεχνητή νοημοσύνη συνιστά αποφάσεις. Εκεί που ο σιδηρόδρομος μετακινούσε σώματα και αγαθά, η τεχνητή νοημοσύνη μετακινεί ροές πληροφοριών, κεφαλαίων, προσοχής και ελέγχου.
Ο δέκατος ένατος αιώνας επιτάχυνε την εδαφική διοίκηση. Ο εικοστός πρώτος αιώνας επιταχύνει τη γνωστική εντολή.
5. Στατιστικές, απογραφή και αρχεία: καθιστώντας τον πληθυσμό αναγνώσιμο
Το μέτρημα ήταν ένας τρόπος να βλέπεις, η ταξινόμηση, ένας τρόπος διακυβέρνησης.
Ένα άλλο αποφασιστικό εργαλείο ήταν οι κρατικές στατιστικές: απογραφές, κτηματολόγια, ληξιαρχεία, χάρτες, εκλογικοί κατάλογοι, αστυνομικά αρχεία, φορολογική λογιστική, μέτρηση παραγωγής, πληθυσμού και πόρων.
Οι στατιστικές επέτρεψαν στο κράτος να «δει» την κοινωνία. Πριν από την καταμέτρηση, την ταξινόμηση και την καταγραφή, η εξουσία κυριαρχούσε με πιο περιορισμένο τρόπο. Μπορούσε να διοικήσει, να τιμωρήσει, να συλλέξει ή να στρατολογήσει, αλλά οι γνώσεις του για τον πληθυσμό ήταν ελλιπείς και αποσπασματικές. Με την απογραφή και τις στατιστικές, ο πληθυσμός έγινε ένα αντικείμενο που μπορούσε να διαχειριστεί: ηλικία, γεννήσεις, θάνατοι, εμπόριο, περιουσία, ασθένειες, εγκλήματα, φόροι, μεταναστεύσεις, αλφαβητισμός, παραγωγικότητα.
Αυτός ο μετασχηματισμός ήταν κεντρικός στο σύγχρονο κράτος. Το να κυβερνάς έπαψε να σημαίνει απλώς να ασκείς εξουσία σε μια περιοχή. Κατέληξε να σημαίνει τη διαχείριση πληθυσμών. Ο πληθυσμός έγινε μια ποσοτικοποιήσιμη, συγκρίσιμη, προγραμματιζόμενη και διορθώσιμη πραγματικότητα. Έτσι γεννήθηκε μια μορφή εξουσίας που βασίζεται στην ταξινόμηση, τη μέτρηση, την κανονικοποίηση και την πρόβλεψη.
Η τεχνητή νοημοσύνη κληρονομεί και ριζοσπαστικοποιεί αυτή τη λειτουργία. Εάν οι σύγχρονες στατιστικές ταξινομούν τους πληθυσμούς σε μεγάλες κατηγορίες, η τεχνητή νοημοσύνη ταξινομεί σε πραγματικό χρόνο, σε ατομική και προγνωστική κλίμακα. Δεν λέει απλώς πόσοι φτωχοί, άρρωστοι, σκληρά εργαζόμενοι ή ύποπτοι άνθρωποι υπάρχουν. Προσπαθεί να προβλέψει συμπεριφορές, κινδύνους, προτιμήσεις, κατανάλωση, ψήφους, εγκλήματα, κινήσεις και συναισθήματα.
Η στατιστική ήταν το όργανο διακυβέρνησης της βιομηχανικής κοινωνίας. Η τεχνητή νοημοσύνη είναι το εργαλείο για τη διακυβέρνηση της ψηφιακής κοινωνίας. Αλλά η διαφορά είναι καθοριστική: οι στατιστικές παρήγαγαν περιοδικές φωτογραφίες της κοινωνίας. Η τεχνητή νοημοσύνη επιχειρεί να παράγει ένα συνεχές και προγνωστικό φιλμ της συμπεριφοράς της. Το θέμα δεν είναι πλέον μόνο να γνωρίζουμε τι είναι ο πληθυσμός, αλλά να προβλέπουμε τι θα μπορούσε να κάνει.
Εδώ εμφανίζεται μια βαθιά μετάλλαξη της εξουσίας. Η κυβέρνηση δεν ενεργεί πλέον μόνο για τετελεσμένα γεγονότα. προσπαθεί να παρέμβει στις πιθανότητες. Δεν διαχειρίζεται μόνο θέματα, αλλά προφίλ. Δεν περιμένει τη συμπεριφορά. Προσπαθεί να το προβλέψει. Σε αυτό το απόσπασμα, τα όρια μεταξύ γνώσης, πρόληψης και ελέγχου γίνονται όλο και πιο θολά.
6. Ραδιόφωνο, Κινηματογράφος και Τηλεόραση: Συναισθηματική Οργάνωση των Μαζών
Η μαζική κοινωνία χρειαζόταν φωνές, εικόνες και οθόνες ικανές να διδάξουν τι να φοβάσαι, τι να αγαπάς και τι να υπακούς.
Στην κρίση του κλασικού φιλελευθερισμού και την άνοδο των μαζικών κοινωνιών, το ραδιόφωνο, ο κινηματογράφος και στη συνέχεια η τηλεόραση έπαιξαν μια κεντρική λειτουργία: να οργανώσουν συναισθηματικά ολόκληρους πληθυσμούς.
Ήταν τεχνολογίες προπαγάνδας, συλλογικής ταύτισης, εθνικής παιδαγωγικής, κατανάλωσης, ψυχολογικού πολέμου και πολιτικής νομιμοποίησης. Ο φασισμός, ο ναζισμός, ο σταλινισμός, το New Deal, η πολεμική προπαγάνδα των Συμμάχων, ο Ψυχρός Πόλεμος και η καταναλωτική κοινωνία δεν μπορούν να γίνουν κατανοητά χωρίς τα μέσα μαζικής ενημέρωσης.
Το ραδιόφωνο επέτρεψε την άμεση φωνή του αρχηγού στο σπίτι. Ο κινηματογράφος παρήγαγε συλλογική φαντασία. Η τηλεόραση οργάνωσε την καθημερινή αντίληψη της πολιτικής, του πολέμου, της οικογένειας, της κατανάλωσης και της κανονικότητας. Αυτά τα μέσα ενημέρωσης όχι μόνο ενημέρωσαν: διαμόρφωσαν ευαισθησίες. Δίδαξαν πώς να νιώθεις, να φοβάσαι, να επιθυμείς, να μισείς, να θαυμάζεις και να ανήκεις.
Η μαζική κοινωνία χρειαζόταν τα μέσα μαζικής ενημέρωσης. Οι αστικοποιημένοι, μερικώς εγγράμματοι πληθυσμοί, κινητοποιημένοι από τους πολέμους, την εκβιομηχάνιση και τα πολιτικά κόμματα απαίτησαν νέες μορφές συμβολικής ολοκλήρωσης. Τα μέσα μαζικής ενημέρωσης παρήγαγαν αυτή την ενσωμάτωση. Δημιούργησαν εθνικά ακροατήρια, κοινούς εχθρούς, καταναλωτικές φιλοδοξίες, ιστορίες θυσιών, πολιτικές ταυτότητες και τρόπους ζωής.
Αλλά επικέντρωσαν επίσης το θέμα. Το ραδιόφωνο και η τηλεόραση μίλησαν από λίγα κέντρα σε μεγάλα ακροατήρια. Η μαζική προπαγάνδα ήταν κάθετη. Το μήνυμα θα μπορούσε να προσαρμοστεί, αλλά όχι να εξατομικευτεί με ατομική ακρίβεια. Ήταν θέμα να πειστούν τα πλήθη, όχι να διαμορφωθούν συγκεκριμένα προφίλ.
Η τεχνητή νοημοσύνη εκτελεί πλέον μια βαθύτερη λειτουργία επειδή δεν μεταφέρει μόνο μηνύματα: εξατομικεύει, τμηματοποιεί, προσαρμόζει και προβλέπει. Η μαζική προπαγάνδα μίλησε σε όλους. Η τεχνητή νοημοσύνη σάς επιτρέπει να μιλάτε διαφορετικά σε κάθε άτομο. Τηλεοπτικό κοινό. Το AI παράγει προφίλ. Το ραδιόφωνο κινητοποίησε τις μάζες. Η τεχνητή νοημοσύνη διαχειρίζεται μικρο-συμπεριφορές.
Η εξουσία δεν χρειάζεται πλέον να εκπέμπει ένα κοινό μήνυμα. Μπορεί να παράγει εκατομμύρια παραλλαγές, που απευθύνονται σε διαφορετικά θέματα ανάλογα με τους φόβους, τις επιθυμίες τους, τις συνήθειές τους, την κατανάλωσή τους και τα τρωτά τους σημεία. Αυτή η ικανότητα αλλάζει τη φύση της προπαγάνδας. Δεν είναι πλέον απλώς θέμα δημόσιας πειθούς, αλλά στενής διαμόρφωσης.
7. Υπολογιστές και κυβερνητική: διαχείριση της πολυπλοκότητας
Όταν ο κόσμος έγινε πολύ περίπλοκος για να ελεγχθεί από την όραση, η δύναμη έμαθε να τον υπολογίζει.
Μετά τον Β' Παγκόσμιο Πόλεμο, οι υπολογιστές, η θεωρία συστημάτων, η κυβερνητική, η επιχειρησιακή έρευνα και τα μαθηματικά μοντέλα έγιναν κεντρικά εργαλεία της νέας τεχνοκρατικής τάξης.
Η λειτουργία τους ήταν να διαχειρίζονται την πολυπλοκότητα. Τα κράτη, οι στρατοί, οι εταιρείες και οι διεθνείς οργανισμοί άρχισαν να σκέφτονται με όρους συστημάτων, πληροφοριών, ανατροφοδότησης, ελέγχου, προσομοίωσης, βελτιστοποίησης και πρόβλεψης. Ο Ψυχρός Πόλεμος ήταν επίσης ένας πόλεμος υπολογισμών: πύραυλοι, ραντάρ, επιμελητεία, οικονομικός σχεδιασμός, πυρηνικά μοντέλα, πληροφορίες, ασφάλεια και διαχείριση πληθυσμού.
Η κυβερνητική πρόσφερε μια νέα γλώσσα για τη διακυβέρνηση. Η κοινωνία, η οικονομία, ο πόλεμος και η διοίκηση θα μπορούσαν να θεωρηθούν ως συστήματα πληροφοριών. Το πρόβλημα δεν ήταν πλέον μόνο η εντολή, αλλά η επεξεργασία σημάτων, η διόρθωση αποκλίσεων, η βελτιστοποίηση των πόρων και η πρόβλεψη της συμπεριφοράς. Το τεχνοκρατικό ιδεώδες ήταν η μείωση της αβεβαιότητας μέσω του υπολογισμού.
Η τρέχουσα τεχνητή νοημοσύνη είναι ο άμεσος κληρονόμος αυτής της κυβερνητικής μήτρας. Αλλά η διαφορά είναι αυτή της κλίμακας και της ολοκλήρωσης. Αυτό που προηγουμένως συγκεντρωνόταν σε εργαστήρια, γενικά επιτελεία, εταιρείες και γραφειοκρατίες επεκτείνεται τώρα στην καθημερινή ζωή μέσω πλατφορμών, τηλεφώνων, δικτύων, αισθητήρων και αυτοματοποιημένων συστημάτων.
Η κυβερνητική ήθελε να κυβερνήσει πολύπλοκα συστήματα. Η τεχνητή νοημοσύνη διέπει την κοινωνική πολυπλοκότητα σε πραγματικό χρόνο. Τα μοντέλα της λειτουργούν όχι μόνο σε στρατιωτικά ή επιστημονικά κέντρα, αλλά στην καθημερινή επικοινωνία, την εργασία, την κατανάλωση, την εκπαίδευση, την ασφάλεια, τη χρηματοδότηση και την πολιτιστική παραγωγή.
Ο υπολογιστής υπολόγισε. Η τεχνητή νοημοσύνη ερμηνεύει, προβλέπει, προτείνει και παράγει. Αυτή η διαφορά σηματοδοτεί ένα κατώφλι: ο υπολογισμός παύει να διαχωρίζεται από την κοινωνική δράση. Κολλάει σε αυτό. Η ανθρώπινη λήψη αποφάσεων αρχίζει να συνυπάρχει με συστήματα που όχι μόνο προσφέρουν πληροφορίες, αλλά καθοδηγούν τη συμπεριφορά.
8. Διαδίκτυο: κυκλοφορικό δίκτυο της νεοφιλελεύθερης παγκοσμιοποίησης
Το δίκτυο υποσχέθηκε να αποκεντρώσει τον κόσμο. κατέληξε να εστιάζει την προσοχή σε νέες αόρατες αρχιτεκτονικές.
Πριν από την τεχνητή νοημοσύνη, το διαδίκτυο χρησίμευε ως η συμβολική και οικονομική υποδομή του νεοφιλελεύθερου-παγκοσμιοποιημένου κύκλου. Επέτρεψε τη χρηματιστικοποίηση σε πραγματικό χρόνο, την εξωτερική ανάθεση παραγωγής, την άμεση επικοινωνία, το ηλεκτρονικό εμπόριο, την παγκόσμια κυκλοφορία πληροφοριών, την επιτήρηση δεδομένων και την επέκταση της πλατφόρμας.
Το Διαδίκτυο υποσχέθηκε αποκέντρωση, αλλά παρήγαγε νέες συγκεντρώσεις. Υποσχέθηκε ελευθερία, αλλά παρήγαγε επιτήρηση. Υποσχέθηκε παγκόσμια κοινότητα, αλλά παρήγαγε φούσκες, πόλωση και έλεγχο της προσοχής. Το ανοιχτό δίκτυο κατέληξε να οργανώνεται από κλειστές πλατφόρμες, οικονομίες δεδομένων, συμπεριφορική διαφήμιση και ψηφιακά μονοπώλια.
Η τεχνητή νοημοσύνη αναδύεται ακριβώς πάνω από αυτήν την προηγούμενη υποδομή: συσσωρευμένα δεδομένα, συνδεδεμένοι χρήστες, σύννεφα, πλατφόρμες, τσιπ και επιχειρηματικά μοντέλα που βασίζονται στην εξαγωγή πληροφοριών. Χωρίς το διαδίκτυο, η σύγχρονη τεχνητή νοημοσύνη δεν θα είχε την ίδια κοινωνική δύναμη. Χρειάζεται τεράστια δεδομένα, υπολογιστική ικανότητα, παγκόσμια δίκτυα, κέντρα δεδομένων, συνδεδεμένους χρήστες και οικονομίες πλατφόρμας.
Το Διαδίκτυο ήταν το κυκλοφορικό δίκτυο του ψηφιακού καπιταλισμού. Η τεχνητή νοημοσύνη είναι ο λειτουργικός της εγκέφαλος.
Το δίκτυο συνέδεε τον κόσμο, αλλά δεν το έκανε απαραίτητα πιο συνηθισμένο. Έχει προκαλέσει κυκλοφορία, αλλά και κατακερματισμό. Έχει δημιουργήσει πρόσβαση, αλλά και εθισμό. Παρήγαγε έκφραση, αλλά και επιτήρηση. Η τεχνητή νοημοσύνη παίρνει αυτήν την υποδομή και την κάνει πιο προγνωστική, πιο αυτοματοποιημένη και πιο εστιασμένη.
Υπό αυτή την έννοια, η τεχνητή νοημοσύνη δεν αντικαθιστά το διαδίκτυο. Το ολοκληρώνει. Είναι η φάση κατά την οποία το δίκτυο παύει να είναι απλώς ένα μέσο κυκλοφορίας και γίνεται ένα σύστημα ερμηνείας και λήψης αποφάσεων.
9. Η συγκεκριμένη διαφορά της τεχνητής νοημοσύνης
Η τεχνητή νοημοσύνη δεν αντικαθιστά ένα προηγούμενο εργαλείο: συνδυάζει εκτύπωση, αρχειοθέτηση, τηλεγραφία, οθόνη και υπολογισμό σε ένα μόνο μηχάνημα.
Η τεχνητή νοημοσύνη διαφέρει από όλα τα προηγούμενα εργαλεία επειδή ενσωματώνει λειτουργίες που προηγουμένως ήταν ξεχωριστές σε μια ενιαία υποδομή.
Ο Τύπος διένειμε κείμενα.
Ο τηλέγραφος μετέδιδε εντολές.
Στατιστικά ταξινομημένα πληθυσμοί.
Το ραδιόφωνο και η τηλεόραση οργάνωσαν μάζες.
Ο υπολογιστής υπολόγισε.
Το Διαδίκτυο συνδέθηκε.
Η τεχνητή νοημοσύνη υπολογίζει, ταξινομεί, προβλέπει, παράγει περιεχόμενο, εξατομικεύει την προπαγάνδα, αυτοματοποιεί την εργασία, την επιτήρηση, αποφασίζει και μαθαίνει από την κοινωνική συμπεριφορά.
Αυτή η ενσωμάτωση το καθιστά ποιοτικά διαφορετικό. Δεν ενισχύει μόνο τις ανθρώπινες ικανότητες. αρχίζει να αντικαθιστά τις λειτουργίες της κρίσης, της ερμηνείας και της λήψης αποφάσεων. Αυτός είναι ο λόγος για τον οποίο ο ρόλος του στο συστημικό χάος είναι τόσο βαθύς: επηρεάζει όχι μόνο αυτό που παράγουν οι κοινωνίες, αλλά και το πώς αντιλαμβάνονται, αποφασίζουν και υπακούουν.
Το πλησιέστερο ισοδύναμο εργαλείο σε μια άλλη συστημική κρίση δεν ήταν μια ενιαία τεχνολογία, αλλά ένας συνδυασμός: έντυπα, στατιστικές, τηλέγραφος, μέσα μαζικής ενημέρωσης, υπολογιστές και διαδίκτυο. Η τεχνητή νοημοσύνη είναι, κατά μία έννοια, η σύγκλιση όλων αυτών των τεχνολογιών σε μια γνωστική υποδομή εντολών.
Η καινοτομία του δεν συνίσταται μόνο στο να κάνει πιο γρήγορα αυτό που προηγουμένως γινόταν αργά. Συνίσταται στην ενοποίηση της συμβολικής κυκλοφορίας, του υπολογισμού, της ταξινόμησης, της επιτήρησης, της παραγωγής περιεχομένου και της αυτοματοποίησης των αποφάσεων. Αυτό μετατρέπει την τεχνητή νοημοσύνη σε ένα συστημικό, μη τομεακό εργαλείο. Επηρεάζει ταυτόχρονα το κράτος, τον πόλεμο, την αγορά, την εργασία, την υποκειμενικότητα και τη δημόσια αλήθεια.
10. Από την κοινή εστία στην εξατομικευμένη τροφή
Η φωτιά ένωσε τη φυλή μπροστά στο ίδιο φως. Ο αλγόριθμος δίνει σε κάθε άτομο τη δική του ιδιωτική εστία.
Η σύγκριση με τη φωτιά μας επιτρέπει να κατανοήσουμε μια διάσταση που η καθαρά τεχνική ανάλυση τείνει να παραμελεί. Η τεχνητή νοημοσύνη δεν αυτοματοποιεί απλώς τις διαδικασίες: αναδιοργανώνει τη συλλογική προσοχή. Και εκεί παράγεται μια αποφασιστική εκπολιτιστική αντιστροφή.
Η εστία συγκεντρώθηκε. Η ροή διαχωρίζεται.
Η φωτιά παρήγαγε μια οξυδερκή κοινότητα. Όλοι κοιτούσαν το ίδιο κέντρο, μοιράζονταν το ίδιο φως, άκουγαν την ίδια ιστορία και ζούσαν στην ίδια σκηνή. Αυτή η ενότητα δεν εξάλειψε τις συγκρούσεις, τις ιεραρχίες ή τις εσωτερικές διαφορές, αλλά δημιούργησε μια κοινή βάση εμπειρίας. Υπήρχε ένας κοινός κόσμος από τον οποίο μπορούσαν να συζητήσουν, να θυμηθούν και να αποφασίσουν.
Η αλγοριθμική ροή, από την άλλη πλευρά, προσφέρει μια εξατομικευμένη πραγματικότητα σε κάθε άτομο. Κάθε θέμα λαμβάνει μια διαφορετική ακολουθία ειδήσεων, εικόνων, συναγερμών, επιθυμιών, αγανακτήσεων, περισπασμών και απειλών. Η κρίση δεν εμφανίζεται πλέον ως κοινή εμπειρία, αλλά ως εξατομικευμένη ροή. Για ορισμένους, η κλιματική αλλαγή είναι έκτακτη ανάγκη. Για άλλους, μια μυθοπλασία. Για άλλους πάλι, απλώς ένα μπερδεμένο υπόβαθρο μεταξύ ψυχαγωγίας, διαφήμισης και καθημερινού άγχους. Για κάποιους, ένας πόλεμος είναι μια απόλυτη ηθική αιτία. Για άλλους, συνωμοσία. για άλλους, μακρινός θόρυβος.
Η τεχνητή νοημοσύνη λειτουργεί έτσι σαν μια κατακερματισμένη εστία. Δεν συγκεντρώνει πλέον την κοινότητα γύρω από μια κοινή σκηνή, αλλά παραδίδει μικρές ιδιωτικές φλόγες, βαθμονομημένες σύμφωνα με προφίλ, συνήθειες και τρωτά σημεία. Όλοι λαμβάνουν συμβολική ζεστασιά, αλλά όχι απαραίτητα κοινότητα. Όλοι έχουν μια οθόνη ανοιχτή, αλλά όχι ένας συνηθισμένος κόσμος.
Αυτό το χαρακτηριστικό είναι ένα από τα πιο ενοχλητικά του παρόντος. Όσο πιο κατακερματισμένη είναι η κοινωνική αντίληψη, τόσο πιο δύσκολο γίνεται να οικοδομηθεί ένα «εμείς» ικανό να δράσει συλλογικά απέναντι σε μια κρίση. Η τεχνητή νοημοσύνη δεν παράγει έναν ορατό σαμάνο, ούτε έναν δημόσιο ομιλητή, ούτε μια αναγνωρίσιμη αρχή γύρω από την οποία να συζητηθεί. Παράγει μια αόρατη διαμεσολάβηση που διατάζει την προσοχή χωρίς να αναλαμβάνει την πλήρη ευθύνη για τα αποτελέσματά της.
Η φωτιά κατέστησε δυνατή τη συναρμολόγηση. Η τεχνητή νοημοσύνη, στην κυρίαρχη αλγοριθμική της μορφή, μπορεί να παράγει το μοναχικό πλήθος.
Αυτή η διαφορά είναι κρίσιμη για το συστημικό χάος. Ένα σύστημα σε κρίση χρειάζεται περισσότερο κοινό κόσμο, όχι λιγότερο. Χρειάζεται κοινούς χώρους ερμηνείας, διαβούλευσης, λογοδοσίας και λήψης αποφάσεων. Αλλά η κυρίαρχη ψηφιακή υποδομή τείνει να πολλαπλασιάζει τις αντιληπτικές φούσκες, να επιταχύνει τα συναισθήματα, να εξατομικεύει τις αλήθειες και να αποδυναμώνει τις διαμεσολαβήσεις. Όπου η κρίση απαιτεί κοινότητα, η τεχνολογία παράγει κατακερματισμό. Όπου η επιβίωση απαιτεί σκέψη, το σύστημα προσφέρει δέσμευση.
11. Γιατί η τεχνητή νοημοσύνη επιταχύνει τη συστημική εξάντληση
Μια τεχνολογία που αυξάνει την ταχύτητα ενός συστήματος χωρίς κατεύθυνση δεν το σώζει: το κατακρημνίζει.
Η τεχνητή νοημοσύνη επιταχύνει τη συστημική εξάντληση επειδή δεν λειτουργεί ως ουδέτερο εργαλείο που προστίθεται σε μια σταθερή τάξη. Εισέρχεται σε ένα ήδη κορεσμένο σύστημα -γεωπολιτικά, οικονομικά, ενεργειακά, εργασιακά, δημογραφικά και συμβολικά- και αυξάνει την ταχύτητα, τη συγκέντρωση και την ευθραυστότητα των αντιφάσεών του.
Δεν δημιουργεί από μόνη της την κρίση της παγκόσμιας τάξης, αλλά λειτουργεί ως καταλύτης. Επιταχύνει τις υπάρχουσες τάσεις και μειώνει το χρονικό περιθώριο για τη διόρθωσή τους. Συμπιέζει τους χρόνους λήψης αποφάσεων, εντείνει τον ανταγωνισμό μεταξύ των εξουσιών, αυτοματοποιεί τις κοινωνικές διαδικασίες, συγκεντρώνει τη γνωστική εξουσία και καθιστά τους μηχανισμούς πολιτικής διαμεσολάβησης πιο εύθραυστους.
Κάθε συστημική κρίση έχει μια χρονική διάσταση. Μια τάξη μπορεί να ανεχθεί τις αντιφάσεις αρκεί να διατηρεί χρόνο για να τις επεξεργαστεί: να διαπραγματευτεί, να μεταρρυθμίσει, να απορροφήσει αιτήματα, να αναδιανείμει θέσεις, να οικοδομήσει θεσμούς, να διορθώσει τις ανισορροπίες. Αλλά όταν η ταχύτητα των διαδικασιών υπερβαίνει την ικανότητα διαβούλευσης, το σύστημα χάνει την πλαστικότητα.
Η τεχνητή νοημοσύνη συμβάλλει ακριβώς σε αυτή την επιτάχυνση. Οι αγορές αντιδρούν πιο γρήγορα, ο πόλεμος αυτοματοποιείται, η προπαγάνδα παράγεται σε πραγματικό χρόνο, η επιτήρηση γίνεται προγνωστική, η εργασία αναδιοργανώνεται πιο γρήγορα και οι στρατηγικές αποφάσεις εξαρτώνται όλο και περισσότερο από αδιαφανή τεχνικά συστήματα.
Το πρώτο αποτέλεσμα είναι η συμπίεση του πολιτικού χρόνου. Η πολιτική χρειάζεται καθυστέρηση, συζήτηση, ερμηνεία, σύνεση και υπευθυνότητα. Η τεχνητή νοημοσύνη, από την άλλη πλευρά, εισάγει μια λογική άμεσης βελτιστοποίησης. Κατατάσσει, προβλέπει, προτείνει, ιεραρχεί και εκτελεί με ταχύτητες μεγαλύτερες από την ανθρώπινη σκέψη. Σε καταστάσεις κρίσης, αυτή η ταχύτητα μπορεί να μειώσει το περιθώριο διαπραγμάτευσης και να αυξήσει την πιθανότητα αυτοματοποιημένων απαντήσεων, υπερβολικών αντιδράσεων ή αποφάσεων που λαμβάνονται υπό τεχνική πίεση. Όπου υπήρχε ήδη ένας στενός διάδρομος επιλογών, η τεχνητή νοημοσύνη μπορεί να τον περιορίσει ακόμη περισσότερο.
Το δεύτερο αποτέλεσμα είναι η στρατιωτική επιτάχυνση. Η τεχνητή νοημοσύνη ενσωματώνεται με drones, δορυφόρους, συστήματα επιτήρησης, πυραυλική άμυνα, κυβερνοπόλεμο, αναγνώριση προσώπου, ανάλυση νοημοσύνης, επιλογή στόχου και αυτοματοποιημένη διοίκηση. Αυτό μετατρέπει τον πόλεμο σε μια ταχύτερη, πιο κατανεμημένη και αδιαφανή διαδικασία. Η απόφαση για επίθεση μπορεί να εξαρτάται όλο και περισσότερο από ροές δεδομένων, μοντέλα πρόβλεψης και συστήματα έγκαιρης προειδοποίησης. Ο κίνδυνος δεν είναι μόνο ότι οι μηχανές αποφασίζουν, αλλά ότι τα ανθρώπινα όντα αναγκάζονται να αποφασίζουν εντός του ρυθμού που επιβάλλουν οι μηχανές. Όταν η τεχνική ταχύτητα υπερβαίνει την πολιτική σύνεση, η κλιμάκωση γίνεται πιο πιθανή.
Το τρίτο αποτέλεσμα είναι η εντατικοποίηση του ανταγωνισμού μεταξύ των δυνάμεων. Η τεχνητή νοημοσύνη δεν είναι απλώς μια φθηνή τεχνολογία. Είναι μια υποδομή εξουσίας. Όσοι κυριαρχούν στα μοντέλα, τα τσιπ, τα δεδομένα, τα σύννεφα, τα καλώδια, τους δορυφόρους και την υπολογιστική ικανότητα θα έχουν παραγωγικό, στρατιωτικό, οικονομικό και γνωστικό πλεονέκτημα. Αυτός είναι ο λόγος για τον οποίο η τεχνητή νοημοσύνη εμβαθύνει τον στρατηγικό ανταγωνισμό. Κάθε δύναμη φοβάται ότι θα μείνει πίσω και αυτός ο φόβος τροφοδοτεί τεχνολογικούς αγώνες, περιορισμούς εξαγωγών, βιομηχανική κατασκοπεία, κυρώσεις, στρατιωτικοποίηση των αλυσίδων εφοδιασμού και ψηφιακό κατακερματισμό. Το σύστημα γίνεται λιγότερο συνεργάσιμο επειδή η τεχνολογία γίνεται αντιληπτή ως απόλυτο στρατηγικό πλεονέκτημα.
Το τέταρτο αποτέλεσμα είναι η συγκέντρωση της εξουσίας. Η τεχνητή νοημοσύνη απαιτεί τεράστια δεδομένα, υποδομή cloud, ενέργεια, προηγμένα τσιπ, χρηματοοικονομικό κεφάλαιο και εξαιρετικά εξειδικευμένες τεχνικές ομάδες. Αυτό ευνοεί τις μεγάλες εταιρείες και τα μεγάλα κράτη. Αντί να εκδημοκρατίζει αυτόματα τη γνώση, μπορεί να συγκεντρώσει περαιτέρω την ικανότητα παραγωγής, οργάνωσης και δημιουργίας εσόδων από αυτήν. Το χάσμα μεταξύ του κέντρου και της περιφέρειας διευρύνεται: ορισμένες χώρες σχεδιάζουν μοντέλα, ελέγχουν την υποδομή και αξιοποιούν. Άλλοι φέρνουν δεδομένα, πόρους, ενέργεια, ορυκτά και καταναλωτές. Με αυτόν τον τρόπο, η τεχνητή νοημοσύνη αναπαράγει και εμβαθύνει την ιεραρχία της εξαντλημένης τάξης.
Το πέμπτο αποτέλεσμα είναι η εργασιακή κρίση. Ο αυτοματισμός δεν επηρεάζει πλέον μόνο τις χειροκίνητες ή επαναλαμβανόμενες εργασίες. προσεγγίζει διοικητικές, επαγγελματικές, δημιουργικές, εκπαιδευτικές, νομικές, ιατρικές, οικονομικές και επικοινωνιακές δραστηριότητες. Αυτό απειλεί ένα από τα θεμέλια της ολοκλήρωσης της νεωτερικότητας: τη σχέση μεταξύ πληθυσμού, εργασίας, μισθών, κατανάλωσης και κοινωνικού ανήκειν. Εάν το σύστημα παράγει περισσότερα με λιγότερη ανθρώπινη εργασία, αλλά δεν αναδιανέμει την εξουσία, τον χρόνο, το εισόδημα και το νόημα, η μάζα του πλεονάζοντος ή επισφαλούς πληθυσμού αυξάνεται. Η τεχνητή νοημοσύνη δεν μεταμορφώνει απλώς την οικονομία. Αποδυναμώνει τον μηχανισμό μέσω του οποίου το Τάγμα ενσωμάτωσε κοινωνικά εκατομμύρια ανθρώπους.
Το έκτο αποτέλεσμα είναι η αποδιοργάνωση της κοινής αλήθειας. Η τεχνητή νοημοσύνη καθιστά δυνατή την παραγωγή κειμένου, εικόνων, ήχου, βίντεο, προφίλ, καμπανιών και ψυχολογικών λειτουργιών σε μαζική κλίμακα και με υψηλό βαθμό εξατομίκευσης. Αυτό διαβρώνει την εμπιστοσύνη στις κοινές πληροφορίες. Εάν όλα μπορούν να κατασκευαστούν, να χειραγωγηθούν ή να παραποιηθούν, η δημόσια πραγματικότητα γίνεται ύποπτη. Η δημοκρατία, η διπλωματία και η κοινωνική συνύπαρξη χρειάζονται τουλάχιστον έναν κοινό κόσμο. Χωρίς αυτό το θεμέλιο, η συζήτηση κατακερματίζεται σε φούσκες, ασύμβατες αφηγήσεις και μόνιμους γνωστικούς πολέμους. Το συστημικό χάος δεν καταστρέφει απλώς τους θεσμούς: καταστρέφει την εμπιστοσύνη στην αντίληψη.
Το έβδομο αποτέλεσμα είναι η αλγοριθμική διαχείριση πληθυσμών. Η τεχνητή νοημοσύνη καθιστά δυνατή την ταξινόμηση των κινδύνων, την πρόβλεψη συμπεριφορών, την παρακολούθηση των κινήσεων, τη μέτρηση της παραγωγικότητας, την κατανομή πόρων, τον εντοπισμό αντιφρονούντων, την τμηματοποίηση των καταναλωτών, τον έλεγχο των συνόρων και τη διαχείριση των οφελών. Αυτό μπορεί να παρουσιαστεί ως αποτελεσματικότητα, αλλά μπορεί επίσης να μετατραπεί σε μια μορφή διακυβέρνησης χωρίς διαβούλευση. Οι αποφάσεις παύουν να εμφανίζονται ως πολιτικές αποφάσεις και παρουσιάζονται ως τεχνικά αποτελέσματα. Έτσι η ευθύνη διαλύεται: ένας ηγεμόνας δεν αποφασίζει πλέον, ένα σύστημα αποφασίζει. Δεν αποκλείει μια πολιτική, αποκλείει έναν αλγόριθμο. Δεν καταστέλλει μια εξουσία, διαχειρίζεται μια πλατφόρμα.
Το όγδοο αποτέλεσμα είναι η αυξημένη κατανάλωση ενέργειας και υλικών. Η τεχνητή νοημοσύνη παρουσιάζεται συχνά ως άυλη τεχνολογία, αλλά εξαρτάται από κέντρα δεδομένων, ηλεκτρική ενέργεια, νερό, τσιπ, ορυκτά, καλώδια, διακομιστές και αλυσίδες logistics. Η επέκτασή του αυξάνει την πίεση στην ενέργεια, τον χαλκό, το λίθιο, τις σπάνιες γαίες, το νερό για ψύξη και τις ηλεκτρικές υποδομές. Σε έναν κόσμο που ήδη διασχίζεται από μεταβολικούς περιορισμούς, η τεχνητή νοημοσύνη δεν επιπλέει έξω από την ύλη – εντείνει το ερώτημα σχετικά με τον ήδη εξαντλημένο μεταβολισμό. Η τεχνητή νοημοσύνη, παραδόξως, μπορεί να επιταχύνει την υλική κρίση του συστήματος που ισχυρίζεται ότι βελτιστοποιεί.
Το ένατο αποτέλεσμα είναι η απώλεια της διαμεσολάβησης. Μια σταθερή τάξη χρειάζεται διαμεσολάβηση: συνδικάτα, κόμματα, πανεπιστήμια, Τύπος, διπλωματία, δημόσιοι θεσμοί, τεχνικοί φορείς, εκπαιδευτικά συστήματα, κοινότητες. Η τεχνητή νοημοσύνη τείνει να παρακάμπτει τις διαμεσολαβήσεις: συνδέει άμεσα πλατφόρμες και άτομα, κράτη και δεδομένα, επιχειρήσεις και συμπεριφορές, αγορές και αυτόματες αποφάσεις. Αυτή η εξάλειψη των μεσαζόντων μπορεί να φαίνεται αποτελεσματική, αλλά καταστρέφει επίσης χώρους στους οποίους η κοινωνία επεξεργαζόταν συγκρούσεις, έχτιζε νομιμότητα και επεξεργαζόταν νόημα. Χωρίς διαμεσολάβηση, η κρίση γίνεται πιο άμεση, πιο συναισθηματική και πιο δύσκολο να περιοριστεί.
Το δέκατο αποτέλεσμα είναι η ψευδαίσθηση του ελέγχου. Σε πολύπλοκα συστήματα, περισσότερες πληροφορίες δεν σημαίνει απαραίτητα περισσότερη σοφία. Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει την εντύπωση ότι τα πάντα μπορούν να μετρηθούν, να προβλεφθούν και να κυβερνηθούν. Αλλά η υπερβολική εμπιστοσύνη στα μοντέλα μπορεί να κάνει τους υπεύθυνους λήψης αποφάσεων πιο ευάλωτους. Ένα σύστημα που πιστεύει ότι γνωρίζει το μέλλον μπορεί να αγνοήσει το απρόβλεπτο. Μια κυβέρνηση που βασίζεται υπερβολικά στις προβλέψεις μπορεί να σκληρύνει τις πολιτικές. Ένας στρατός που πιστεύει ότι διαθέτει πληροφοριακή υπεροχή μπορεί να πάρει μεγαλύτερα ρίσκα. Η τεχνητή νοημοσύνη μπορεί να αυξήσει την υπολογιστική ικανότητα, αλλά δεν εξαλείφει την αβεβαιότητα. Μερικές φορές το κρύβει μέχρι να εκραγεί.
Αυτός είναι ο λόγος για τον οποίο η τεχνητή νοημοσύνη επιταχύνει τη συστημική εξάντληση: επειδή αυξάνει την ταχύτητα ενός συστήματος που θα έπρεπε να επιβραδυνθεί, αυξάνει τη συγκέντρωση σε ένα σύστημα που θα έπρεπε να αναδιανείμει, αυξάνει την αυτοματοποίηση σε ένα σύστημα που θα χρειαζόταν διαβούλευση, αυξάνει την επιτήρηση σε ένα σύστημα που θα χρειαζόταν εμπιστοσύνη, αυξάνει την εξόρυξη υλικού σε ένα σύστημα που ήδη αντιμετωπίζει όρια και αυξάνει τον στρατηγικό ανταγωνισμό σε έναν κόσμο που θα είχε ανάγκη για συνεργασία.
12. AI, Spodocenus και Προσθετική Διοίκηση
Η εξαντλημένη τάξη δεν ενσωματώνει νοημοσύνη για να κατανοήσει τον εαυτό της, αλλά για να διαχειριστεί τον εαυτό της καθώς αποσυντίθεται.
Η τεχνητή νοημοσύνη δεν είναι η μόνη αιτία συστημικού χάους. Είναι ο γνωστικός του καταλύτης. Συμπυκνώνει και ριζοσπαστικοποιεί τις λειτουργίες που επιτελούσαν η φωτιά, ο Τύπος, η στατιστική, ο τηλέγραφος, τα μέσα μαζικής ενημέρωσης, ο υπολογιστής και το διαδίκτυο σε άλλες εποχές. Αλλά το κάνει με ολοκληρωμένο και επιταχυνόμενο τρόπο: παράγει νόημα, ταξινομεί πληθυσμούς, αυτοματοποιεί αποφάσεις, αναδιοργανώνει την εργασία, αμφισβητεί την αλήθεια, εντείνει τον πόλεμο και συγκεντρώνει την εξουσία. Για το λόγο αυτό, δεν συνοδεύει παθητικά την κρίση της τάξης: τη βαθαίνει.
Με ιστορικούς όρους, κάθε εργαλείο που αυξάνει την ικανότητα εντολών ενός εξαντλημένου συστήματος μπορεί να την παρατείνει για κάποιο χρονικό διάστημα, αλλά μπορεί επίσης να επιταχύνει την κατάρρευσή του. Η τεχνητή νοημοσύνη επιτρέπει στην παλιά τάξη να επιβλέπει περισσότερα, να αποφασίζει πιο γρήγορα, να εξάγει περισσότερα δεδομένα, να αυτοματοποιεί περισσότερη εργασία και να ανταγωνίζεται πιο έντονα. Αλλά αυτές οι ίδιες δυνατότητες δεν επιλύουν τη βασική αντίφαση: μια τάξη που δεν μπορεί πλέον να μετατρέψει τη δύναμη σε νομιμότητα, την ανάπτυξη στο μέλλον, την πληροφορία σε κοινή αλήθεια και την τεχνολογία σε κοινωνική σταθερότητα.
Η τεχνητή νοημοσύνη, επομένως, δεν εμφανίζεται ως αυτόματη έξοδος από το συστημικό χάος. Μπορεί να χρησιμοποιηθεί για τον καλύτερο σχεδιασμό, την προστασία των πόρων, τη βελτίωση της υγείας, την επέκταση της εκπαίδευσης ή την αντιμετώπιση κλιματικών κρίσεων. Αλλά υπό τις παρούσες συνθήκες – γεωπολιτικός ανταγωνισμός, εταιρική συγκέντρωση, ανισότητα, χρηματιστικοποίηση, στρατιωτικοποίηση και μεταβολική εξάντληση – τείνει να λειτουργεί ως επιταχυντής της αποσύνθεσης. Όχι επειδή είναι κακόβουλο από μόνο του, αλλά επειδή εκτυλίσσεται μέσα σε ένα σύστημα που μετατρέπει κάθε τεχνική δύναμη σε όργανο ανταγωνισμού, ελέγχου και εξόρυξης.
Εδώ το AI συνδέεται με τη λογική του Spodoceno. Όχι μόνο γιατί καταναλώνει ενέργεια, ορυκτά, δεδομένα και κρυφή εργασία, αλλά γιατί εμφανίζεται ως τεχνολογία για τη διοίκηση ενός πολιτισμού που παράγει ανθρώπινα πλεονάσματα, υλικά κατάλοιπα και συμβολικά ερείπια. Μια κοινωνία που δεν μπορεί πλέον να ενσωματώσει πλήρως τον πληθυσμό της βρίσκει στην τεχνητή νοημοσύνη ένα εργαλείο για να την ταξινομήσει, να την παρακολουθήσει, να την τμηματοποιήσει, να την αποσπάσει ή να την απορρίψει πιο αποτελεσματικά.
Ο κίνδυνος δεν είναι μόνο ότι η τεχνητή νοημοσύνη αντικαθιστά τα ανθρώπινα καθήκοντα. Ο βαθύτερος κίνδυνος είναι ότι συμβάλλει στην πολιτογράφηση μιας μορφής διακυβέρνησης στην οποία ο αποκλεισμός εμφανίζεται ως τεχνικό αποτέλεσμα, η επισφάλεια ως αναπόφευκτη προσαρμογή, η επιτήρηση ως ασφάλεια, η χειραγώγηση ως εξατομίκευση και η απώλεια νοήματος ως καινοτομία.
Η τεχνητή νοημοσύνη επιταχύνει τη συστημική εξάντληση επειδή αυξάνει την τεχνική ικανότητα μιας τάξης που έχει χάσει την ιστορική της ικανότητα να προσανατολίζεται. Δίνει μεγαλύτερη ταχύτητα, περισσότερες πληροφορίες, περισσότερη επιτήρηση και περισσότερη υπολογιστική ισχύ σε μια δομή που δεν μπορεί πλέον να παράγει σταθερότητα, νομιμότητα ή μέλλον. Αντί να λύσει την κρίση, μπορεί να την κάνει ταχύτερη, πιο αδιαφανή και πιο δύσκολη στη διακυβέρνησή της.
Το πρόβλημα δεν είναι μόνο η τεχνητή νοημοσύνη, αλλά το εξαντλημένο σύστημα που την ενσωματώνει ως πρόσθεση διοίκησης αντί να την εκμεταλλεύεται ως ευκαιρία για εκπολιτιστική αναδιοργάνωση.
13. Ανάκτηση της ψηφιακής εστίας: αντιτεχνολογίες διαβούλευσης
Το καθήκον δεν είναι να απενεργοποιήσετε την τεχνική, αλλά να της δώσετε πίσω μια κοινή σκηνή στην οποία μπορεί να συζητηθεί.
Εάν ισχύει η λειτουργική συνέχεια, ισχύει και η δυνατότητα ανάπτυξης τεχνολογιών του αντίθετου σημείου. Δεν είναι θέμα απόρριψης κάθε τεχνητής νοημοσύνης ή εξιδανίκευσης ενός κοινοτικού παρελθόντος. Το ζήτημα είναι να αναρωτηθούμε υπό ποιες συνθήκες μια τεχνολογία μπορεί να παράγει έναν κοινό κόσμο αντί να τον κατακερματίζει.
Η φωτιά ένωσε τους ανθρώπους γιατί σε ανάγκασε να μοιραστείς μια σκηνή. Η πολιτική διαβούλευση απαιτεί επίσης κοινές σκηνές: κοινά κείμενα, κοινούς χρόνους, κοινά προβλήματα, αναγνωρίσιμες ευθύνες και ορατές διαμεσολαβήσεις. Χωρίς αυτό το θεμέλιο, μια κοινωνία μπορεί να είναι υπερσυνδεδεμένη και ωστόσο να στερείται κοινότητας.
Για το λόγο αυτό, ενόψει του αλγοριθμικού ψεκασμού, δεν αρκεί να απαιτούμε περισσότερες πληροφορίες. Το πρόβλημα δεν είναι μόνο ο όγκος των διαθέσιμων δεδομένων, αλλά ο τρόπος με τον οποίο αυτά τα δεδομένα οργανώνονται, ιεραρχούνται και μετατρέπονται σε κοινωνική αντίληψη. Μια κοινωνία μπορεί να είναι κορεσμένη από πληροφορίες και ωστόσο να μην μπορεί να λάβει συλλογικές αποφάσεις.
Η ανάκτηση της ψηφιακής εστίας σημαίνει ανοικοδόμηση χώρων στους οποίους η τεχνολογία δεν διαλύει το «εμείς», αλλά το καθιστά δυνατό. Αυτό συνεπάγεται επαληθεύσιμους αλγόριθμους, πλατφόρμες προσανατολισμένες στη διαβούλευση και όχι μόνο στη δέσμευση, χώρους για κοινή ανάγνωση, ορατή ανθρώπινη μετριοπάθεια, κριτική εκπαίδευση, πιο αργούς ρυθμούς συζήτησης και θεσμικές μορφές ικανές να ενδυναμώσουν αυτούς που σχεδιάζουν τις υποδομές της προσοχής.
Δεν είναι ρομαντικές λύσεις. Αυτές είναι ελάχιστες προϋποθέσεις ώστε μια κοινωνία να μην παραμένει πλήρως υποταγμένη σε αδιαφανή συστήματα ταξινόμησης και συναισθηματικής διέγερσης. Σε έναν κόσμο συστημικής κρίσης, η ικανότητα να σταματάς, να μοιράζεσαι μια σκηνή, να συζητάς ένα κοινό δεδομένο και να αποφασίζεις με άλλους γίνεται τεχνολογία πολιτικής επιβίωσης.
Η πραγματική εναλλακτική δεν είναι μεταξύ φωτιάς και αλγορίθμου, ούτε μεταξύ παρελθόντος και μέλλοντος. Η εναλλακτική είναι μεταξύ των τεχνολογιών που παράγουν διαβουλευτική κοινότητα και των τεχνολογιών που διαχειρίζονται συνδεδεμένες μοναξιές. Το πρόβλημα δεν είναι ότι η τεχνητή νοημοσύνη σκέφτεται, αλλά ότι μια κοινωνία σταματά να σκέφτεται συλλογικά επειδή έχει αναθέσει την προσοχή, τη μνήμη και την κρίση της σε συστήματα που δεν ελέγχει.
Συμπέρασμα: Αμφισβητώντας το «εμείς» σε κάθε κρίση
Το αποφασιστικό ερώτημα οποιασδήποτε τεχνολογίας κρίσης δεν είναι τι μπορεί να κάνει, αλλά τι είδους κοινότητα καθιστά δυνατή.
Κάθε συστημική κρίση είχε τα αποφασιστικά της εργαλεία. Η φωτιά συγκέντρωσε σώματα και οργάνωσε τους πρώτους χώρους κοινής προσοχής. Ο Τύπος άνοιξε τη σύγχρονη διαμάχη για την αλήθεια. Ο τηλέγραφος και ο σιδηρόδρομος επιτάχυναν τη βιομηχανική και αυτοκρατορική διοίκηση. Οι στατιστικές έκαναν τον πληθυσμό ορατό και διαχειρίσιμο. Τα μέσα μαζικής ενημέρωσης οργάνωσαν συναισθηματικά ολόκληρες κοινωνίες. Οι υπολογιστές και η κυβερνητική πρόσφεραν μοντέλα για τη ρύθμιση της πολυπλοκότητας. Το Διαδίκτυο άρθρωσε τη συμβολική και οικονομική κυκλοφορία της νεοφιλελεύθερης παγκοσμιοποίησης.
Η τεχνητή νοημοσύνη εμφανίζεται μετά από όλες αυτές τις τεχνολογίες, αλλά όχι ως πρόσθετο εργαλείο. Είναι η σύγκλιση των λειτουργιών τους στην ίδια γνωστική υποδομή εντολών. Διανέμει νόημα, μεταδίδει εντολές, ταξινομεί πληθυσμούς, οργανώνει συναισθήματα, υπολογίζει σενάρια, συνδέει συστήματα, προβλέπει συμπεριφορά και αυτοματοποιεί αποφάσεις.
Αυτή η σύγκλιση εξηγεί τη δύναμή της και τον κίνδυνο της. Σε μια σταθερή τάξη, ένα τέτοιο μέσο θα μπορούσε να προσανατολιστεί προς τον σχεδιασμό, τη συνεργασία, την υγεία, την εκπαίδευση, τη μείωση της αλλοτριωμένης εργασίας και την ορθολογική διαχείριση των πόρων. Αλλά σε μια εξαντλημένη τάξη, που διασχίζεται από γεωπολιτικό ανταγωνισμό, εταιρική συγκέντρωση, κοινωνική ανισότητα, χρηματιστικοποίηση, στρατιωτικοποίηση και μεταβολικά όρια, η τεχνητή νοημοσύνη τείνει να λειτουργεί ως επιταχυντής αντιφάσεων.
Δεν εγκαινιάζει από μόνο του συστημικό χάος. Το κάνει πιο γρήγορο, πιο εστιασμένο, πιο θαμπό και πιο δύσκολο να μεσολαβήσει. Επιταχύνει τον πόλεμο, την επισφαλή εργασία, κατακερματίζει την κοινή αλήθεια, εντείνει την επιτήρηση, συγκεντρώνει την εξουσία και αυξάνει τη ζήτηση ενέργειας και υλικών. Εκεί που η ανθρωπότητα θα χρειαζόταν χρόνο, διαμεσολάβηση, σύνεση και αναδιοργάνωση, η τεχνητή νοημοσύνη εισάγει ταχύτητα, αυτοματισμό, υπολογισμό και ανταγωνισμό.
Αλλά το αποφασιστικό ερώτημα δεν είναι αν η τεχνητή νοημοσύνη θα είναι καλή ή κακή αφηρημένα. Το ερώτημα είναι με ποια ιστορική σειρά θα ενσωματωθεί. Η ίδια τεχνική δύναμη μπορεί να είναι ένα όργανο χειραφέτησης ή μια πρόθεση διοίκησης. Μπορεί να βοηθήσει στον εκπολιτισμό ενός εξαντλημένου κόσμου ή στην επιτάχυνση της αποσύνθεσής του.
Η φωτιά, στα καλύτερά της, έκανε δυνατή τη συναρμολόγηση. Η τεχνητή νοημοσύνη, στη χειρότερη περίπτωση, καθιστά δυνατό το μοναχικό πλήθος. Ένα θεμελιώδες πολιτικό ερώτημα διαδραματίζεται μεταξύ αυτών των δύο άκρων: αυτή η τεχνολογία κρίσης παράγει ένα «εμείς» ικανό για συλλογική απόφαση ή απλώς μια μάζα ατόμων που επαναπροσδιορίζονται από έναν αλγόριθμο;
Η συστημική εξέλιξη δεν γράφεται. Μπορούμε να επιλέξουμε ανάμεσα σε μια εστία που συγκεντρώνει και μια τροφή που ψεκάζει. Η τεχνολογία δεν είναι ουδέτερη, αλλά δεν είναι ούτε πεπρωμένο. Το νόημά του θα εξαρτηθεί από το αν η ανθρωπότητα καταφέρει να ανακτήσει, εν μέσω συστημικού χάους, την ικανότητα να παράγει έναν κοινό κόσμο πριν τα πιο έξυπνα εργαλεία της καταλήξουν να διαχειριστούν την αποσύνθεσή του.
https://comedonchisciotte.org/
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου