Όταν η εξατομίκευση τρώει τη γνώση με την οποία τρέφεται
Το παράσιτο που σκοτώνει τον ξενιστή του
Τον Φεβρουάριο του 2026, τρεις ερευνητές στο MIT κυκλοφόρησαν μια εργασία που θα έπρεπε να είχε εκραγεί σαν βόμβα στους διαδρόμους κάθε εταιρείας τεχνητής νοημοσύνης, κάθε ρυθμιστικής υπηρεσίας και κάθε πανεπιστημιακής διοίκησης στον κόσμο. Αντίθετα, προσγειώθηκε με τον πνιχτό γδούπο που υποδέχεται τις περισσότερες ακαδημαϊκές δημοσιεύσεις, κυκλοφόρησε μεταξύ οικονομολόγων και μιας χούφτας προσεκτικών τεχνολόγων και θάφτηκε αμέσως κάτω από την καθημερινή χιονοστιβάδα των λανσαρισμάτων προϊόντων, των ανακοινώσεων χρηματοδότησης και των σχολίων που κόβουν την ανάσα σχετικά με την τεχνητή νοημοσύνη που φτάνει σε ένα ακόμη σημείο αναφοράς. Αυτό είναι κρίμα, γιατί το έγγραφο περιγράφει έναν μηχανισμό με τον οποίο η τεχνολογία που χτίζουμε με τον περισσότερο ενθουσιασμό και τη λιγότερη αυτοσυγκράτηση μπορεί να καταστρέφει αθόρυβα το ίδιο το πράγμα που την κάνει πολύτιμη.
Η εργασία ονομάζεται «AI, Human Cognition and Knowledge Collapse». Οι συγγραφείς του είναι ο Daron Acemoglu, ο Τουρκοαμερικανός οικονομολόγος που κέρδισε το βραβείο Νόμπελ το 2024 για το έργο του σχετικά με το πώς οι θεσμοί διαμορφώνουν την ευημερία. Dingwen Kong, ένας ανερχόμενος θεωρητικός στα οικονομικά της πληροφορίας. και ο Asuman Ozdaglar, ένας από τους κορυφαίους μελετητές της δυναμικής και της βελτιστοποίησης δικτύων στον κόσμο. Δημοσιεύεται ως NBER Working Paper 34910. Είναι μαθηματικά πυκνό, τυπικά αυστηρό και βαθιά ανησυχητικό. Και το κεντρικό της επιχείρημα μπορεί να διατυπωθεί σε μία μόνο πρόταση που ακούγεται σχεδόν πολύ απλή για να έχει το βάρος που έχει: η πρακτορική τεχνητή νοημοσύνη, το είδος που σας δίνει εξατομικευμένες συστάσεις και απαντήσεις για συγκεκριμένο πλαίσιο, μπορεί να καταστρέψει συστηματικά τη συλλογική βάση γνώσεων από την οποία εξαρτώνται αυτές οι συστάσεις, ακόμη και όταν κάνει κάθε μεμονωμένη απόφαση καλύτερη βραχυπρόθεσμα.
Διαβάστε ξανά αυτήν την πρόταση. Αφήστε το να ηρεμήσει. Γιατί αν το μοντέλο είναι έστω και κατά προσέγγιση σωστό, περιγράφει μια πολιτισμική παγίδα πρώτης τάξης. Όχι η αποκάλυψη των ρομπότ. Όχι υπερευφυείς μηχανές που αποφασίζουν ότι οι άνθρωποι είναι παρωχημένοι. Κάτι πολύ πιο ήσυχο, πολύ πιο αληθοφανές και από πολλές απόψεις πολύ πιο δύσκολο να σταματήσει. Μια αργή, αόρατη, εντελώς ορθολογική διάβρωση της κοινής κατανόησης που κρατά τις πολύπλοκες κοινωνίες ενωμένες.
Η λογική έχει τη δομή μιας κλασικής τραγωδίας. Κάθε ηθοποιός συμπεριφέρεται λογικά. Κάθε επιλογή είναι τοπικά βέλτιστη. Και το συλλογικό αποτέλεσμα είναι η καταστροφή.
Δύο Είδη Γνώσης
Για να καταλάβετε γιατί συμβαίνει αυτό, πρέπει να κατανοήσετε μια διάκριση που η εργασία επισημοποιεί με μαθηματική ακρίβεια, αλλά που όποιος έχει μάθει ποτέ μια τέχνη ή έχει ασκήσει ένα επάγγελμα γνωρίζει ήδη διαισθητικά.
Η ανθρώπινη γνώση λειτουργεί σε δύο επίπεδα. Η πρώτη είναι η γενική γνώση: η συσσωρευμένη, κοινή κατανόηση που έχει μια κοινότητα για το πώς λειτουργεί ο κόσμος. Στην ιατρική, αυτό είναι το σύνολο γνώσεων σχετικά με τους μηχανισμούς ασθενειών, τις φαρμακολογικές αλληλεπιδράσεις, τα διαγνωστικά ευρετικά και τα πρωτόκολλα θεραπείας που έχει δημιουργήσει το επάγγελμα εδώ και αιώνες. Στα χρηματοοικονομικά, είναι η συλλογική κατανόηση της δυναμικής της αγοράς, της αξιολόγησης κινδύνου, της θεσμικής συμπεριφοράς και των ιστορικών προτύπων που ενημερώνουν την κρίση. Νομικά, είναι το εξελισσόμενο ερμηνευτικό πλαίσιο μέσω του οποίου γίνονται κατανοητά τα καταστατικά και τα προηγούμενα. Η γενική γνώση είναι κοινωνική. Δεν ανήκει σε κανέναν και ωφελεί όλους. Είναι το νερό στο οποίο κολυμπά η επαγγελματική και πνευματική ζωή.
Το δεύτερο επίπεδο είναι η γνώση που σχετίζεται με το πλαίσιο: οι συγκεκριμένες, τοπικές, ατομικές πληροφορίες που ισχύουν για μια δεδομένη κατάσταση. Στην ιατρική, αυτός είναι ο συγκεκριμένος ασθενής που κάθεται μπροστά σας, τα συμπτώματά του, το ιστορικό του, η ανοχή του στον κίνδυνο. Στα χρηματοοικονομικά, είναι το συγκεκριμένο χαρτοφυλάκιό σας, ο χρονικός σας ορίζοντας, η όρεξή σας για αστάθεια. Νομικά, είναι τα συγκεκριμένα γεγονότα της υπόθεσης. Η γνώση που σχετίζεται με το πλαίσιο είναι ιδιωτική. Ανήκει στο άτομο και είναι άχρηστο σε όποιον δεν μοιράζεται το ίδιο πλαίσιο.
Η κριτική διορατικότητα, αυτή στην οποία στρέφεται ολόκληρη η εργασία, είναι ότι αυτές οι δύο μορφές γνώσης είναι συμπληρώματα, όχι υποκατάστατα. Το να γνωρίζεις τα συμπτώματά σου με εξαιρετική λεπτομέρεια είναι άχρηστο χωρίς μια ιατρική επιστήμη ικανή να τα ερμηνεύσει. Η ύπαρξη της πιο εξελιγμένης γενικής θεωρίας βελτιστοποίησης χαρτοφυλακίου είναι άχρηστη χωρίς να γνωρίζουμε την πραγματική οικονομική κατάσταση του επενδυτή. Οι καλές αποφάσεις απαιτούν συνεργασία και των δύο επιπέδων. Η γενική γνώση δίνει νόημα στο πλαίσιο. Το πλαίσιο δίνει εφαρμογή στη γενική γνώση. Κανένα από τα δύο δεν λειτουργεί μόνο του.
Αυτή η συμπληρωματικότητα είναι τόσο θεμελιώδης για τον τρόπο με τον οποίο πλοηγούμαστε στον κόσμο που σπάνια την παρατηρούμε. Είναι η αόρατη σκαλωσιά της ικανής δράσης. Και είναι ακριβώς αυτή η σκαλωσιά που η εργασία υποστηρίζει ότι η πρακτορική τεχνητή νοημοσύνη είναι σε θέση να αποσυναρμολογήσει.
Το πρόβλημα της κοινής παραγωγής
Εδώ είναι που ο μηχανισμός μετατρέπεται από διαισθητικός σε καταστροφικός.
Όταν τα ανθρώπινα όντα μαθαίνουν, δεν παράγουν γενικές γνώσεις και γνώσεις για το πλαίσιο ως ξεχωριστές δραστηριότητες. Τα παράγουν από κοινού. Ένας ειδικευόμενος ιατρός που εργάζεται σε μια δύσκολη διάγνωση κάνει ταυτόχρονα δύο πράγματα: συλλέγει και ερμηνεύει πληροφορίες για τον συγκεκριμένο ασθενή που έχει μπροστά του και εμβαθύνει την κατανόησή του για την ιατρική γενικά. Η υπόθεση τους διδάσκει κάτι για τον ασθενή και επίσης τους διδάσκει κάτι για την ασθένεια. Ένας χρηματοοικονομικός αναλυτής που δημιουργεί ένα μοντέλο για την κατάσταση ενός συγκεκριμένου πελάτη μαθαίνει ταυτόχρονα για αυτόν τον πελάτη και μαθαίνει για το πώς συμπεριφέρονται οι χρηματοπιστωτικές αγορές υπό ορισμένες συνθήκες. Ένας νεαρός δικηγόρος που συντάσσει μια σύντομη έκθεση για μια συγκεκριμένη υπόθεση κατέχει ταυτόχρονα τα γεγονότα αυτής της υπόθεσης και αναπτύσσει μια πλουσιότερη κατανόηση του τρόπου λειτουργίας του σχετικού σώματος.
Αυτή η κοινή παραγωγή δεν είναι τυχαία. Είναι η θεμελιώδης κινητήρια δύναμη του τρόπου με τον οποίο οι κοινωνίες συσσωρεύουν και ανανεώνουν τις γνώσεις τους. Το έγγραφο το αποκαλεί «οικονομίες πεδίου στη μάθηση». Κάθε πράξη ατομικής, συγκεκριμένης προσπάθειας στέλνει ένα λεπτό μήνυμα που απορροφάται από το κοινό απόθεμα κατανόησης της κοινότητας. Ο ιατρός δημοσιεύει μια αναφορά περίπτωσης. Το μοντέλο του χρηματοοικονομικού αναλυτή συμβάλλει στη θεσμική γνώση της εταιρείας. Η ενημέρωση του δικηγόρου γίνεται μέρος της συνεχιζόμενης συζήτησης του νομικού επαγγέλματος σχετικά με τον τρόπο ερμηνείας των καταστατικών. Καμία από αυτές τις συνεισφορές δεν είναι μεμονωμένα δραματική. Τα περισσότερα μόλις και μετά βίας γίνονται αντιληπτά. Αλλά συνολικά, σε εκατομμύρια επαγγελματίες για χρόνια και δεκαετίες, αποτελούν ολόκληρη τη διαδικασία με την οποία διατηρείται και ανανεώνεται η γενική γνώση.
Και εδώ είναι το κρίσιμο οικονομικό χαρακτηριστικό: η γενική γνώση είναι μια εξωτερικότητα. Ο ιατρός δεν πληρώνεται για τη συμβολή της αναφοράς του στη γενική πρόοδο της ιατρικής επιστήμης. Ο οικονομικός αναλυτής δεν αποτυπώνει την αξία της θεσμικής γνώσης που δημιουργεί η εργασία του για τους μελλοντικούς συναδέλφους. Ο δικηγόρος δεν αποζημιώνεται για την αξία του δεδικασμένου που παρέχει η πραγματογνωμοσύνη του στο επάγγελμα γενικότερα. Η γενική γνώση που παράγεται από την ατομική προσπάθεια διαχέεται σε ολόκληρη την κοινότητα. Κανείς δεν πληρώνει για αυτό. Κανείς δεν το κατέχει. Και επειδή κανείς δεν πληρώνει γι' αυτό, η αγορά συστηματικά το υποπαράγει. Αυτά είναι τα οικονομικά της εξωτερικότητας του σχολικού βιβλίου, το είδος των πραγμάτων που μαθαίνεις στο πρώτο εξάμηνο ενός μεταπτυχιακού προγράμματος. Αλλά ο Acemoglu και οι συν-συγγραφείς του έχουν εντοπίσει έναν νέο και ιδιαίτερα επικίνδυνο τρόπο με τον οποίο μπορεί να αξιοποιηθεί αυτή η εξωτερικότητα.
Η παγίδα της αντικατάστασης
Εισαγάγετε την πρακτορική τεχνητή νοημοσύνη. Όχι το chatbot που γράφει τα email σας ή συνοψίζει ένα έγγραφο. Η πιο φιλόδοξη εκδοχή. Η τεχνητή νοημοσύνη που λειτουργεί ως ο εξατομικευμένος σύμβουλός σας, ο διαγνωστικός σας βοηθός, ο επενδυτικός σας σύμβουλος, το εργαλείο νομικής έρευνας. Η τεχνητή νοημοσύνη που λαμβάνει το συγκεκριμένο πλαίσιο, τα συμπτώματά σας, την οικονομική σας κατάσταση, το νομικό σας πρόβλημα και παρέχει μια εξατομικευμένη σύσταση υψηλής ακρίβειας.
Αυτό το είδος τεχνητής νοημοσύνης είναι ένα άμεσο υποκατάστατο για το συγκεκριμένο στοιχείο της ανθρώπινης μάθησης. Κάνει ακριβώς αυτό που έκανε ο ειδικευόμενος ιατρικής, ο οικονομικός αναλυτής και ο κατώτερος δικηγόρος: συλλέγει πληροφορίες σε ατομικό επίπεδο και τις επεξεργάζεται με φόντο γενικές γνώσεις για να παράγει μια χρήσιμη, εξατομικευμένη απάντηση. Και το κάνει πιο γρήγορα, φθηνότερα και σε πολλές περιπτώσεις με μεγαλύτερη ακρίβεια από έναν άνθρωπο, τουλάχιστον βραχυπρόθεσμα.
Το πρόβλημα είναι ότι όταν η τεχνητή νοημοσύνη υποκαθιστά την προσπάθεια που σχετίζεται με το πλαίσιο, εξαλείφει επίσης την κοινή παραγωγή που παρήγαγε γενική γνώση ως υποπροϊόν. Ο κάτοικος που δεν εργάζεται πλέον στη δύσκολη υπόθεση δεν συντάσσει την αναφορά περίπτωσης. Ο αναλυτής που αφήνει την τεχνητή νοημοσύνη να δημιουργήσει το μοντέλο δεν αναπτύσσει τη θεσμική διορατικότητα. Ο κατώτερος δικηγόρος που αναθέτει την έρευνα σε ένα εργαλείο τεχνητής νοημοσύνης δεν συμβάλλει στην εξελισσόμενη κατανόηση του νόμου από το επάγγελμα. Το ιδιωτικό όφελος της μάθησης αντικαθίσταται από τη σύσταση της τεχνητής νοημοσύνης. Αλλά η δημόσια διάχυση, το λεπτό σήμα που κάποτε τροφοδοτούσε το απόθεμα γνώσης της κοινότητας, απλώς εξαφανίζεται.
Καμία μεμονωμένη περίπτωση αυτού δεν έχει σημασία. Μία λιγότερη αναφορά υπόθεσης, μία λιγότερη θεσμική διορατικότητα, μία λιγότερη νομική έκθεση που συμβάλλει στην επαγγελματική συζήτηση: αυτές είναι αόρατες απώλειες. Αλλά επιδεινώνονται. Το απόθεμα γενικών γνώσεων δεν είναι στατικό. Υποτιμάται με την πάροδο του χρόνου. Η παλιά γνώση γίνεται παρωχημένη. Ο κόσμος αλλάζει. Οι ασθένειες μεταλλάσσονται. Οι αγορές εξελίσσονται. Τα νομικά πλαίσια αλλάζουν. Εάν η εισροή νέων γενικών γνώσεων πέσει κάτω από το ποσοστό απόσβεσης, το απόθεμα αρχίζει να μειώνεται. Και καθώς η μετοχή πέφτει, συμβαίνει κάτι ύπουλο: οι συστάσεις της ίδιας της τεχνητής νοημοσύνης αρχίζουν να υποβαθμίζονται, επειδή βασίστηκαν σε μια γενική βάση γνώσεων που είναι τώρα πιο λεπτή από ό,τι ήταν όταν εκπαιδεύτηκε η τεχνητή νοημοσύνη.
Αυτός είναι ο βρόχος ανατροφοδότησης στην καρδιά της εργασίας. Η καλύτερη τεχνητή νοημοσύνη μειώνει την ανθρώπινη προσπάθεια. Η μειωμένη ανθρώπινη προσπάθεια μειώνει την παραγωγή γενικής γνώσης. Οι μειωμένες γενικές γνώσεις καθιστούν την τεχνητή νοημοσύνη λιγότερο αποτελεσματική. Αλλά από τη στιγμή που η τεχνητή νοημοσύνη γίνεται λιγότερο αποτελεσματική, η ανθρώπινη ικανότητα αντιστάθμισης έχει ατροφήσει, επειδή οι επαγγελματίες που θα είχαν διατηρήσει τη βάση γνώσεων μέσω της δικής τους μάθησης δεν ανέπτυξαν ποτέ τις δεξιότητες εξαρχής. Το αποτέλεσμα είναι μια σταθερή κατάσταση που οι συγγραφείς αποκαλούν «κατάρρευση γνώσης», μια σταθερή ισορροπία στην οποία η γενική γνώση μηδενίζεται. Όχι επειδή το ήθελε κανείς αυτό. Όχι επειδή κάποιος έκανε λάθος. Επειδή κάθε μεμονωμένος παράγοντας ανταποκρίθηκε ορθολογικά στα κίνητρα που είχε μπροστά του και το συλλογικό αποτέλεσμα ήταν καταστροφικό.
Τα Μαθηματικά του Γκρεμού
Το επίσημο μοντέλο αποκαλύπτει κάτι πιο ανησυχητικό από μια σταδιακή πτώση. Η κατάρρευση μπορεί να είναι ασυνεχής.
Καθώς η ακρίβεια της τεχνητής νοημοσύνης αυξάνεται, το σύστημα δεν υποβαθμίζεται απαλά από μια ισορροπία υψηλής γνώσης σε μια ισορροπία χαμηλής γνώσης. Αντίθετα, η ισορροπία υψηλής γνώσης επιμένει, επιμένει, επιμένει και στη συνέχεια σε ένα ορισμένο όριο ακρίβειας τεχνητής νοημοσύνης, εξαφανίζεται εντελώς. Τη μια στιγμή, το σύστημα υποστηρίζει ένα ισχυρό απόθεμα κοινής κατανόησης. Το επόμενο, το μόνο σταθερό αποτέλεσμα είναι μηδέν. Η μαθηματική δομή εδώ είναι μια από πολλαπλές ισορροπίες και σημεία καμπής, το είδος της δυναμικής που παράγει απότομες μεταβάσεις φάσης αντί για ομαλές προσαρμογές. Σκεφτείτε το λιγότερο σαν έναν θερμοστάτη που σταδιακά χαμηλώνει και περισσότερο σαν μια γέφυρα που κρατά το φορτίο της μέχρι να μην το κάνει.
Αυτή η ασυνέχεια έχει καταστροφικές συνέπειες για την πολιτική: από τη στιγμή που η ζημιά γίνει ορατή, μπορεί να είναι ήδη μη αναστρέψιμη. Εάν η κατάρρευση της γνώσης ακολουθήσει το μοτίβο που προβλέπει το μοντέλο, οι κοινωνίες δεν θα βιώσουν μια σταδιακή παρακμή που θα προκαλέσει διορθωτικά μέτρα. Θα βιώσουν κανονική λειτουργία, κανονική λειτουργία, κανονική λειτουργία και στη συνέχεια μια ταχεία επιδείνωση από την οποία η ανάκαμψη είναι εξαιρετικά δύσκολη επειδή το ανθρώπινο κεφάλαιο που απαιτείται για την ανάκαμψη έχει αδειάσει.
Το μοντέλο παράγει επίσης ένα αποτέλεσμα που θα πρέπει να στοιχειώνει κάθε στέλεχος εταιρείας τεχνητής νοημοσύνης και κάθε σύμβουλο τεχνολογικής πολιτικής: η ευημερία είναι μη μονότονη στην ακρίβεια της τεχνητής νοημοσύνης. Υπάρχει ένα βέλτιστο επίπεδο ακρίβειας τεχνητής νοημοσύνης, ένα εσωτερικό σημείο, που μεγιστοποιεί την κοινωνική ευημερία. Κάτω από αυτό το σημείο, η αύξηση της ακρίβειας της τεχνητής νοημοσύνης κάνει τους πάντες καλύτερους. Πάνω από αυτό, η αύξηση της ακρίβειας κάνει τους πάντες χειρότερους. Η πιο ικανή τεχνητή νοημοσύνη μειώνει την ευημερία. Αυτό δεν είναι μια θεωρητική περιέργεια ή ένα τεχνούργημα απλουστευτικών υποθέσεων. Είναι το κεντρικό αποτέλεσμα της εργασίας και λέει κάτι βαθύ: η αδυσώπητη προσπάθεια της αγοράς προς τα πιο ακριβή, πιο ικανά, πιο εξατομικευμένα συστήματα τεχνητής νοημοσύνης δεν ευθυγραμμίζεται με το κοινωνικό βέλτιστο. Το επίπεδο μεγιστοποίησης του κέρδους της ικανότητας τεχνητής νοημοσύνης υπερβαίνει το επίπεδο μεγιστοποίησης της ευημερίας. Ο αγώνας για την κατασκευή της καλύτερης τεχνητής νοημοσύνης είναι, πέρα από ένα ορισμένο σημείο, ένας αγώνας προς τη συλλογική αυτοκαταστροφή.
Η εργασία προσδιορίζει ένα ακόμη αποτέλεσμα που αξίζει προσοχής. Ακόμη και όταν η τεχνητή νοημοσύνη βελτιώνει επίσης τη συγκέντρωση γενικών γνώσεων, πράγμα που σημαίνει ότι ακόμη και όταν η τεχνητή νοημοσύνη βοηθά τις κοινότητες να συγκεντρώνουν και να μοιράζονται τις υπάρχουσες γνώσεις τους πιο αποτελεσματικά, το φαινόμενο της υποκατάστασης κυριαρχεί, εκτός εάν οι βελτιώσεις της συγκέντρωσης αυξάνονται μη ρεαλιστικά γρήγορα. Με άλλα λόγια, δεν μπορείτε να σχεδιάσετε την έξοδο από αυτήν την παγίδα απλώς δημιουργώντας καλύτερα εργαλεία διαχείρισης γνώσης. Η βασική δυναμική, η μετατόπιση της ανθρώπινης μαθησιακής προσπάθειας, κατακλύζει τα βοηθητικά οφέλη, εκτός εάν η αντισταθμιστική δύναμη είναι απίθανα μεγάλη.
Η εξωτερικότητα που έφαγε το οικοσύστημα της πληροφορίας
Για τους οικονομολόγους, το μοντέλο Acemoglu-Kong-Ozdaglar αντιπροσωπεύει κάτι πραγματικά νέο, όχι στα συστατικά μέρη του, τα οποία είναι μεμονωμένα οικεία, αλλά στον συνδυασμό και τον στόχο τους. Οι εξωτερικότητες είναι από τις παλαιότερες έννοιες στα οικονομικά. Οι συμπληρωματικότητες είναι καλά κατανοητές. Τα δυναμικά μοντέλα συσσώρευσης και απόσβεσης κεφαλαίου είναι στάνταρ. Αλλά η εφαρμογή αυτού του μηχανισμού στο ίδιο το οικοσύστημα πληροφοριών, στο απόθεμα κοινής γνώσης από το οποίο εξαρτάται σιωπηρά όλη η οικονομική δραστηριότητα, είναι μια κίνηση που επαναπροσδιορίζει ολόκληρη τη συζήτηση για την τεχνητή νοημοσύνη.
Οι περισσότερες οικονομικές αναλύσεις της τεχνητής νοημοσύνης επικεντρώνονται στις αγορές εργασίας. Ρωτούν: ποιες θέσεις εργασίας θα αντικαταστήσει η τεχνητή νοημοσύνη; Πόσο γρήγορα; Τι θα κάνουν οι απολυμένοι εργαζόμενοι; Αυτά είναι σημαντικά ερωτήματα, αλλά όλα υποθέτουν σιωπηρά ότι η βάση γνώσεων που στηρίζει την οικονομική δραστηριότητα παραμένει ανέπαφη. Το έγγραφο Acemoglu λέει: αυτή η υπόθεση μπορεί να είναι λάθος. Εάν η πρακτορική τεχνητή νοημοσύνη υποβαθμίζει τη βάση γνώσεων, τότε κάθε άλλος υπολογισμός σχετικά με τον οικονομικό αντίκτυπο της τεχνητής νοημοσύνης βασίζεται σε διαβρωτικά θεμέλια. Οι προβλέψεις για την αγορά εργασίας, οι εκτιμήσεις για την παραγωγικότητα, οι προβλέψεις για την αύξηση του ΑΕΠ: όλα αυτά προϋποθέτουν ένα επίπεδο κοινής κατανόησης ότι η ίδια η τεχνολογία μπορεί να καταστρέφει.
Αυτό είναι ένα πρόβλημα εξωτερικότητας, αλλά είναι μια εξωτερικότητα ενός ιδιαίτερα φαύλου είδους. Σε μια τυπική περίπτωση ρύπανσης, το εργοστάσιο παράγει widget και εκπέμπει καπνό. Τα γραφικά στοιχεία έχουν ιδιωτική αξία. Ο καπνός έχει κοινωνικό κόστος. Η θεραπεία είναι να τιμολογήσετε τον καπνό. Στην περίπτωση κατάρρευσης γνώσης, η πρακτορική τεχνητή νοημοσύνη παράγει μια πολύτιμη εξατομικευμένη σύσταση (το widget) ενώ μειώνει την παραγωγή γενικής γνώσης (ο καπνός, μόνο που εδώ ο καπνός είναι καλός, όχι κακός, και η απουσία του είναι το πρόβλημα). Η θεραπεία απαιτεί είτε τη φορολόγηση της σύστασης είτε τη διασφάλιση ότι η εξωτερική φύση της γενικής γνώσης παράγεται μέσω κάποιου εναλλακτικού μηχανισμού. Αλλά σε αντίθεση με τη ρύπανση, η οποία μπορεί να μετρηθεί στα φουγάρια, η διάβρωση της γενικής γνώσης είναι αόρατη, διάχυτη και γίνεται εμφανής μόνο πολύ μετά την πρόκληση της ζημιάς.
Αυτή η αορατότητα είναι ακριβώς αυτό που κάνει την κατάρρευση της γνώσης τόσο επικίνδυνη ως πρόβλημα πολιτικής. Δεν υπάρχει μετρητής στο ταμπλό που να γράφει "απόθεμα γενικών γνώσεων: φθίνουσα". Το ιατρικό επάγγελμα δεν δημοσιεύει τριμηνιαίες εκθέσεις σχετικά με το βάθος της συλλογικής του κατανόησης. Οι χρηματοπιστωτικές αγορές δεν διαθέτουν δείκτη για την ποιότητα της κοινής θεσμικής γνώσης. Η διάβρωση συμβαίνει σιωπηλά, στις αποφάσεις που δεν λαμβάνονται, στις υποθέσεις που δεν διεκπεραιώνονται, στη μάθηση που δεν γίνεται, και ανακοινώνεται μόνο όταν οι συνέπειες γίνονται αδύνατο να αγνοηθούν: τα διαγνωστικά λάθη που αυξάνονται, τα οικονομικά μοντέλα που αποτυγχάνουν με απρόβλεπτους τρόπους, ο νομικός συλλογισμός που γίνεται πιο ρηχός, η μηχανική που γίνεται λιγότερο ισχυρή. Μέχρι τότε, το ανθρώπινο κεφάλαιο που απαιτείται για την ανοικοδόμηση της βάσης γνώσεων μπορεί να μην υπάρχει πλέον.
Ο εφιάλτης του φιλοσόφου, επισημοποιημένος
Για όσους μελετούν τη φύση της ίδιας της γνώσης, η εργασία του Acemoglu παρέχει μια επίσημη άρθρωση για κάτι για το οποίο οι επιστημολόγοι και οι φιλόσοφοι της επιστήμης ανησυχούν εδώ και πολύ καιρό, αλλά ποτέ δεν μπόρεσαν να αποδείξουν: ότι η γνώση δεν είναι απλώς ένα απόθεμα που πρέπει να αποθηκευτεί, αλλά μια πρακτική που πρέπει να διατηρηθεί.
Υπάρχει μια αρχαία διάκριση στη δυτική φιλοσοφία, που ανιχνεύεται στον Αριστοτέλη, μεταξύ επιστήμης και φρόνησης. Επιστήμη είναι η γενική επιστημονική γνώση, η συστηματική, αφηρημένη κατανόηση του πώς λειτουργεί ο κόσμος. Η φρόνηση είναι η πρακτική σοφία, η συμφραζόμενη, βιωματική κρίση που επιτρέπει σε ένα άτομο να εφαρμόζει γενικές αρχές σε συγκεκριμένες καταστάσεις. Ο Αριστοτέλης θεωρούσε τόσο απαραίτητα για την καλή ζωή όσο και για την ικανή δράση. Κατάλαβε επίσης ότι αναπτύχθηκαν μαζί, ότι η πρακτική ενασχόληση με τον κόσμο ήταν το πρωταρχικό μέσο με το οποίο η γενική κατανόηση εκλεπτύνθηκε και ανανεώθηκε. Δεν θα μπορούσατε να γίνετε σοφοί μελετώντας τη σοφία αφηρημένα. Έπρεπε να το εξασκήσεις.
Το μοντέλο Acemoglu δίνει σε αυτή την αριστοτελική εικόνα μια μαθηματική μορφή. Η «γενική γνώση» στο μοντέλο αντιστοιχεί περίπου στην επιστήμη: την κοινή κατανόηση σε επίπεδο κοινότητας που αποτελεί το πνευματικό θεμέλιο ενός κλάδου. Η «γνώση για το συγκεκριμένο πλαίσιο» αντιστοιχεί περίπου στη φρόνηση: την τοποθετημένη, πρακτική κατανόηση που ισχύει για μια συγκεκριμένη περίπτωση. Και το κεντρικό αποτέλεσμα του μοντέλου, ότι η αυτοματοποίηση της παραγωγής φρόνησης καταστρέφει τις συνθήκες για την παραγωγή επιστημών, είναι η αριστοτελική ανησυχία που εκφράζεται ως σύστημα διαφορικών εξισώσεων.
Αυτή δεν είναι μια τετριμμένη μετάφραση. Για αιώνες, η φιλοσοφική ανησυχία ήταν ευάλωτη στην κατηγορία ότι είναι απλώς συναισθηματική, μια νοσταλγική προτίμηση για τους παλιούς τρόπους να γίνονται τα πράγματα ντυμένα με τη γλώσσα της αρετής. Το επίσημο μοντέλο το αλλάζει αυτό. Δείχνει ότι η ανησυχία δεν είναι συναισθηματική αλλά δομική. Η υποβάθμιση της γνώσης μέσω της αυτοματοποίησης της πρακτικής δεν είναι συναίσθημα. Είναι ένα αποτέλεσμα σταθερής κατάστασης ενός δυναμικού συστήματος με αναγνωρίσιμες παραμέτρους και ελέγξιμες προβλέψεις. Δεν χρειάζεται να μοιραστείτε τη μεταφυσική του Αριστοτέλη για να ενοχληθείτε από ένα μοντέλο που δείχνει τη βάση γνώσεων της κοινωνίας σας να συγκλίνει στο μηδέν.
Η αρχή «χρησιμοποιήστε το ή χάστε το», που επικαλείται εδώ και καιρό ανεπίσημα σε συζητήσεις για την ατροφία δεξιοτήτων και τη θεσμική μνήμη, αποδεικνύεται ότι έχει αυστηρή μαθηματική υποστήριξη. Η συλλογική γνώση δεν είναι μια βιβλιοθήκη που κάθεται σε ένα ράφι περιμένοντας να τη συμβουλευτούν. Είναι ένα ζωντανό σύστημα που απαιτεί συνεχή σίτιση μέσω της επίπονης ενασχόλησης των ασκούμενων με τα προβλήματα του κόσμου τους. Διακόψτε αυτή τη σίτιση, ακόμη και με μια τεχνολογία που λύνει το άμεσο πρόβλημα καλύτερα από ό,τι θα μπορούσαν να έχουν οι ασκούμενοι, και το σύστημα λιμοκτονεί.
Τι ακολουθεί
Η ανάλυσή μας έχει καθορίσει τον μηχανισμό και τις τυπικές του ιδιότητες. Η παγίδα είναι κομψή και τρομερή: η ατομικά ορθολογική υιοθέτηση της πρακτορικής τεχνητής νοημοσύνης παράγει συλλογικά παράλογη διάβρωση των κοινών της γνώσης. Η κατάρρευση μπορεί να είναι απότομη. Το βέλτιστο επίπεδο ικανότητας τεχνητής νοημοσύνης είναι πεπερασμένο, εσωτερικό και χαμηλότερο από αυτό που θα παράγει η αγορά. Και οι φιλοσοφικές επιπτώσεις τρέχουν στα θεμέλια του τρόπου με τον οποίο κατανοούμε τη σχέση μεταξύ πρακτικής και κατανόησης.
Στη συνέχεια, θα στραφούμε στις διαστάσεις αυτού του προβλήματος που το χαρτί φωτίζει αλλά δεν επιλύει πλήρως. Θα εξετάσουμε τις κοινωνιολογικές επιπτώσεις για τις επαγγελματικές κοινότητες και τις χειροτεχνικές παραδόσεις, την πολιτική οικονομία του ποιος ελέγχει τους ρυθμιστικούς μοχλούς, τις εντυπωσιακές προτάσεις πολιτικής της εφημερίδας, συμπεριλαμβανομένης της σκόπιμης «αλλοίωσης» των συστάσεων της τεχνητής νοημοσύνης και των προσωρινών μορατόριουμ, και τα ανοιχτά ερωτήματα που παραμένουν: ο ρόλος της εξουσίας, το πρόβλημα της θεσμικής αποσύνθεσης και εάν τα κοινά της γνώσης μπορούν να σωθούν από το ίδιο είδος που τα καταστρέφει.
Η βαθύτερη επίπτωση της εργασίας πρέπει να δηλωθεί ξεκάθαρα πριν προχωρήσουμε: η βέλτιστη ποσότητα ικανότητας τεχνητής νοημοσύνης δεν είναι το άπειρο. Δεν είναι «όσο μπορούμε να χτίσουμε τόσο γρήγορα όσο μπορούμε να το χτίσουμε». Είναι μια συγκεκριμένη, οριοθετημένη ποσότητα, που καθορίζεται από την ευθραυστότητα των συστημάτων γνώσης από τα οποία εξαρτάται η ίδια η τεχνητή νοημοσύνη. Κάθε δολάριο επιχειρηματικού κεφαλαίου που κυνηγά την επόμενη αύξηση της ακρίβειας του μοντέλου, κάθε εταιρεία που αγωνίζεται να αναπτύξει τον πιο ικανό πράκτορα, κάθε καταναλωτής που αναζητά την πιο εξατομικευμένη σύσταση, ξεπερνά αυτό το βέλτιστο σε μια περιοχή όπου περισσότερη ευφυΐα παράγει λιγότερη σοφία. Η αγορά δεν θα το διορθώσει από μόνη της. Οι αγορές δεν διορθώνουν ποτέ τις εξωτερικές επιδράσεις από μόνες τους. Αυτός είναι ο λόγος για τον οποίο έχουμε θεσμούς και ο λόγος για τον οποίο το ερώτημα εάν οι θεσμοί μας είναι ικανοί να ανταποκριθούν σε αυτόν τον συγκεκριμένο εξωτερικό παράγοντα μπορεί να είναι το πιο σημαντικό ζήτημα διακυβέρνησης της επόμενης δεκαετίας.
Η πολιτική, η εξουσία και το ζήτημα της ανάκαμψης
Ποιος κυβερνά μια τεχνολογία που διαβρώνει την ικανότητα διακυβέρνησης;
Τα νησιά ήδη βυθίζονται
Προηγουμένως, εξετάσαμε τον επίσημο μηχανισμό με τον οποίο η πρακτορική τεχνητή νοημοσύνη μπορεί να καταστρέψει τη συλλογική βάση γνώσης από την οποία εξαρτάται: την αντικατάσταση εξατομικευμένων συστάσεων για την επίπονη ανθρώπινη μάθηση που παράγει από κοινού τόσο ιδιωτική όσο και δημόσια γνώση, οδηγώντας σε μια σταθερή κατάρρευση του αποθέματος γενικής γνώσης. Ανιχνεύσαμε τα μαθηματικά, τα οικονομικά και τις φιλοσοφικές ρίζες. Τώρα στρεφόμαστε στον κόσμο έξω από το μοντέλο και ρωτάμε: αυτό περιγράφει κάτι πραγματικό; Και αν ναι, τι μπορεί να γίνει γι' αυτό;
Το μοντέλο Acemoglu-Kong-Ozdaglar είναι χτισμένο γύρω από μια δομική μεταφορά που αξίζει περισσότερη προσοχή από μια φευγαλέα αναφορά. Οι συγγραφείς οργανώνουν το μοντέλο τους γύρω από «νησιά», διακριτές κοινότητες που συγκεντρώνουν τη γνώση εσωτερικά. Κάθε νησί αντιπροσωπεύει μια επαγγελματική κοινότητα, έναν κλάδο, μια παράδοση γνώσης. Τα άτομα μέσα σε ένα νησί μαθαίνουν, παράγουν σήματα και συμβάλλουν σε ένα κοινό απόθεμα κατανόησης που το νησί διατηρεί και ανανεώνει με την πάροδο του χρόνου. Η μεταφορά χαρτογραφεί με άβολη ακρίβεια το πώς λειτουργεί πραγματικά η γνώση στις ανθρώπινες κοινωνίες. Η ιατρική είναι νησί. Ο νόμος είναι νησί. Πολιτικός μηχανικός, ακαδημαϊκά οικονομικά, ανάπτυξη λογισμικού, κλινική ψυχολογία, μοριακή βιολογία: καθένα από αυτά είναι μια κοινότητα με τις δικές της συσσωρευμένες γενικές γνώσεις, τους δικούς της μηχανισμούς για την εκπαίδευση νέων επαγγελματιών, τους δικούς της θεσμούς για τη συγκέντρωση και τη μετάδοση της κατανόησης μεταξύ των γενεών. Το μοντέλο προβλέπει ότι οι μικρότερες, πιο κατακερματισμένες κοινότητες γνώσης είναι πιο ευάλωτες στην κατάρρευση, επειδή έχουν λιγότερους επαγγελματίες που παράγουν τα δημόσια σήματα που συντηρούν το κοινό απόθεμα. Και αυτή η πρόβλεψη ευθυγραμμίζεται ανησυχητικά καλά με στοιχεία που ήδη συσσωρεύονται.
Σκεφτείτε το Stack Overflow, το οποίο αναφέρουν οι ίδιοι οι συγγραφείς. Για δύο δεκαετίες, αυτή η πλατφόρμα χρησίμευσε ως το νησί της πρακτικής γνώσης προγραμματισμού, ένα τεράστιο, συνεργατικά συντηρημένο αποθετήριο όπου οι προγραμματιστές λογισμικού έθεταν ερωτήσεις, συζητούσαν λύσεις και έχτιζαν μια συλλογική κατανόηση του τρόπου λειτουργίας του κώδικα. Δεν ήταν απλώς μια βιβλιοθήκη αναφοράς. Ήταν ένα ζωντανό οικοσύστημα στο οποίο η πράξη της απάντησης σε μια ερώτηση ήταν από μόνη της μια μορφή μάθησης, τόσο για τον απαντώντα όσο και για τους χιλιάδες που αργότερα θα διάβαζαν την ανταλλαγή. Ο απαντών όξυνε τη δική του κατανόηση αρθρώνοντάς την. Η κοινότητα επωφελήθηκε από την εξωτερικότητα. Από την κυκλοφορία μεγάλων γλωσσικών μοντέλων ικανών να απαντούν απευθείας σε ερωτήσεις προγραμματισμού, το Stack Overflow γνώρισε δραματική μείωση της συμμετοχής. Η κίνηση έχει μειωθεί. Ο αριθμός των νέων ερωτήσεων που δημοσιεύονται έχει μειωθεί απότομα. Οι έμπειροι προγραμματιστές που κάποτε διατηρούσαν την ποιότητα της πλατφόρμας μέσω της ενεργού εποπτείας και των λεπτομερών απαντήσεων έχουν απομακρυνθεί, επειδή το κίνητρο για επένδυση προσπάθειας σε μια δημόσια απάντηση μειώνεται όταν μια ιδιωτική τεχνητή νοημοσύνη μπορεί να παρέχει μια εξατομικευμένη απάντηση σε δευτερόλεπτα. Το άμεσο αποτέλεσμα είναι βολικό: μεμονωμένοι προγραμματιστές λαμβάνουν ταχύτερες απαντήσεις. Το κατάντη αποτέλεσμα είναι η διάβρωση του κοινόχρηστου πόρου που κατέστησε δυνατές αυτές τις απαντήσεις εξαρχής. Η τεχνητή νοημοσύνη εκπαιδεύτηκε, σε σημαντικό βαθμό, στο σώμα του Stack Overflow. Αυτό το σώμα δεν αναπληρώνεται πλέον με τίποτα κοντά στον ιστορικό του ρυθμό. Το παράσιτο καταναλώνει τον ξενιστή.
Η Wikipedia λέει μια παράλληλη ιστορία, αν και ο μηχανισμός είναι ελαφρώς διαφορετικός. Η βάση των συντακτών της εγκυκλοπαίδειας μειώνεται εδώ και χρόνια, μια τάση που προϋπήρχε της γενετικής τεχνητής νοημοσύνης, αλλά έκτοτε έχει επιταχυνθεί. Η δομή κινήτρων που στήριξε τη Βικιπαίδεια ήταν πάντα επισφαλής: οι εθελοντές επένδυσαν τεράστια προσπάθεια στη δημιουργία και τη διατήρηση λημμάτων χωρίς χρηματική αποζημίωση, καθοδηγούμενοι από έναν συνδυασμό πνευματικής δέσμευσης, ταυτότητας κοινότητας και ικανοποίησης της συνεισφοράς σε ένα δημόσιο καλό. Το δημιουργικό AI διαταράσσει αυτή τη δομή με δύο τρόπους. Μειώνει την αντιληπτή ανάγκη για τον πόρο, καθώς οι χρήστες πηγαίνουν όλο και περισσότερο σε ένα chatbot AI αντί να αναζητούν ένα άρθρο, γεγονός που μειώνει την κοινωνική αναγνώριση που παρακίνησε τους συνεισφέροντες. Και εισάγει την πιθανότητα το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη να μολύνει τον ίδιο τον πόρο, αντικαθιστώντας την ανθρώπινη γνώση με συνθετικό κείμενο που φέρει την εμφάνιση εξουσίας χωρίς την επιστημική βάση της γνήσιας κατανόησης. Οι συντάκτες της Wikipedia αγωνίζονται για μια οπισθοφυλακή ενάντια στις προσθήκες που δημιουργούνται από την τεχνητή νοημοσύνη, αλλά η ασυμμετρία είναι γνωστή: η τεχνολογία παράγει περιεχόμενο πιο γρήγορα από ό,τι οι άνθρωποι μπορούν να το αξιολογήσουν.
Αυτά δεν είναι μεμονωμένα ανέκδοτα. Είναι πρώιμες εκδηλώσεις μιας δομικής δυναμικής που το μοντέλο Acemoglu προβλέπει ότι θα γενικευτεί σε κάθε κοινότητα γνώσης που βασίζεται στην εθελοντική ανθρώπινη προσπάθεια για να διατηρήσει την κοινή της κατανόηση. Η ακαδημαϊκή αξιολόγηση από ομοτίμους, που ήδη βρίσκεται υπό πίεση από τον όγκο των υποβολών με τη βοήθεια τεχνητής νοημοσύνης, εξαρτάται από την προθυμία των ειδικών να επενδύσουν ώρες απλήρωτης εργασίας στην αξιολόγηση της εργασίας άλλων, μια μορφή παραγωγής δημόσιας γνώσης που δεν παράγει ιδιωτική απόδοση. Η κλινική ιατρική εξαρτάται από τους επαγγελματίες που εργάζονται σε δύσκολες περιπτώσεις αντί να αποδέχονται την πρώτη αλγοριθμική σύσταση, επειδή η πράξη της επεξεργασίας της υπόθεσης είναι ο τρόπος με τον οποίο ανανεώνεται η ιατρική γνώση. Η νομική πρακτική εξαρτάται από τους κατώτερους δικηγόρους που κάνουν την επίπονη έρευνα που τους διδάσκει πώς λειτουργεί πραγματικά ο νόμος, αντί να αναθέτουν αυτήν την έρευνα σε ένα εργαλείο που παρέχει την απάντηση χωρίς μάθηση. Σε κάθε τομέα, συμβαίνει η ίδια υποκατάσταση: το ιδιωτικό όφελος της προσπάθειας αντικαθίσταται από την τεχνητή νοημοσύνη, ενώ η δημόσια διάχυση που κάποτε παρήγαγε αυτή η προσπάθεια απλώς εξατμίζεται.
Η κρίση της μαθητείας
Ο πιο σημαντικός τόπος κατάρρευσης της γνώσης μπορεί να μην είναι η επαγγελματική βάση γνώσης αφηρημένα, αλλά οι συγκεκριμένοι θεσμικοί μηχανισμοί μέσω των οποίων η γνώση μεταδίδεται από τη μια γενιά στην άλλη. Μαθητεία, καθοδήγηση, εποπτευόμενη πρακτική: αυτές είναι οι δομές μέσω των οποίων η σιωπηρή γνώση, το είδος της κατανόησης που δεν μπορεί να καταγραφεί ή να επισημοποιηθεί σε ένα εκπαιδευτικό εγχειρίδιο, περνά από έμπειρους επαγγελματίες σε αρχάριους. Και όλα βασίζονται στον αρχάριο που κάνει επίπονη εργασία με συγκεκριμένο πλαίσιο υπό την καθοδήγηση κάποιου που διαθέτει ήδη το γενικό πλαίσιο γνώσης.
Ο κατώτερος γιατρός που κάνει ειδικότητα δεν εκτελεί απλώς εργασία. Υφίστανται μια μεταμόρφωση στον τρόπο με τον οποίο αντιλαμβάνονται, ερμηνεύουν και ανταποκρίνονται σε κλινικές καταστάσεις. Αυτή η μεταμόρφωση δεν μπορεί να επιτευχθεί με την ανάγνωση σχολικών βιβλίων ή την παρακολούθηση διαλέξεων. Απαιτεί δέσμευση με πραγματικούς ασθενείς, πραγματική ασάφεια, πραγματικά διακυβεύματα. Το ίδιο ισχύει για τον μαθητευόμενο ηλεκτρολόγο, τον εκπαιδευόμενο πιλότο, τον αρθρογράφο, τον μεταπτυχιακό φοιτητή σε οποιοδήποτε επιστημονικό κλάδο. Σε κάθε περίπτωση, η επίπονη ενασχόληση του αρχάριου με συγκεκριμένα προβλήματα είναι το όχημα μέσω του οποίου αναπτύσσεται η γενική ικανότητα και, κυρίως, μέσω του οποίου το απόθεμα γνώσης της κοινότητας ανανεώνεται από μια νέα γενιά επαγγελματιών ικανών να συνεισφέρουν σε αυτό.
Το Agentic AI απειλεί αυτόν τον μηχανισμό μετάδοσης στη ρίζα του. Εάν ο κατώτερος γιατρός μπορεί να συμβουλευτεί έναν διαγνωστικό βοηθό τεχνητής νοημοσύνης που παρέχει την απάντηση πιο γρήγορα και πιο αξιόπιστα από το να αντιμετωπίσει ο ίδιος το πρόβλημα, η λογική επιλογή είναι να συμβουλευτεί την τεχνητή νοημοσύνη. Εάν ο αρθρογραφικός δικηγόρος μπορεί να δημιουργήσει ένα νομικό υπόμνημα με ένα εργαλείο τεχνητής νοημοσύνης μέσα σε λίγα λεπτά αντί να περάσει μέρες στη βιβλιοθήκη, η λογική επιλογή είναι να χρησιμοποιήσει το εργαλείο. Σε κάθε περίπτωση, η άμεση απόδοση είναι ανώτερη. Η σύντομη είναι γραμμένη. Η διάγνωση γίνεται. Ο πελάτης εξυπηρετείται. Αλλά η μάθηση που θα είχε συμβεί μέσω της επίπονης διαδικασίας δεν συμβαίνει. Και αυτή δεν είναι μια απώλεια που εκδηλώνεται αμέσως. Η ικανότητα του κατώτερου γιατρού φαίνεται επαρκής επειδή η τεχνητή νοημοσύνη αντισταθμίζει αυτά που δεν έχουν μάθει. Το προϊόν εργασίας του κατώτερου δικηγόρου φαίνεται ικανοποιητικό επειδή η τεχνητή νοημοσύνη καλύπτει τα κενά στην κατανόησή τους. Το έλλειμμα γίνεται ορατό μόνο χρόνια αργότερα, όταν αυτοί οι επαγγελματίες αναμένεται να λειτουργήσουν ως ανώτεροι εμπειρογνώμονες που διατηρούν και προάγουν τις γενικές γνώσεις του επαγγέλματος, και δεν μπορούν, επειδή ποτέ δεν ανέπτυξαν τη βαθιά κατανόηση που προέρχεται μόνο από τη συνεχή, δύσκολη, χωρίς βοήθεια ενασχόληση με την ίδια την εργασία.
Αυτό δεν είναι μια κερδοσκοπική ανησυχία. Είναι ένα μοτίβο που είναι ήδη ορατό σε τομείς όπου η αυτοματοποίηση έχει προχωρήσει περισσότερο. Η αεροπορία παρέχει μια διδακτική υπόθεση. Η εισαγωγή προηγμένων συστημάτων αυτόματου πιλότου έχει αναμφισβήτητα κάνει τις πτήσεις ασφαλέστερες συνολικά. Αλλά έχει επίσης προκαλέσει μια καλά τεκμηριωμένη διάβρωση των δεξιοτήτων χειρωνακτικής πτήσης μεταξύ των εμπορικών πιλότων, ένα φαινόμενο που συνέβαλε σε πολλά ατυχήματα υψηλού προφίλ στα οποία τα πληρώματα δεν ήταν σε θέση να αναλάβουν αποτελεσματικό χειροκίνητο έλεγχο όταν τα αυτοματοποιημένα συστήματα απέτυχαν ή παρήγαγαν εσφαλμένη καθοδήγηση. Η αεροπορική βιομηχανία ανταποκρίθηκε με υποχρεωτικές απαιτήσεις πτήσης με το χέρι και επαναλαμβανόμενα προγράμματα εκπαίδευσης που έχουν σχεδιαστεί για να διατηρήσουν δεξιότητες που διαφορετικά θα ατροφούσαν από την αχρηστία. Αυτά τα προγράμματα αντιπροσωπεύουν μια σκόπιμη, θεσμική απόφαση για τη διατήρηση της ανθρώπινης ικανότητας ενόψει της αυτοματοποίησης που κάνει αυτή την ικανότητα να φαίνεται περιττή, μέχρι τη στιγμή που γίνεται κρίσιμη.
Τα ιατρικά, νομικά, οικονομικά και μηχανικά επαγγέλματα δεν έχουν λάβει ακόμη ανάλογες αποφάσεις σχετικά με την τεχνητή νοημοσύνη. Στις περισσότερες περιπτώσεις, η θεσμική απάντηση ήταν το αντίθετο: ενθουσιώδης υιοθέτηση εργαλείων τεχνητής νοημοσύνης που διατίθενται στο εμπόριο ως ενισχυτές παραγωγικότητας, με λίγη προσοχή στις κατάντη επιπτώσεις στην ανάπτυξη δεξιοτήτων ή στην παραγωγή γνώσης. Αυτό είναι ατομικά λογικό για κάθε εταιρεία και κάθε επαγγελματία. Η δικηγορική εταιρεία που υιοθετεί ερευνητικά εργαλεία τεχνητής νοημοσύνης αποκτά ανταγωνιστικό πλεονέκτημα έναντι της εταιρείας που δεν το κάνει. Το ιατρείο που χρησιμοποιεί διαγνωστικά με τη βοήθεια τεχνητής νοημοσύνης μπορεί να δει περισσότερους ασθενείς ανά ώρα. Η εταιρεία συμβούλων μηχανικών που αξιοποιεί την τεχνητή νοημοσύνη για προκαταρκτικές εργασίες σχεδιασμού μπορεί να υποβάλει πιο ανταγωνιστικές προσφορές για συμβάσεις. Αλλά το συλλογικό αποτέλεσμα, σε ένα ολόκληρο επάγγελμα, σε μια γενιά, είναι η συστηματική υπονόμευση της βάσης του ανθρώπινου κεφαλαίου από την οποία εξαρτάται η ικανότητα λειτουργίας του επαγγέλματος.
Η ανθρωπολογική βιβλιογραφία για τις κοινότητες πρακτικής παρέχει έναν χρήσιμο φακό εδώ. Το θεμελιώδες έργο του Etienne Wenger περιγράφει πώς η γνώση δεν αποθηκεύεται απλώς σε έγγραφα ή βάσεις δεδομένων, αλλά ενσωματώνεται στις πρακτικές, τις σχέσεις και τα κοινά ρεπερτόρια των επαγγελματικών κοινοτήτων. Οι νεοφερμένοι εισέρχονται σε αυτές τις κοινότητες μέσω νόμιμης περιφερειακής συμμετοχής, αναλαμβάνοντας σταδιακά πιο κεντρικούς ρόλους καθώς αναπτύσσουν ικανότητες. Η γνώση της κοινότητας δεν είναι κάτι που μπορεί να μεταφερθεί. Είναι ένας τρόπος ύπαρξης σε σχέση με το έργο που πρέπει να κατοικηθεί μέσω της πρακτικής. Όταν η τεχνητή νοημοσύνη υποκαθιστά την πρακτική, δεν αφαιρεί απλώς μια εργασία από τον φόρτο εργασίας του αρχάριου. Αφαιρεί το όχημα μέσω του οποίου θα είχαν εισέλθει στον τρόπο γνώσης της κοινότητας. Η απώλεια δεν είναι συναισθηματική. Είναι δομικό. Και είναι ακριβώς το είδος της απώλειας που το μοντέλο Acemoglu επισημοποιεί ως την εξαφάνιση του δημόσιου σήματος.
Η λύση Garbling
Οι συνταγές πολιτικής της εφημερίδας είναι τόσο προκλητικές όσο και η διάγνωσή της και αξίζουν προσεκτικής εξέτασης, επειδή αμφισβητούν αρκετές υποθέσεις που έχουν γίνει αξιωματικές στον λόγο της τεχνολογικής πολιτικής.
Η κεντρική ρυθμιστική πρόταση είναι ο «σχεδιασμός πληροφοριών»: η σκόπιμη εισαγωγή θορύβου στις συστάσεις της τεχνητής νοημοσύνης. Σε απλή γλώσσα, το έγγραφο υποστηρίζει ότι μπορεί να είναι μεγιστοποίηση της ευημερίας να γίνει σκόπιμα η τεχνητή νοημοσύνη λιγότερο ακριβής από ό,τι θα μπορούσε να είναι. Όχι επειδή η ακρίβεια είναι κακή, αλλά επειδή τα αποτελέσματα δεύτερης τάξης της μέγιστης ακρίβειας, ειδικά η εξάλειψη των κινήτρων για ανθρώπινη μάθηση, παράγουν χειρότερα αποτελέσματα από τα οφέλη πρώτης τάξης των καλύτερων συστάσεων. Η βέλτιστη πολιτική, σύμφωνα με το μοντέλο, περιλαμβάνει αυτό που οι συγγραφείς αποκαλούν «αλλοίωση»: στρατηγική υποβάθμιση της ακρίβειας των εξόδων της τεχνητής νοημοσύνης για να διατηρηθεί το κίνητρο για τους ανθρώπους να επενδύσουν προσπάθεια στη μάθηση, διατηρώντας έτσι τη ροή των δημόσιων σημάτων που συντηρούν το γενικό απόθεμα γνώσης.
Αυτή είναι μια βαθιά αντιφατική ιδέα και αξίζει να καθίσετε με την ενόχληση που προκαλεί. Έχουμε εκπαιδευτεί, από δεκαετίες τεχνολογικού λόγου, να πιστεύουμε ότι οι πιο ακριβείς πληροφορίες είναι πάντα καλύτερες. Ολόκληρη η τροχιά της εποχής της πληροφορίας ήταν προς μεγαλύτερη ακρίβεια, μεγαλύτερη εξατομίκευση, μεγαλύτερη πιστότητα στην αντιστοίχιση των ατόμων με τη συγκεκριμένη γνώση που χρειάζονται. Το έγγραφο Acemoglu λέει: αυτή η τροχιά έχει ένα βέλτιστο τελικό σημείο και κινδυνεύουμε να το ξεπεράσουμε. Η βέλτιστη ποσότητα ακρίβειας AI δεν είναι η μέγιστη που μπορεί να επιτευχθεί. Είναι ένα συγκεκριμένο, υπολογίσιμο κλάσμα κάτω από το όριο κατάρρευσης.
Το μοντέλο προσδιορίζει δύο φάσεις στη βέλτιστη ρυθμιστική στρατηγική. Το πρώτο είναι ένα προσωρινό μορατόριουμ: μια περίοδος πλήρους καταστολής της τεχνητής νοημοσύνης σε έναν δεδομένο τομέα, που έχει σχεδιαστεί για να επιτρέψει την ανοικοδόμηση του εξαντλημένου αποθέματος γνώσης. Το δεύτερο είναι ένα μόνιμο ανώτατο όριο ακρίβειας: ένα συνεχές ανώτατο όριο για την ακρίβεια της τεχνητής νοημοσύνης, βαθμονομημένο για τη διατήρηση του αποθέματος γνώσης σε βιώσιμο επίπεδο. Το μορατόριουμ αντιμετωπίζει το πρόβλημα της κληρονομιάς, τη ζημιά που έχει ήδη γίνει. Το καπάκι ακριβείας αντιμετωπίζει τη συνεχιζόμενη δυναμική, αποτρέποντας τη μελλοντική εξάντληση. Μαζί, αποτελούν μια ρυθμιστική αρχιτεκτονική που είναι πιο επιθετική και πιο δομικά φιλόδοξη από οτιδήποτε συζητείται επί του παρόντος σε οποιοδήποτε νομοθετικό σώμα ή ρυθμιστικό οργανισμό στον κόσμο.
Η πρόταση μορατόριουμ θα φανεί σε πολλούς αναγνώστες ως ακραία, πιθανώς ακόμη και παράλογη. Προσωρινή απαγόρευση μιας ευεργετικής τεχνολογίας; Σκόπιμα χειροτερεύουν οι αποφάσεις των ανθρώπων βραχυπρόθεσμα; Η αντίδραση είναι κατανοητή, αλλά αντανακλά την αποτυχία κατανόησης της δυναμικής που παίζει. Εξετάστε μια αναλογία από τη διαχείριση της αλιείας. Όταν ένα ιχθυαπόθεμα εξαντλείται κάτω από ένα κρίσιμο όριο, η ορθολογική απάντηση διαχείρισης είναι να μην επιτρέπεται η συνέχιση της αλιείας με μειωμένο ρυθμό. Πρόκειται για ένα πλήρες μορατόριουμ στην αλιεία έως ότου το απόθεμα ανακάμψει σε επίπεδο που να μπορεί να διατηρήσει την αλίευση. Το μορατόριουμ είναι δαπανηρό. Οι ψαράδες χάνουν τα προς το ζην. Οι καταναλωτές πληρώνουν περισσότερα για τα ψάρια. Οι κοινότητες που εξαρτώνται από την αλιεία υποφέρουν. Αλλά η εναλλακτική λύση, η συνέχιση της αλιείας από ένα εξαντλημένο απόθεμα, οδηγεί στη μόνιμη κατάρρευση της αλιείας και στην καταστροφή της οικονομικής δραστηριότητας που υποστηρίζει. Το μορατόριουμ δεν αποτελεί απόρριψη της αλιείας. Αποτελεί προϋπόθεση για τη μακροπρόθεσμη βιωσιμότητά του.
Τα κοινά της γνώσης αντιμετωπίζουν μια ανάλογη δυναμική. Εάν το απόθεμα γενικών γνώσεων σε έναν δεδομένο τομέα έχει εξαντληθεί κάτω από το επίπεδο που είναι απαραίτητο για τη διατήρησή του, τότε η συνεχής χρήση της υψηλής ακρίβειας πρακτορικής τεχνητής νοημοσύνης σε αυτόν τον τομέα θα οδηγήσει το απόθεμα περαιτέρω προς το μηδέν. Ο μόνος τρόπος για την ανοικοδόμηση είναι να αφαιρεθεί προσωρινά το υποκατάστατο της τεχνητής νοημοσύνης και να αναγκαστούν οι επαγγελματίες να επιστρέψουν στην επίπονη μάθηση που παράγει δημόσια γνώση ως υποπροϊόν. Αυτό είναι δαπανηρό. Οι αποφάσεις θα είναι χειρότερες βραχυπρόθεσμα. Η αποτελεσματικότητα θα μειωθεί. Οι καταναλωτές επαγγελματικών υπηρεσιών θα επωμιστούν το βάρος. Αλλά η εναλλακτική λύση είναι η μόνιμη απώλεια της βάσης γνώσεων από την οποία εξαρτάται το επάγγελμα.
Το μόνιμο ανώτατο όριο ακριβείας είναι, αν μη τι άλλο, πιο ριζοσπαστικό από το μορατόριουμ στις επιπτώσεις του. Λέει ότι ακόμη και μετά την ανάκτηση του αποθέματος γνώσης, η ακρίβεια της τεχνητής νοημοσύνης θα πρέπει να διατηρείται μόνιμα κάτω από το μέγιστο εφικτό επίπεδο. Η ακρίβεια μεγιστοποίησης της ευημερίας παραμένει σε ένα σταθερό κλάσμα, συγκεκριμένα 1/α κάτω από το όριο κατάρρευσης στη σημειογραφία του μοντέλου, ανεξάρτητα από το πόσο βελτιώνεται η ικανότητα συνάθροισης. Ο σχεδιαστής θέλει πάντα να μένει καλά πίσω από τον γκρεμό. Αυτό σημαίνει ότι ακόμη και όταν τα συστήματα τεχνητής νοημοσύνης γίνονται ικανά για υπεράνθρωπη ακρίβεια σε συστάσεις για συγκεκριμένο πλαίσιο, η κοινωνικά βέλτιστη πολιτική είναι να αποτραπεί η επίτευξη αυτού του επιπέδου ακρίβειας κατά την ανάπτυξη. Το χάσμα μεταξύ του τι μπορεί να κάνει η τεχνητή νοημοσύνη και του τι πρέπει να επιτρέπεται να κάνει η τεχνητή νοημοσύνη είναι μόνιμο και δομικό, όχι ένας προσωρινός περιορισμός που πρέπει να χαλαρώσει καθώς ωριμάζει η τεχνολογία.
Η ελευθεριακή αντίκρουση και τα όριά της
Η τυπική αντίρρηση σε οποιαδήποτε πρόταση για περιορισμό της ροής πληροφοριών έχει περίπου ως εξής: η πληροφορία είναι αγαθό. Περισσότερες πληροφορίες είναι πιο καλές. Οποιοσδήποτε περιορισμός στη ροή των πληροφοριών κάνει τους ανθρώπους χειρότερα, επειδή τους εμποδίζει να λάβουν την πιο ενημερωμένη δυνατή απόφαση. Αυτό το επιχείρημα έχει βαθιές ρίζες στη φιλελεύθερη πολιτική φιλοσοφία, στη νομολογία της Πρώτης Τροπολογίας, στην οικονομική παράδοση από τον Άνταμ Σμιθ μέχρι τον Χάγιεκ. Αποτελεί τη βάση της ενστικτώδους αποστροφής που νιώθουν πολλοί άνθρωποι απέναντι στην ιδέα της σκόπιμης υποβάθμισης των συστάσεων της τεχνητής νοημοσύνης. Ποιος είσαι εσύ που θα αποφασίσεις ότι πρέπει να λάβω λιγότερο ακριβείς συμβουλές;
Το έγγραφο Acemoglu παρέχει αυτό που μπορεί να είναι η πιο αυστηρή απάντηση που έχει λάβει ποτέ αυτή η ένσταση. Η απάντηση είναι: ο ισχυρισμός ότι περισσότερες πληροφορίες είναι πάντα καλύτερες είναι απλώς ψευδής όταν η παροχή πληροφοριών έχει δυναμικές επιπτώσεις στην παραγωγή μελλοντικών πληροφοριών. Σε έναν στατικό κόσμο, όπου η βάση γνώσεων είναι σταθερή και το μόνο ερώτημα είναι πόσα από αυτά να μοιραστούμε, το περισσότερο είναι πράγματι καλύτερο. Αλλά σε έναν δυναμικό κόσμο, όπου η βάση γνώσεων παράγεται από την προσπάθεια των ίδιων των ανθρώπων που καταναλώνουν τις πληροφορίες, η στατική λογική καταρρέει. Η παροχή μέγιστης ακρίβειας πληροφοριών σήμερα μειώνει την προσπάθεια που παράγει τη βάση γνώσεων από την οποία εξαρτώνται οι αυριανές πληροφορίες. Το ατομικά βέλτιστο επίπεδο παροχής πληροφοριών υπερβαίνει το κοινωνικά βέλτιστο επίπεδο επειδή το άτομο δεν επωμίζεται το κόστος της εξωτερικότητας που επιβάλλει η μειωμένη προσπάθειά του στα κοινά της γνώσης.
Αυτό δεν είναι ένα νέο επιχείρημα στη μορφή. Είναι η τυπική οικονομική περίπτωση για παρέμβαση παρουσία εξωτερικών παραγόντων, η ίδια λογική που δικαιολογεί τη ρύθμιση της ρύπανσης, τον υποχρεωτικό εμβολιασμό και τις απαιτήσεις οικονομικού κεφαλαίου. Αλλά εφαρμοσμένη στο οικοσύστημα της πληροφορίας, έχει επιπτώσεις που έρχονται σε αντίθεση με μερικές από τις πιο βαθιά ριζωμένες δεσμεύσεις τόσο της Silicon Valley όσο και της ευρύτερης φιλελεύθερης πνευματικής παράδοσης. Λέει ότι η απεριόριστη επιδίωξη της ικανότητας τεχνητής νοημοσύνης δεν είναι ένα ουδέτερο τεχνικό επίτευγμα αλλά μια κοινωνική επιλογή με διανεμητικές και δυναμικές συνέπειες που η αγορά δεν θα βελτιστοποιήσει. Λέει ότι το δικαίωμα λήψης της ακριβέστερης δυνατής σύστασης τεχνητής νοημοσύνης πρέπει να σταθμίζεται έναντι του συλλογικού συμφέροντος για τη διατήρηση της βάσης γνώσεων που καθιστά δυνατές τις ακριβείς συστάσεις. Λέει ότι το αόρατο χέρι, σε αυτόν τον τομέα, δείχνει προς έναν γκρεμό.
Το ερώτημα εξουσίας που δεν απαντά η εφημερίδα
Κάθε ρυθμιστική πρόταση αντιμετωπίζει τελικά το ίδιο δύσκολο ερώτημα: ποιος αποφασίζει; Και εδώ η εργασία του Acemoglu, παρ' όλη την αναλυτική της δύναμη, φτάνει στα όρια του τι μπορεί να αντιμετωπίσει η επίσημη οικονομική μοντελοποίηση.
Το έγγραφο μιλά για έναν «σχεδιαστή πληροφοριών», έναν σχεδιαστή που καθορίζει το βέλτιστο επίπεδο αλλοίωσης που θα εφαρμοστεί στις συστάσεις τεχνητής νοημοσύνης. Στο μαθηματικό πλαίσιο, αυτός είναι ένας καλοπροαίρετος κοινωνικός σχεδιαστής που μεγιστοποιεί τη συνολική ευημερία που υπόκειται στους περιορισμούς του μοντέλου. Στον πραγματικό κόσμο, δεν υπάρχει τέτοια οντότητα. Υπάρχουν κυβερνήσεις, οι οποίες αιχμαλωτίζονται από συμφέροντα και περιορίζονται από εκλογικούς κύκλους. Υπάρχουν ρυθμιστικοί οργανισμοί, οι οποίοι είναι υποχρηματοδοτούμενοι, υποστελεχωμένοι και ευάλωτοι στην ίδια την υποβάθμιση της γνώσης που περιγράφει το έγγραφο. Υπάρχουν διεθνείς οργανισμοί που δεν διαθέτουν εξουσία επιβολής. Και υπάρχουν εταιρείες τεχνολογίας, οι οποίες έχουν κάθε οικονομικό κίνητρο να αντισταθούν στα ανώτατα όρια ακριβείας και κανένα διαρθρωτικό κίνητρο για να εσωτερικεύσουν την εξωτερικότητα που επιβάλλουν τα προϊόντα τους.
Η πολιτική οικονομία της ρύθμισης της γνώσης είναι, για να το θέσω ήπια, τρομακτική. Εξετάστε τους βασικούς μηχανισμούς. Μια κυβέρνηση αποφασίζει να επιβάλει ένα ανώτατο όριο ακριβείας στην τεχνητή νοημοσύνη, ας πούμε, στην ιατρική διάγνωση. Αυτό απαιτεί πολλά πράγματα να συμβούν με τη σειρά. Πρώτον, η κυβέρνηση πρέπει να κατανοήσει το σύστημα τεχνητής νοημοσύνης αρκετά καλά ώστε να καθορίσει ποιο επίπεδο ακρίβειας επιτυγχάνει και σε ποιο επίπεδο πρέπει να οριστεί το ανώτατο όριο. Αυτό απαιτεί τεχνική εμπειρογνωμοσύνη που, σύμφωνα με το επιχείρημα της ίδιας της εφημερίδας, υποβαθμίζεται από την ίδια την τεχνολογία υπό ρύθμιση. Δεύτερον, η κυβέρνηση πρέπει να επιβάλει το ανώτατο όριο σε εταιρείες που έχουν ισχυρά οικονομικά κίνητρα να το υπερβούν και την τεχνική ικανότητα να το κάνουν με τρόπους που είναι δύσκολο να εντοπιστούν. Η επαλήθευση της ακρίβειας ενός συστήματος τεχνητής νοημοσύνης από το εξωτερικό είναι ένα διαβόητα δύσκολο πρόβλημα, πολύ πιο δύσκολο από την επαλήθευση των εκπομπών ενός σταθμού ηλεκτροπαραγωγής ή των δεικτών κεφαλαίου μιας τράπεζας. Τρίτον, η κυβέρνηση πρέπει να διατηρήσει το ανώτατο όριο έναντι της πολιτικής πίεσης από τους καταναλωτές που θέλουν την πιο ακριβή διαθέσιμη τεχνητή νοημοσύνη και θα θεωρήσουν τα όρια ακρίβειας ως πατερναλιστική παρέμβαση. Τέταρτον, πρέπει να τα κάνει όλα αυτά σε συντονισμό με άλλες δικαιοδοσίες, επειδή ένα ανώτατο όριο ακριβείας σε μια χώρα δεν έχει νόημα εάν οι επαγγελματίες μπορούν να έχουν πρόσβαση σε τεχνητή νοημοσύνη χωρίς ανώτατο όριο από μια άλλη.
Κάθε μία από αυτές τις απαιτήσεις είναι ξεχωριστά προκλητική. Μαζί, περιγράφουν ένα ρυθμιστικό έργο εξαιρετικής δυσκολίας και η δυσκολία επιδεινώνεται από το γεγονός ότι το πρόβλημα που αντιμετωπίζει ο κανονισμός είναι αόρατο βραχυπρόθεσμα. Τα οφέλη της απεριόριστης πρακτορικής τεχνητής νοημοσύνης είναι άμεσα, απτά και αποδίδονται σε συγκεκριμένα προϊόντα. Το κόστος είναι διάχυτο, καθυστερημένο και εκδηλώνεται ως απουσία κάτι, μείωση της γνώσης που διαφορετικά θα είχε παραχθεί, που είναι σχεδόν αδύνατο να μετρηθεί άμεσα. Η πολιτική ασυμμετρία είναι έντονη: συγκεντρωμένα, ορατά, άμεσα οφέλη έναντι διασκορπισμένων, αόρατων, μακροπρόθεσμων δαπανών. Αυτό είναι το δομικό πρότυπο για ρυθμιστική αποτυχία.
Υπάρχει επίσης ένα βαθύτερο ερώτημα ισχύος που το μοντέλο, από το σχεδιασμό, δεν μπορεί να συλλάβει. Η επιλογή του πού θα οριστεί το όριο ακρίβειας, ποιοι τομείς θα υπόκεινται σε μορατόριουμ και πόσο επιθετικά θα παραποιηθούν οι συστάσεις τεχνητής νοημοσύνης θα έχει τεράστιες διανεμητικές συνέπειες. Ένα ανώτατο όριο ακριβείας στην ιατρική τεχνητή νοημοσύνη θα φέρει σε μειονεκτική θέση τους ασθενείς που θα είχαν επωφεληθεί από πιο ακριβείς διαγνώσεις. Ένα μορατόριουμ στη νομική τεχνητή νοημοσύνη θα φέρει σε μειονεκτική θέση τους πελάτες που θα είχαν λάβει καλύτερες νομικές συμβουλές. Το κόστος αυτό δεν θα αναληφθεί εξίσου. Θα πέσουν δυσανάλογα σε εκείνους με τη μικρότερη πρόσβαση σε εναλλακτικές πηγές εμπειρογνωμοσύνης, ακριβώς στους πληθυσμούς που υποτίθεται ότι θα βοηθούσε η τεχνητή νοημοσύνη. Η ρυθμιστική αρχή που αποφασίζει να περιορίσει την ακρίβεια της τεχνητής νοημοσύνης αποφασίζει επίσης, σιωπηρά, ποιος αναλαμβάνει το κόστος της διατήρησης των κοινών της γνώσης. Αυτή η απόφαση είναι αναπόφευκτα πολιτική και κανένα μαθηματικό μοντέλο, όσο κομψό κι αν είναι, δεν μπορεί να μας πει πώς να την πάρουμε δίκαια.
Ο αντικατοπτρισμός των συνθετικών δεδομένων
Μια αντίρρηση που προβλέπει και αντιμετωπίζει η εργασία, αν και όχι τόσο πλήρως όσο αξίζει το πρόβλημα, αφορά τα συνθετικά δεδομένα. Μπορεί η τεχνητή νοημοσύνη να λύσει το πρόβλημα της κατάρρευσης της γνώσης δημιουργώντας η ίδια νέα γενική γνώση, αντί να εξαρτάται από την ανθρώπινη μάθηση για την παραγωγή της; Εάν τα συστήματα τεχνητής νοημοσύνης μπορούν να εκπαιδεύονται σε δεδομένα που δημιουργούνται από την τεχνητή νοημοσύνη, να δημιουργούν συνθετικές περιπτωσιολογικές μελέτες και να παράγουν νέες γνώσεις μέσω υπολογιστικών μέσων, ίσως το πρόβλημα της εξωτερικότητας να λυθεί. Το μηχάνημα καλύπτει το κενό που δημιούργησε η δική του υιοθέτηση.
Οι συγγραφείς είναι αξιοθαύμαστα ειλικρινείς σχετικά με τους περιορισμούς αυτής της απάντησης. Κάνουν διάκριση μεταξύ τομέων με και χωρίς αντικειμενική επαλήθευση. Σε τομείς όπου η αλήθεια μπορεί να ελεγχθεί ανεξάρτητα, όπως τα μαθηματικά, η τυπική λογική ή ορισμένοι τομείς της μηχανικής και των φυσικών επιστημών, τα συνθετικά δεδομένα που δημιουργούνται από την τεχνητή νοημοσύνη μπορεί πράγματι να συνεισφέρουν γνήσια γνώση. Μια μαθηματική απόδειξη που δημιουργείται από την τεχνητή νοημοσύνη είναι είτε σωστή είτε λανθασμένη, ανεξάρτητα από την προέλευσή της. Μια πρόβλεψη αναδίπλωσης πρωτεΐνης μπορεί να επικυρωθεί πειραματικά. Σε αυτούς τους τομείς, τα συνθετικά δεδομένα μπορεί να αντισταθμίσουν εν μέρει τη μείωση της γνώσης που παράγεται από τον άνθρωπο.
Αλλά σε τομείς χωρίς αντικειμενική επαλήθευση, δηλαδή στους περισσότερους τομείς όπου η πρακτορική τεχνητή νοημοσύνη αναπτύσσεται πιο επιθετικά, τα συνθετικά δεδομένα είναι αυτοαναφορικά και όχι πραγματικά νέα. Μια τεχνητή νοημοσύνη εκπαιδευμένη σε δεδομένα ιατρικών περιπτώσεων που δημιουργεί συνθετικές ιατρικές περιπτώσεις δεν παράγει νέες ιατρικές γνώσεις. Ανασυνδυάζει μοτίβα από την υπάρχουσα γνώση με τρόπους που αντικατοπτρίζουν την κατανομή των δεδομένων εκπαίδευσής της, συμπεριλαμβανομένων των προκαταλήψεων, των τυφλών σημείων και των κενών της. Εάν τα δεδομένα εκπαίδευσης δημιουργήθηκαν κατά τη διάρκεια μιας περιόδου ισχυρής ανθρώπινης μάθησης, τα συνθετικά δεδομένα μπορεί να είναι λειτουργικά. Αλλά καθώς το απόθεμα της γνήσιας ανθρώπινης γνώσης μειώνεται και ένα αυξανόμενο ποσοστό των δεδομένων εκπαίδευσης είναι το ίδιο συνθετικό, το σύστημα αρχίζει να τρέφεται με τη δική του παραγωγή. Το αποτέλεσμα είναι ένα φαινόμενο που οι ερευνητές έχουν αρχίσει να αποκαλούν «κατάρρευση μοντέλου»: μια προοδευτική υποβάθμιση της ποιότητας καθώς κάθε γενιά συνθετικών δεδομένων κληρονομεί και ενισχύει τα τεχνουργήματα της προηγούμενης γενιάς.
Η αναλογία εδώ είναι με μια φωτοτυπία μιας φωτοτυπίας. Κάθε μεμονωμένο αντίγραφο μπορεί να φαίνεται αποδεκτό. Αλλά για πολλές γενιές, η υποβάθμιση συσσωρεύεται έως ότου το κείμενο γίνει δυσανάγνωστο. Το αρχικό έγγραφο είναι η ανθρώπινη βάση γνώσης, που παράγεται μέσω της επίπονης ενασχόλησης με τον κόσμο. Τα αντίγραφα είναι συνθετικά δεδομένα, που παράγονται με αντιστοίχιση μοτίβων πάνω από το πρωτότυπο. Εάν το πρωτότυπο συνεχίσει να παράγεται και να ανανεώνεται, τα αντίγραφα διατηρούν την πιστότητα. Εάν το πρωτότυπο πάψει να παράγεται, τα αντίγραφα παρασύρονται αδυσώπητα προς τον θόρυβο.
Αυτό δεν είναι απλώς μια θεωρητική ανησυχία. Είναι ήδη παρατηρήσιμο στην πράξη. Ο κώδικας που δημιουργείται από μοντέλα τεχνητής νοημοσύνης που έχουν εκπαιδευτεί εν μέρει σε κώδικα που δημιουργείται από τεχνητή νοημοσύνη έχει αποδειχθεί ότι παρουσιάζει ανεπαίσθητη αλλά συστηματική υποβάθμιση της ποιότητας. Το κείμενο που δημιουργείται από την τεχνητή νοημοσύνη και χρησιμοποιείται για την εκπαίδευση επόμενων γλωσσικών μοντέλων παράγει μετρήσιμες μειώσεις στην ποικιλομορφία, την ακρίβεια και τη συνοχή σε σχέση με τις επαναλήψεις. Η λύση συνθετικών δεδομένων για την κατάρρευση της γνώσης, στους περισσότερους τομείς πρακτικής σημασίας, δεν είναι καθόλου λύση. Είναι ένας τρόπος να συγκαλυφθεί η πτώση ενώ επιταχύνεται η υποκείμενη δυναμική.
Η Κοινωνιολογία της Εύθραυστης Γνώσης
Η νησιωτική δομή του μοντέλου αποδίδει μια πρόβλεψη με εκτεταμένες κοινωνιολογικές επιπτώσεις: οι μικρότερες κοινότητες γνώσης είναι πιο ευάλωτες στην κατάρρευση. Αυτό προκύπτει άμεσα από τα μαθηματικά. Ένα μικρότερο νησί έχει λιγότερους επαγγελματίες που παράγουν δημόσια σήματα. Η συνεισφορά κάθε επαγγελματία αποτελεί μεγαλύτερο μερίδιο της συνολικής εισροής. Όταν ακόμη και λίγοι επαγγελματίες αντικαθιστούν την προσπάθεια με τεχνητή νοημοσύνη, η αναλογική μείωση στην παραγωγή σήματος είναι μεγαλύτερη και το απόθεμα υποτιμάται ταχύτερα σε σχέση με την εισροή. Τα μικρότερα νησιά περνούν το κατώφλι της κατάρρευσης νωρίτερα.
Μεταφράστε το από το μοντέλο στον κόσμο, και οι επιπτώσεις είναι ανησυχητικές. Οι κοινότητες της γνώσης που είναι πιο ευάλωτες στην κατάρρευση δεν είναι οι μεγάλοι, καλά χρηματοδοτούμενοι, θεσμικά προστατευμένοι κλάδοι. Είναι οι εξειδικευμένοι, εξειδικευμένοι και διεπιστημονικοί τομείς όπου ο αριθμός των ενεργών επαγγελματιών είναι μικρός και η θεσμική υποστήριξη είναι μικρή. Φάρμακο για σπάνιες ασθένειες. Εξαιρετικά εξειδικευμένοι τομείς μηχανικής. Μικρά ακαδημαϊκά υποπεδία στις ανθρωπιστικές και κοινωνικές επιστήμες. Αυτόχθονα και παραδοσιακά συστήματα γνώσης. Χειροτεχνικές παραδόσεις που εξαρτώνται από τη μετάδοση πλοιάρχου-μαθητευόμενου. Περιφερειακές νομικές ειδικότητες. Διατήρηση της γλώσσας υπό εξαφάνιση. Αυτά είναι τα εύθραυστα οικοσυστήματα της ανθρώπινης γνώσης, τα μέρη όπου ένας μικρός αριθμός αφοσιωμένων επαγγελματιών διατηρεί σώματα κατανόησης που, μόλις χαθούν, δεν μπορούν να ανακατασκευαστούν.
Η απώλεια αυτών των μικρών κοινοτήτων γνώσης δεν θα καταγραφεί σε κανένα οικονομικό ταμπλό. Ο αντίκτυπος στο ΑΕΠ της εξαφάνισης της τεχνογνωσίας, ας πούμε, στη μεσαιωνική ισλανδική παλαιογραφία ή στην παραδοσιακή ιαπωνική ξυλουργική ή στην οικολογική γνώση μιας συγκεκριμένης αυτόχθονης κοινότητας είναι, με οποιοδήποτε τυπικό οικονομικό μέτρο, αμελητέος. Αλλά αυτές οι απώλειες είναι μη αναστρέψιμες και οι συνέπειές τους επιδεινώνονται με τρόπους που η τυπική οικονομική ανάλυση δεν μπορεί να συλλάβει. Τα συστήματα γνώσης είναι αλληλένδετα. Οι γνώσεις από έναν τομέα γονιμοποιούν την καινοτομία σε άλλους μέσω μηχανισμών που είναι απρόβλεπτοι και μη γραμμικοί. Η ιστορία της επιστήμης είναι γεμάτη με ανακαλύψεις που προήλθαν από σκοτεινές ειδικότητες και μεταμόρφωσαν ολόκληρους τομείς. Η πενικιλίνη προήλθε από ένα καλούπι. Το CRISPR προήλθε από μια έρευνα για το βακτηριακό ανοσοποιητικό σύστημα. Τα μαθηματικά της τιμολόγησης των δικαιωμάτων προαίρεσης προήλθαν από τη φυσική της διάχυσης θερμότητας. Μια κοινωνία που επιτρέπει στις μικρές κοινότητες γνώσης της να καταρρεύσουν είναι μια κοινωνία που αποκλείει το μέλλον που δεν μπορεί καν να φανταστεί.
Το μοντέλο προβλέπει επίσης ότι η κατάρρευση της γνώσης, μόλις συμβεί σε ένα δεδομένο νησί, είναι εξαιρετικά δύσκολο να αντιστραφεί. Η σταθερή κατάσταση στο μηδέν γενικής γνώσης είναι σταθερή: μόλις εξαντληθεί το απόθεμα γνώσης, δεν υπάρχει κίνητρο για μεμονωμένους επαγγελματίες να επενδύσουν την τεράστια προσπάθεια που απαιτείται για την ανοικοδόμησή του από την αρχή, επειδή οι αποδόσεις της προσπάθειας είναι χαμηλότερες όταν η γενική γνώση που συμπληρώνει η προσπάθεια είναι στο ελάχιστο. Αυτή είναι μια παγίδα φτώχειας που εφαρμόζεται στον επιστημικό τομέα. Η κοινότητα που χάνει τη γνώση της εισέρχεται σε μια ισορροπία χαμηλού επιπέδου από την οποία η διαφυγή απαιτεί συντονισμένη δράση που η ίδια η εξαντλημένη βάση γνώσεων καθιστά δύσκολη την οργάνωση.
Η χρονική αναντιστοιχία
Υπάρχει μια δομική αναντιστοιχία μεταξύ της ταχύτητας με την οποία συμβαίνει η κατάρρευση της γνώσης και της ταχύτητας με την οποία τα ιδρύματα μπορούν να ανταποκριθούν, και αυτή η αναντιστοιχία μπορεί να αποδειχθεί η πιο σημαντική διάσταση ολόκληρου του προβλήματος.
Οι δυνατότητες τεχνητής νοημοσύνης προχωρούν σε ένα χρονοδιάγραμμα που μετράται σε μήνες. Ο κύκλος ανάπτυξης από την ανακάλυψη της έρευνας έως το προϊόν μαζικής αγοράς έχει συμπιεστεί σε σημείο που συστήματα που δεν υπήρχαν πριν από ένα χρόνο είναι πλέον ενσωματωμένα στις καθημερινές ροές εργασίας εκατομμυρίων επαγγελματιών. Η ακρίβεια των συστάσεων βελτιώνεται με κάθε γενιά μοντέλου, κάθε επανάληψη τελειοποίησης, κάθε επέκταση των δεδομένων εκπαίδευσης. Η αντικατάσταση της ανθρώπινης προσπάθειας από την τεχνητή νοημοσύνη επιταχύνεται ανάλογα.
Η υποτίμηση της γνώσης που προκαλεί αυτή η υποκατάσταση λειτουργεί σε ένα χρονοδιάγραμμα που μετράται σε χρόνια και δεκαετίες. Οι γενικές γνώσεις δεν εξαφανίζονται από τη μια μέρα στην άλλη. Διαβρώνεται σταδιακά καθώς λιγότεροι επαγγελματίες συμβάλλουν στην ανανέωσή του, καθώς οι αγωγοί εκπαίδευσης αραιώνουν, καθώς η θεσμική μνήμη ξεθωριάζει. Η κατανόηση του ιατρικού επαγγέλματος για μια συγκεκριμένη κατηγορία σπάνιων ασθενειών δεν καταρρέει την ημέρα που αναπτύσσεται ένα διαγνωστικό εργαλείο τεχνητής νοημοσύνης. Μειώνεται αργά καθώς λιγότεροι κάτοικοι εργάζονται στις σχετικές περιπτώσεις, καθώς δημοσιεύονται λιγότερες αναφορές περιπτώσεων, καθώς λιγότεροι ερευνητές επιδιώκουν τα ερωτήματα που θα προκαλούσε η κλινική ενασχόληση με αυτές τις ασθένειες.
Η θεσμική απάντηση σε αυτή τη διάβρωση λειτουργεί σε ένα χρονοδιάγραμμα που μετράται σε χρόνια έως δεκαετίες. Οι ρυθμιστικοί οργανισμοί χρειάζονται χρόνια για να αναπτύξουν και να εφαρμόσουν νέους κανόνες. Οι επαγγελματικοί φορείς αδειοδότησης αναθεωρούν τα πρότυπά τους σε πολυετείς κύκλους. Τα εκπαιδευτικά ιδρύματα μεταρρυθμίζουν τα προγράμματα σπουδών τους σε χρονοδιαγράμματα γενεών. Τα νομοθετικά σώματα κινούνται ακόμη πιο αργά, ιδιαίτερα σε τεχνικά πολύπλοκα ζητήματα που δεν προκαλούν το είδος της ορατής, άμεσης βλάβης που οδηγεί σε πολιτική επείγουσα ανάγκη.
Το αποτέλεσμα είναι μια χρονική αναντιστοιχία κλιμακωτής σοβαρότητας: η τεχνολογία προχωρά σε μήνες, η ζημιά συσσωρεύεται με τα χρόνια και η απόκριση φτάνει σε δεκαετίες. Μέχρι τη στιγμή που διατυπώνεται η θεσμική απάντηση, το απόθεμα γνώσης που επιδιώκει να προστατεύσει μπορεί να έχει ήδη ξεπεράσει το όριο κατάρρευσης. Και επειδή η κατάρρευση είναι ασυνεχής, μπορεί να μην υπάρξει σταδιακή μείωση για να χρησιμεύσει ως έγκαιρη προειδοποίηση. Το απόθεμα γνώσης κρατάει, κρατάει, κρατά και μετά δεν το κάνει.
Αυτή η χρονική αναντιστοιχία δεν είναι μοναδική για την τεχνητή νοημοσύνη. Χαρακτηρίζει πολλές από τις πιο επικίνδυνες προκλήσεις που αντιμετωπίζουν πολύπλοκες κοινωνίες, από την κλιματική αλλαγή έως την ευθραυστότητα του χρηματοπιστωτικού συστήματος έως τη διάβρωση των δημοκρατικών κανόνων. Σε κάθε περίπτωση, η ζημιά προκαλείται από ταχέως εξελισσόμενα συστήματα, τα αποτελέσματα είναι καθυστερημένα και μη γραμμικά και η θεσμική αντίδραση είναι πολύ αργή για να αποτρέψει τη ζημιά που γίνεται ορατή μόνο αφού είναι σε μεγάλο βαθμό μη αναστρέψιμη. Το πρόβλημα της κατάρρευσης της γνώσης είναι, υπό αυτή την έννοια, μέλος μιας οικογένειας πολιτισμικών προκλήσεων που οι υπάρχουσες δομές διακυβέρνησής μας είναι συστηματικά ανεπαρκώς εξοπλισμένες για να αντιμετωπίσουν.
Το παράδοξο Acemoglu
Υπάρχει μια ειρωνεία στο κέντρο αυτής της εργασίας που οι συγγραφείς της, προς τιμήν τους, δεν πτοούνται. Ο Daron Acemoglu είναι ένας από τους συγγραφείς του βιβλίου «Γιατί αποτυγχάνουν τα έθνη», ένα βιβλίο του οποίου το κεντρικό επιχείρημα είναι ότι οι θεσμοί χωρίς αποκλεισμούς, αυτοί που κατανέμουν ευρέως την εξουσία και προστατεύουν τα δικαιώματα των ατόμων να συμμετέχουν στην οικονομική και πολιτική ζωή, είναι το κλειδί για τη μακροπρόθεσμη ευημερία. Η πρακτορική τεχνητή νοημοσύνη που περιγράφει το έγγραφο είναι, σε ένα πλαίσιο, η απόλυτη τεχνολογία χωρίς αποκλεισμούς: εκδημοκρατίζει την πρόσβαση σε συμβουλές ποιότητας ειδικών, καθιστώντας εξατομικευμένες συστάσεις διαθέσιμες σε άτομα που δεν θα μπορούσαν ποτέ να αντέξουν οικονομικά έναν ειδικό γιατρό, έναν οικονομικό σύμβουλο ή έναν δικηγόρο υψηλού επιπέδου. Με τη λογική του «Γιατί αποτυγχάνουν τα έθνη», αυτό θα πρέπει να είναι ένας θρίαμβος της θεσμικής ένταξης.
Αλλά το έγγραφο κατάρρευσης της γνώσης αποκαλύπτει ότι η ένταξη στην κατανάλωση γνώσης δεν είναι το ίδιο με την ένταξη στην παραγωγή γνώσης. Η παροχή πρόσβασης σε όλους στο αποτέλεσμα της εμπειρογνωμοσύνης δεν είναι το ίδιο με τη διατήρηση των συνθηκών υπό τις οποίες παράγεται η εμπειρογνωμοσύνη. Η πρακτορική τεχνητή νοημοσύνη που εκδημοκρατίζει την πρόσβαση σε συστάσεις υπονομεύει ταυτόχρονα τις διαδικασίες μέσω των οποίων παράγεται και ανανεώνεται η γνώση πίσω από αυτές τις συστάσεις. Είναι σαν ένα έθνος να διένειμε τη σοδειά τόσο αποτελεσματικά που κανείς δεν είχε κίνητρο να φυτέψει. Η σοδειά θα ήταν άφθονη και δίκαιη, μέχρι τη στιγμή που ο σιτοβολώνας θα άδειαζε.
Αυτή η ένταση μεταξύ πρόσβασης και παραγωγής, μεταξύ της διανομής της υπάρχουσας γνώσης και της δημιουργίας νέας γνώσης, είναι η βαθύτερη πνευματική πρόκληση που θέτει η εργασία. Δεν επιδέχεται εύκολη επίλυση. Τα οφέλη της πρακτορικής τεχνητής νοημοσύνης για τους υποεξυπηρετούμενους πληθυσμούς είναι πραγματικά και σημαντικά. Ένας αγρότης στην αγροτική Ινδία που μπορεί να συμβουλευτεί έναν γεωπόνο τεχνητής νοημοσύνης λαμβάνει συμβουλές που διαφορετικά δεν θα ήταν καθόλου διαθέσιμες. Ένας ασθενής σε μια περιοχή χωρίς ειδικούς που μπορούν να λάβουν διαγνωστική καθοδήγηση με τη βοήθεια τεχνητής νοημοσύνης είναι πραγματικά καλύτερα από ό,τι θα ήταν χωρίς αυτήν. Αυτά δεν είναι ασήμαντα κέρδη και κάθε πολιτική που περιορίζει την ακρίβεια της τεχνητής νοημοσύνης πρέπει να υπολογίζει το γεγονός ότι το κόστος του περιορισμού θα πέσει δυσανάλογα σε εκείνους που έχουν τις λιγότερες εναλλακτικές λύσεις.
Η εργασία δεν επιλύει αυτή την ένταση και θα ήταν διανοητικά ανέντιμο να προσποιηθούμε ότι μπορεί να επιλυθεί από οποιοδήποτε ενιαίο αναλυτικό πλαίσιο. Αυτό που κάνει είναι να αποδεικνύει ότι η ένταση υπάρχει, ότι έχει επίσημη δομή και ότι η αγνόησή της υπέρ μιας απλής αφήγησης «περισσότερη τεχνητή νοημοσύνη είναι καλύτερη» οδηγεί σε αποτελέσματα που είναι καταστροφικά για όλους, συμπεριλαμβανομένων των υποεξυπηρετούμενων πληθυσμών που υποτίθεται ότι βοηθά η πρακτορική τεχνητή νοημοσύνη. Ο γεωπόνος τεχνητής νοημοσύνης του αγρότη είναι τόσο καλός όσο η γεωργική επιστήμη που τον ενημερώνει. Εάν αυτή η επιστήμη δεν παράγεται πλέον επειδή η τεχνητή νοημοσύνη έχει εκτοπίσει την ανθρώπινη μάθηση που την παρήγαγε, οι συμβουλές του γεωπόνου θα υποβαθμιστούν με τρόπους που ο αγρότης δεν μπορεί να εντοπίσει μέχρι να αποτύχει η καλλιέργεια.
Πώς θα έμοιαζε η επαρκής διακυβέρνηση;
Εάν το μοντέλο Acemoglu είναι έστω και κατά προσέγγιση σωστό, τότε η επαρκής διακυβέρνηση της πρακτορικής τεχνητής νοημοσύνης απαιτεί μια αρχιτεκτονική πολιτικής που δεν υπάρχει επί του παρόντος πουθενά στον κόσμο. Τα πλησιέστερα ανάλογα είναι σε τομείς όπως η ρύθμιση της πυρηνικής ενέργειας, η φαρμακευτική έγκριση και η εποπτεία του χρηματοπιστωτικού συστήματος, όπου η πιθανότητα καταστροφικής, καθυστερημένης και δύσκολα αναστρέψιμης βλάβης έχει δικαιολογήσει τη δημιουργία εξειδικευμένων ρυθμιστικών ιδρυμάτων με σημαντική εξουσία να περιορίζουν την κατά τα άλλα κερδοφόρα δραστηριότητα.
Τα βασικά στοιχεία μιας τέτοιας αρχιτεκτονικής δεν είναι δύσκολο να απαριθμηθούν κατ' αρχήν, αν και είναι εξαιρετικά δύσκολο να εφαρμοστούν στην πράξη. Θα πρέπει να υπάρχει, τουλάχιστον, ένας μηχανισμός για την παρακολούθηση της υγείας του αποθέματος γνώσης σε κρίσιμους τομείς, το επιστημικό ισοδύναμο της περιβαλλοντικής παρακολούθησης. Θα πρέπει να υπάρχουν ανώτατα όρια ακριβείας για συγκεκριμένο τομέα στην πρακτορική τεχνητή νοημοσύνη, βαθμονομημένα στην ευθραυστότητα της σχετικής κοινότητας γνώσης και προσαρμοσμένα καθώς αλλάζουν οι συνθήκες. Θα πρέπει να υπάρξουν υποχρεωτικές επενδύσεις σε υποδομές παραγωγής γνώσης, ανάλογες με τις υποχρεωτικές απαιτήσεις αποθεματικών που πρέπει να διατηρούν οι τράπεζες: απαιτήσεις που οι εταιρείες που χρησιμοποιούν τεχνητή νοημοσύνη συμβάλλουν στη διατήρηση των κοινών γνώσεων από τις οποίες αντλούν τα προϊόντα τους. Θα πρέπει να υπάρχουν προστασίες για τους αγωγούς μαθητείας και κατάρτισης, διασφαλίζοντας ότι η διαδρομή από τον αρχάριο στον ειδικό δεν θα είναι κενή από την υποκατάσταση της τεχνητής νοημοσύνης. Και θα πρέπει να υπάρχει διεθνής συντονισμός, επειδή οι κοινότητες της γνώσης είναι παγκόσμιες και ένα ανώτατο όριο ακριβείας σε μια δικαιοδοσία υπονομεύεται από την απεριόριστη πρόσβαση από μια άλλη.
Τίποτα από αυτά δεν είναι τεχνικά αδύνατο. Όλα αυτά είναι πολιτικά απίθανα υπό τις παρούσες συνθήκες. Οι εταιρείες τεχνολογίας που θα επωμιστούν το κόστος της ρύθμισης είναι από τους πιο ισχυρούς οικονομικούς παράγοντες στον κόσμο. Τα οφέλη του περιορισμού είναι διάχυτα, καθυστερημένα και δύσκολο να αποδοθούν. Οι πολιτικές εκλογικές περιφέρειες για τη διατήρηση της γνώσης είναι αδύναμες και κατακερματισμένες. Και οι ίδιοι οι γνωστικοί πόροι που απαιτούνται για την ανάπτυξη και την εφαρμογή εξελιγμένων κανονισμών, σύμφωνα με το επιχείρημα της ίδιας της εφημερίδας, υποβαθμίζονται από την υπό ρύθμιση τεχνολογία.
Αυτή είναι η παγίδα διακυβέρνησης στην καρδιά του προβλήματος της κατάρρευσης της γνώσης και μπορεί να είναι η πιο σημαντική πτυχή του εγγράφου που πρέπει να κατανοήσουν οι υπεύθυνοι χάραξης πολιτικής. Η πρόκληση δεν είναι απλώς να σχεδιάσουμε μια καλή πολιτική. Είναι η οικοδόμηση της θεσμικής ικανότητας για την εφαρμογή αυτής της πολιτικής σε ένα πλαίσιο όπου η υπό ρύθμιση τεχνολογία διαβρώνει ενεργά τις ανθρώπινες ικανότητες από τις οποίες εξαρτάται η αποτελεσματική διακυβέρνηση. Αυτό είναι ένα πρόβλημα που δεν έχει προηγούμενο στην ιστορία της ρύθμισης, επειδή καμία προηγούμενη τεχνολογία δεν έχει στοχεύσει το γνωστικό υπόστρωμα της ίδιας της διακυβέρνησης.
Το βαθύτερο ερώτημα
Κάτω από τα οικονομικά, τα μαθηματικά, την κοινωνιολογία και την ανάλυση πολιτικής, η εργασία του Acemoglu εγείρει ένα ερώτημα που είναι τελικά φιλοσοφικό και, ίσως, υπαρξιακό. Το ερώτημα δεν είναι αν η τεχνητή νοημοσύνη πρέπει να ρυθμιστεί. Το ερώτημα είναι εάν ένα είδος που κατασκευάζει εργαλεία για να αντικαταστήσει τη δική του σκέψη μπορεί να διατηρήσει τη σκέψη που απαιτείται για να κυβερνήσει αυτά τα εργαλεία.
Αυτό δεν είναι το γνωστό σενάριο επιστημονικής φαντασίας στο οποίο οι μηχανές γίνονται πιο έξυπνες από τους ανθρώπους και αποφασίζουν ότι δεν μας χρειάζονται. Είναι ένα σενάριο στο οποίο οι άνθρωποι παραμένουν ονομαστικά υπεύθυνοι, αλλά σταδιακά χάνουν την ικανότητα να ασκούν αυτό το φορτίο, επειδή οι επίπονες διαδικασίες μέσω των οποίων παράγεται και ανανεώνεται η κατανόηση έχουν ανατεθεί σε συστήματα που δεν μπορούν να εκτελέσουν την ίδια λειτουργία. Τα φώτα παραμένουν αναμμένα. Οι θεσμοί επιμένουν. Οι αποφάσεις συνεχίζουν να λαμβάνονται. Αλλά η ποιότητα των αποφάσεων υποβαθμίζεται, σιωπηλά και αδυσώπητα, επειδή η βάση γνώσεων στην οποία στηρίζονται λεπταίνει προς το μηδέν.
Ο Acemoglu, ο οποίος έχει περάσει μια καριέρα μελετώντας πώς οι θεσμοί καθορίζουν τη μοίρα των εθνών, υποστηρίζει τώρα ότι η πιο σημαντική θεσμική αποτυχία του εικοστού πρώτου αιώνα μπορεί να μην είναι η διαφθορά των κυβερνήσεων ή η αιχμαλωσία των ρυθμιστικών αρχών από τη βιομηχανία. Μπορεί να είναι η ήσυχη, ορθολογική, ατομικά βέλτιστη απόφαση εκατομμυρίων επαγγελματιών να αφήσουν τη μηχανή να κάνει τη σκέψη για αυτούς, και η συλλογική συνέπεια αυτής της απόφασης: η εξαφάνιση της ίδιας της σκέψης.
Ο τελικός, πιο έντονος υπαινιγμός της εφημερίδας πρέπει να επαναληφθεί για άλλη μια φορά, επειδή είναι αυτός που θα πρέπει να κρατά τους κατασκευαστές, τους χρηματοδότες και τις ρυθμιστικές αρχές ξύπνιους τη νύχτα: η βέλτιστη ποσότητα ικανότητας τεχνητής νοημοσύνης είναι πεπερασμένη, εσωτερική και σχεδόν σίγουρα χαμηλότερη από αυτή που θα παράγει η αγορά. Δεν είμαστε σε αγώνα δρόμου για να χτίσουμε κάτι υπέροχο. Βρισκόμαστε σε ένα πρόβλημα συλλογικής δράσης ύψιστης τάξης, στο οποίο η ατομικά ορθολογική επιλογή οδηγεί στο συλλογικά καταστροφικό αποτέλεσμα. Το όνομα για αυτό, στην παλαιότερη γλώσσα της οικονομίας, είναι μια τραγωδία των κοινών.
Μόνο που αυτή τη φορά, τα κοινά δεν είναι βοσκότοπος ή αλιεία ή ακόμα και ατμόσφαιρα. Είναι η συσσωρευμένη κατανόηση του ανθρώπινου είδους. Και σε αντίθεση με μια εξαντλημένη αλιεία, η οποία μπορεί να ανακάμψει αν μείνει μόνη της για αρκετό καιρό, μια εξαντλημένη βάση γνώσεων μπορεί να μην ανακάμψει καθόλου, επειδή οι άνθρωποι που θα την είχαν ξαναχτίσει δεν έμαθαν ποτέ πώς.
Το πλήρες έγγραφο εργασίας NBER 34910, «AI, Human Cognition and Knowledge Collapse», των Daron Acemoglu, Dingwen Kong και Asuman Ozdaglar, είναι διαθέσιμο μέσω του Εθνικού Γραφείου Οικονομικών Ερευνών.*
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου