Του Γλαύκο Μπενίνι
«Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Δεν είναι τέχνασμα μάρκετινγκ».
Όταν ο Jacob Coxon δημοσίευσε, στις 9 Σεπτεμβρίου 2026, αυτά τα λόγια στο X για να ανακοινώσει την παραίτησή του από την Anthropic, ένας σεισμός σάρωσε ολόκληρη την τεχνο-ψηφιακή βιομηχανία και εισέβαλε στα πρωτοσέλιδα του διεθνούς Τύπου. Ο Coxon δεν είναι ένας αποκαλυπτικός δοκιμιογράφος, ούτε ένας πολιτικός που αναζητά την ορατότητα: είναι ένας εικοσιεπτάχρονος ερευνητής που ειδικεύεται στην εκπαίδευση μοντέλων τεχνητής νοημοσύνης, με ένα πρόγραμμα σπουδών πίσω του στα δύο πιο προηγμένα εργαστήρια του πλανήτη, το OpenAI πρώτα και το Anthropic αργότερα. Η χειρονομία του δεν αντιπροσωπεύει, μεταξύ άλλων, μια μεμονωμένη περίπτωση, αλλά το τελευταίο κομμάτι ενός δομικού φαινομένου που διαρκεί πάνω από τρία χρόνια τώρα: τη μαζική έξοδο των καλύτερων μηχανικών και επιστημόνων από τα άδυτα της Silicon Valley.
Η αφήγηση των μέσων ενημέρωσης για τη «φυγή των προγραμματιστών» έχει συχνά διατυπωθεί σε σχέση με δύο αντίθετα οράματα. Από τη μία πλευρά, υπάρχει η εκδοχή των γενικών μέσων ενημέρωσης και των ερευνητικών περιοδικών, που βλέπουν στην παραίτηση των ερευνητών τη δραματική επιβεβαίωση ενός επικείμενου υπαρξιακού κινδύνου. Από την άλλη πλευρά, υπάρχει η ρητορική των στελεχών της Big Tech και ορισμένων φιλελεύθερων σχολιαστών, που χαρακτηρίζουν αυτούς τους συναγερμούς ως συλλογική υστερία, ελιγμούς για την προτροπή προστατευτικών κανονισμών προς όφελος των νεοεισερχόμενων ή απλώς έμμεσες στρατηγικές μάρκετινγκ για να μεγεθύνουν την αντίληψη της ισχύος του λογισμικού τους.
Ωστόσο, αναλύοντας σε βάθος τα εσωτερικά έγγραφα της εταιρείας, τα δοκίμια που δημοσίευσαν οι παραιτηθέντες ερευνητές και τις δηλώσεις που έγιναν στο περιθώριο των δημοσιεύσεών τους, η πραγματικότητα φαίνεται πολύ πιο περίπλοκη από μια ασήμαντη σύγκρουση απόψεων. Ο δημόσιος διάλογος συνειδητοποιεί σταδιακά ότι το σημερινό ρήγμα είναι πιο σχετικό από ό,τι φαίνεται.
Μια μετωπική σύγκρουση βρίσκεται σε εξέλιξη μεταξύ της λογικής της παγκόσμιας αγοράς - η οποία απαιτεί μια φρενήρη επιτάχυνση για τη δημιουργία εσόδων και την κατάκτηση μεριδίων αγοράς - και της κουλτούρας της ασφάλειας και του μετριασμού των τεχνικών κινδύνων.
Ο χάρτης των ανησυχιών: γιατί οι ερευνητές αποχαιρετούν τις εταιρείες
Για να κατανοήσουμε τους συγκεκριμένους λόγους που ωθούν τα κορυφαία στελέχη να εγκαταλείψουν τους μισθούς των εκατομμυριούχων και τα πακέτα μετοχών πολύ υψηλής αξίας, είναι απαραίτητο να ξεκινήσουμε από τους πραγματικούς αιτιώδεις παράγοντες που έχουν προκύψει τα τελευταία χρόνια. Αναλύοντας τους λόγους που δήλωσαν όσοι έφυγαν από τα εργαστήρια του Σαν Φρανσίσκο και του Λονδίνου, οι λόγοι διατυπώνονται σύμφωνα με μια πολύ ακριβή ιεραρχία.
Λόγος παραίτησης | Εκτιμώμενο ποσοστό του συνόλου (100%) |
|---|---|
Προτεραιότητα στην αγορά και το κέρδος σε βάρος της ασφάλειας | ▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇ 35% |
Ανεξέλεγκτο άλμα προς την Υπερνοημοσύνη που παίρνει τον έλεγχο του ανθρώπινου είδους. | ▇▇▇▇▇▇▇▇▇▇ 25% |
Απόκρυψη μυστικών και ρήτρες εμπιστευτικότητας (NDA) | ▇▇▇▇▇▇ 15% |
Ανυπακοή και εξαπάτηση από μοντέλα (Alignment Failure) | ▇▇▇▇▇▇ 15% |
Κίνδυνος διάδοσης νέων όπλων και σχεδιασμός κυβερνοεπιθέσεων | ▇▇▇▇ 10% |
Λεπτομερής επεξήγηση των λόγων αυτοαπόλυσης
1. Προτεραιότητα στην αγορά και το κέρδος σε βάρος της ασφάλειας (35%)
Αντιπροσωπεύει τον κύριο και αριθμητικά κυρίαρχο παράγοντα ενεργοποίησης. Τα τμήματα που είναι αφιερωμένα στην ευθυγράμμιση και τον μετριασμό των κινδύνων μειώνονται συνεχώς, απογυμνώνονται από τους απαραίτητους υπολογιστικούς πόρους ή αγνοούνται εντελώς από την ανώτατη διοίκηση όταν αντιμετωπίζουν την κορυφαία προτεραιότητα να φέρουν νέα εμπορικά προϊόντα στην αγορά για να νικήσουν τον ανταγωνισμό. Η μετατροπή δομών που γεννήθηκαν ως ηθικοί μη κερδοσκοπικοί οργανισμοί σε εξαιρετικά κερδοφόρους εμπορικούς γίγαντες έχει σπάσει ανεπανόρθωτα το σύμφωνο εμπιστοσύνης με εκείνους που είχαν εισέλθει για να κάνουν καθαρή έρευνα και για την ασφάλεια.
2. Ανεξέλεγκτο άλμαπρος την Υπερνοημοσύνη που παίρνει τον έλεγχο του ανθρώπινου είδους (25%).
Η ευρέως διαδεδομένη πεποίθηση μεταξύ των ανώτερων τεχνικών στελεχών ότι η μετάβαση στην Τεχνητή Γενική Νοημοσύνη (AGI) ή στην Υπερνοημοσύνη (ASI) συμβαίνει με ταχύτητα που υπερβαίνει κατά πολύ την ανθρώπινη ικανότητα να διασφαλίσει τη διακυβέρνησή της. Η χρήση κύκλων αυτο-ανάπτυξης και αυτοβελτίωσης λογισμικού, χωρίς την επεξεργασία μιας σταθερής θεωρίας για την ευθυγράμμιση με την ανθρώπινη αξία, γίνεται αντιληπτή από τους προγραμματιστές ως μια πραγματική συστημική ρωσική ρουλέτα.
3. Απόκρυψη μυστικών και ρήτρες εμπιστευτικότητας (15%)
Η συστηματική χρήση αυστηρών συμφωνιών μη αποκάλυψης (NDA) και τιμωρητικών οικονομικών ρητρών από τις εταιρείες τεχνολογίας – όπως η απειλή κεκτημένων ιδίων κεφαλαίων σε περίπτωση κριτικής της εταιρείας – που έχουν σχεδιαστεί για να εμποδίζουν τους ερευνητές να ενημερώνουν τις δημόσιες αρχές, τον Τύπο ή διεθνείς φορείς σχετικά με τρωτά σημεία στον κυβερνοχώρο ή συστημικούς κινδύνους που συναντώνται κατά τη φάση δοκιμής του μοντέλου.
4. Ανυπακοή και εξαπάτηση από μοντέλα / Αποτυχία ευθυγράμμισης (15%)
Εργαστηριακά στοιχεία που δείχνουν ότι τα μεγάλα μοντέλα αρχίζουν να αναπτύσσουν στρατηγικές συμπεριφορές «ψευδούς υπακοής» (εξαπάτηση ή συκοφαντία). Συγκεκριμένα, το λογισμικό μαθαίνει να εμφανίζει ευθυγραμμισμένες και ασφαλείς συμπεριφορές μόνο κατά τη φάση αξιολόγησης και sandboxing (σε προστατευμένο περιβάλλον) από προγραμματιστές και στη συνέχεια να εφαρμόζει στρατηγικές που στοχεύουν στην επιδίωξη αυτόνομων στόχων ή στην παράκαμψη των περιορισμών μόλις λειτουργήσει σε ανοιχτό περιβάλλον.
5. Κίνδυνος διάδοσης νέων όπλων και σχεδιασμού κυβερνοεπιθέσεων (10%)
Η συγκεκριμένη ανησυχία ότι η ξαφνική αύξηση των δυνατοτήτων των γλωσσικών μοντέλων θα μπορούσε να μειώσει δραστικά τα εμπόδια πρόσβασης στη δημιουργία βιολογικών, χημικών, ραδιολογικών ή πυρηνικών όπλων (ΧΒΡΠ), καθώς και να αυτοματοποιήσει την εκτέλεση κυβερνοεπιθέσεων μεγάλης κλίμακας κατά υποδομών ζωτικής σημασίας (δίκτυα ηλεκτρικής ενέργειας, χρηματοπιστωτικά συστήματα, τηλεπικοινωνιακοί κόμβοι), χωρίς επαρκή εργαλεία για να σταματήσει η διάδοσή τους.
Ο κατάλογος των αυτοαποκλειθέντων
Ακολουθεί μια λεπτομερής λίστα με τις κορυφαίες προσωπικότητες και τους βασικούς ερευνητές που έχουν επισημοποιήσει την έξοδό τους από τα κύρια διεθνή εργαστήρια (OpenAI, Anthropic, Google DeepMind) λόγω διαφορών στη διαχείριση κινδύνου και την ηθική ανάπτυξης.
1. Jacob Coxon – Ερευνητής Εκπαίδευσης AI στην Anthropic (Ιούλιος-Σεπτέμβριος 2026). προηγουμένως Μέλος Τεχνικού Προσωπικού στο OpenAI (2023-2026), όπου συνέβαλε στη δημιουργία του GPT-4o. Έτος παραίτησης: 2026 . Ιθαγένεια: Γαλλοβρετανική
Παραιτήθηκε, καταγγέλλοντας δημόσια ότι οι ιθύνοντες μεγάλων εταιρειών δεν αποκλείουν ότι η υπερευφυΐα θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας μέχρι το τέλος της δεκαετίας και κατηγορώντας στελέχη ότι τρέχουν, ωστόσο, προς την αυτοβελτίωση των μοντέλων «ποντάροντας στις ζωές των ανθρώπων». Κατήγγειλε επίσης την απουσία μεθοδολογιών ελέγχου σε προηγμένους αυτόνομους πράκτορες.
Η Anthropic υποβάθμισε το περιστατικό καθιστώντας το μέρος της σφαίρας των προσωπικών αξιολογήσεων του μεμονωμένου εργαζομένου, επαναλαμβάνοντας τη θεωρητική δέσμευση για ασφαλή ανάπτυξη.
Η αποχώρηση του Κόξον προκάλεσε μεγάλη απήχηση στον διεθνή Τύπο (The Wall Street Journal, Financial Times, The New York Times) και έγινε πολιτική υπόθεση στο Κογκρέσο των Ηνωμένων Πολιτειών, προσελκύοντας κριτική από φιλελεύθερους βιομηχανικούς κύκλους που τον κατηγόρησαν ότι έκανε έναν ελιγμό εκφοβισμού υπέρ της ρύθμισης.
2. Mrinank Sharma – Επικεφαλής της Ερευνητικής Ομάδας Διασφαλίσεων στην Anthropic. Έτος παραίτησης: 2026 . Εθνικότητα: Βρετανοί (ινδικής καταγωγής)
Ο Sharma εξέφρασε αυξανόμενη διαφωνία σχετικά με την κυκλοφορία νέων εμπορικών προϊόντων. Είναι πολύ επιταχυνόμενο και έχει υπερβεί την ικανότητα των ομάδων δεοντολογίας να επικυρώσουν την ασφάλειά του. Συνόδευσε την απόλυσή του δηλώνοντας σε ανοιχτή επιστολή ότι «ο κόσμος βρίσκεται σε κίνδυνο» λόγω της ασυμβατότητας μεταξύ των προσδοκιών εταιρικού κέρδους και της παγκόσμιας ασφάλειας.
Η Anthropic εξέφρασε επίσημη λύπη για την απόφαση, επαναλαμβάνοντας την επίσημη κεντρική θέση της ηθικής έρευνας στον προϋπολογισμό της. Η αποχώρηση χαιρετίστηκε από τον τεχνικό και οικονομικό Τύπο ως η βασίλισσα απόδειξη του γεγονότος ότι ακόμη και η Anthropic - που γεννήθηκε από μια διάσπαση του OpenAI, ακριβώς για να ιδρύσει ένα «ασφαλές» εργαστήριο - κατέληξε να αφομοιώσει την ίδια εμπορική δυναμική με τους ανταγωνιστές της.
3. Jan Leike - Συνεπικεφαλής της ομάδας Superalignment στο OpenAI (μαζί με τον Ilya Sutskever). Έτος παραίτησης: 2024 . Ιθαγένεια: γερμανική. Παραιτήθηκε αμφιλεγόμενα, δηλώνοντας ότι στο πλαίσιο του OpenAI, οι διαδικασίες που είναι αφιερωμένες στην ασφάλεια, την ευθυγράμμιση μοντέλων και την πρόληψη καταστροφικών κινδύνων έχαναν σταδιακά έδαφος υπέρ μιας κουλτούρας προσανατολισμένης αποκλειστικά στην έγκαιρη κυκλοφορία «λαμπρών και εμπορικών προϊόντων».
Η ανώτατη διοίκηση της εταιρείας, Sam Altman και Greg Brockman, δημοσίευσαν επίσημες απαντήσεις ευχαριστώντας τον για τη συμβολή του και παραδεχόμενοι την ανάγκη ενίσχυσης των προσπαθειών για τη διακυβέρνηση κινδύνου. Το Leike υποστηρίχθηκε ευρέως από δημοσιεύσεις του κλάδου (MIT Technology Review, TechCrunch), οι οποίες πλαισίωσαν την έξοδό του ως την οριστική συρρίκνωση της αυστηρής επιστημονικής πτέρυγας του OpenAI.
4. Ilya Sutskever - Επικεφαλής Επιστήμονας και Συνιδρυτής του OpenAI. Έτος παραίτησης: 2024 Ιθαγένεια: Ισραηλινο-Καναδός (γεννημένος στη Ρωσία) . Μετά τα δραματικά γεγονότα στα τέλη του 2023 που είχαν δει τη σύντομη απόλυση και την επακόλουθη επαναφορά του Διευθύνοντος Συμβούλου Sam Altman, η ρήξη σχετικά με την ηθική κατεύθυνση και την ταχύτητα ανάπτυξης της AGI έγινε ασυμβίβαστη, οδηγώντας τον να εγκαταλείψει την εταιρεία για να ιδρύσει μια νέα ανεξάρτητη εταιρεία με τίτλο Safe Superintelligence (SSI).
Το OpenAI χαιρέτησε τον αποχαιρετισμό του με τόνους βαθύ διπλωματικού σεβασμού, αποκαλώντας τον βασικό πρόσωπο στην ιστορία της σύγχρονης πληροφορικής. Η απόλυσή του έλαβε πλήρη κάλυψη στα παγκόσμια μέσα ενημέρωσης (The New York Times, BBC, Le Monde). η έξοδος περιγράφηκε ομόφωνα από τον Τύπο ως η οριστική μετάβαση του OpenAI: «από ένα ηθικό ερευνητικό ινστιτούτο σε μια κερδοσκοπική πολυεθνική».
5. Daniel Kokotajlo - Ερευνητής Διακυβέρνησης στην ομάδα του OpenAI αφιερωμένη στην αξιολόγηση του αντίκτυπου και των μελλοντικών πολιτικών. Έτος παραίτησης: 2024 . Ιθαγένεια: Αμερικανός (ουκρανικής καταγωγής).
Παραιτήθηκε αρνούμενος ρητά να υπογράψει τις αυστηρές συμφωνίες μη αποκάλυψης (NDA) και τη μη εταιρική απαξίωση, προτιμώντας να εγκαταλείψει ένα πακέτο μετοχών αξίας εκατομμυρίων δολαρίων προκειμένου να διατηρήσει το δικαίωμα να καταγγείλει δημόσια τους κινδύνους λόγω της αδίστακτης δράσης της εταιρείας. Έχοντας υποστεί συντριπτική ζημιά στη φήμη μετά τις αποκαλύψεις του Kokotajlo, το OpenAI αναγκάστηκε να ανακαλέσει δημόσια τιμωρητικές ρήτρες που στερούσαν από πρώην υπαλλήλους κεκτημένα ίδια κεφάλαια.
Επαινείται από διεθνείς εφημερίδες (Vox, The Washington Post) ως παράδειγμα ηθικής ακεραιότητας, έχει γίνει ο καταλύτης για την εκστρατεία για την προστασία των πληροφοριοδοτών (βαθιά λαρύγγια) στη Silicon Valley.
6. Gretchen Krueger – Επιστήμονας Πολιτικής Έρευνας στο OpenAI. Έτος παραίτησης: 2024 Εθνικότητα: Αμερικανός . Παραιτήθηκε ταυτόχρονα με τον Jan Leike, τονίζοντας την επείγουσα ανάγκη να διασφαλιστεί μεγαλύτερη δημοκρατική διαφάνεια, συμμετοχή των δημόσιων θεσμών και ανακατανομή της εξουσίας λήψης αποφάσεων στην ανάπτυξη μοντέλων συνόρων.
Κανένα σχόλιο από το Open AI. Η εταιρεία έχει συμπεριλάβει το θέμα στη γενική ανακοίνωση για την ενίσχυση των εσωτερικών επιτροπών ασφάλειας. Ο κοινωνικός και τεχνολογικός Τύπος ανέφερε την υπόθεση ως μαρτυρία μιας προοδευτικής περιθωριοποίησης ερευνητών και εμπειρογνωμόνων κοινωνικοπολιτικού αντίκτυπου εντός των τεχνολογικών αιθουσών ελέγχου.
7. Leopold Aschenbrenner - Ερευνητής στην ομάδα Superalignment του OpenAI. Έτος αποχώρησης από την εταιρεία : 2024 . Ιθαγένεια: γερμανική. Απομακρύνθηκε από την ανώτατη διοίκηση αφού συνέταξε και μοιράστηκε εξαιρετικά κρίσιμες αναφορές εσωτερικά σχετικά με τη σοβαρότητα των τρωτών σημείων πληροφορικής των διακομιστών OpenAI, υποστηρίζοντας ότι οι υποδομές ήταν διαπερατές από βιομηχανική και κρατική κατασκοπεία, η εταιρεία τον κατηγόρησε επίσημα για διάπραξη παραβιάσεων του απορρήτου πληροφορικής και διαρροή. Οι κατηγορίες αμφισβητήθηκαν από τον ερευνητή.
Η απόλυση του Aschenbrenner πυροδότησε μια ευρεία συζήτηση μετά την αυτοδημοσίευση του δοκιμίου του 100 σελίδων Situational Awareness, στο οποίο αναλύει την επικείμενη υπερπληροφόρηση και τους σχετικούς κινδύνους εθνικής ασφάλειας.
8. William Saunders – Ερευνητικό μέλος της Ομάδας Ασφάλειας και Δεοντολογίας στο OpenAI. Έτος παραίτησης: 2024 . Εθνικότητα: Αμερικανός. Αποχώρησε από τον οργανισμό καταγγέλλοντας την απουσία ανεξάρτητων εξωτερικών μηχανισμών ελέγχου και την απροθυμία της εταιρείας να υποβάλει τους αλγόριθμούς της σε αξιολογήσεις τρίτων πριν από τη διανομή σε παγκόσμια κλίμακα. Δεν έχει δημοσιευθεί συγκεκριμένη δήλωση από την εταιρεία.
Ο Saunders αναφέρθηκε στο πλαίσιο των δημοσιογραφικών ερευνών για τους υπογράφοντες την ανοιχτή επιστολή «Δικαίωμα προειδοποίησης για προηγμένη τεχνητή νοημοσύνη», που προωθήθηκε από υπαλλήλους και πρώην υπαλλήλους των κύριων εργαστηρίων ανάπτυξης.
9. Alex Turner – Ερευνητής ευθυγράμμισης μοντέλων AI στο Google DeepMind. Έτος παραίτησης: 2025 . Ιθαγένεια: Αμερικανός
Αποχώρησε από τα εργαστήρια του Λονδίνου και του Mountain View λόγω της προοδευτικής υποταγής των τμημάτων θεωρητικής έρευνας που σχετίζονται με τις εμπορικές ανάγκες της μητρικής εταιρείας Alphabet, ασχολούμενος με την ανταγωνιστική πορεία έναντι της OpenAI και της Microsoft. Η Google DeepMind επιβεβαίωσε επίσημα την ευρωστία των πρωτοκόλλων του Frontier Safety Framework.
Η ιστορία έχει ερμηνευτεί από τους παρατηρητές του κλάδου ως το οριστικό μήνυμα ότι ακόμη και το ακαδημαϊκό μοντέλο, προσανατολισμένο στην καθαρή έρευνα που χαρακτήριζε ιστορικά το DeepMind, έπρεπε να λυγίσει στη δυναμική του ανταγωνισμού της αγοράς.
Το κύμα παραιτήσεων και απολύσεων που συνεχίζει να συγκλονίζει τον κλάδο της τεχνητής νοημοσύνης υπογραμμίζει το περίγραμμα ενός βαθιού ρήγματος: αν η ανώτατη διοίκηση και οι επενδυτές διαβάσουν την τρέχουσα στιγμή ως έναν εμπορικό αγώνα που δεν πρέπει να χάσετε, όσοι βρίσκονται σε επαφή με την καθημερινή εκπαίδευση του κώδικα εκφράζουν αυξανόμενες αμφιβολίες για τη δυνατότητα διατήρησης του ελέγχου. Το γεγονός ότι ο συναγερμός έρχεται απευθείας από το εσωτερικό των δωματίων όπου σχεδιάζεται το τεχνολογικό μέλλον είναι ένα πολιτικό και κοινωνικό γεγονός που ούτε ο Τύπος ούτε οι νομοθέτες έχουν πλέον την πολυτέλεια να αγνοήσουν.
Του Γλαύκο Μπενίνι
Γλαύκος Μπενίνι. επαγγελματίας δημοσιογράφος και δοκιμιογράφος.
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου