Ο Geoffrey Hinton, που συχνά αποκαλείται «νονός της τεχνητής νοημοσύνης», είναι ένας πρωτοπόρος επιστήμονας υπολογιστών του οποίου η εργασία στα νευρωνικά δίκτυα έθεσε τα θεμέλια για τη σύγχρονη τεχνητή νοημοσύνη. © Getty Εικόνες
Εν συντομία
- Το Generative AI επιταχύνεται παρά τις ηθικές ανησυχίες και τις ανησυχίες για την ασφάλεια
- Η παραπληροφόρηση εξαπλώνεται ταχύτερα καθώς τα συστήματα χάνουν την ακρίβεια και την αυτοσυγκράτηση
- Οι στρατιωτικές χρήσεις και οι χρήσεις επιτήρησης θολώνουν τη γραμμή μεταξύ άμυνας και ελέγχου
- Για ολοκληρωμένες πληροφορίες, συντονιστείτε στο podcast μας με τεχνητή νοημοσύνη εδώ
Τον Μάιο του 2023, ο πρωτοπόρος της τεχνητής νοημοσύνης Geoffrey Hinton χώρισε τους δρόμους του με τον τεχνολογικό γίγαντα Google αφού εργάστηκε εκεί για περισσότερα από 10 χρόνια. Ο νικητής του βραβείου Νόμπελ Φυσικής προειδοποίησε για την ανάπτυξη της τεχνολογίας chatbot με τεχνητή νοημοσύνη, η οποία βασίζεται σε μεγάλο βαθμό στην έρευνά του για τα νευρωνικά δίκτυα.
Οι άνθρωποι, είπε ο κ. Hinton, είναι ήδη τόσο πλημμυρισμένοι από ψεύτικες φωτογραφίες, βίντεο και κείμενα στο διαδίκτυο που κινδυνεύουν να χάσουν την ικανότητα να διακρίνουν τι είναι πραγματικό από το φανταστικό. Πολύ μεγαλύτεροι κίνδυνοι, πρόσθεσε, προέρχονται από τη μεγάλης κλίμακας απώλεια θέσεων εργασίας και την αυτοματοποίηση του πολέμου. Κάποτε πίστευε ότι θα χρειαστούν άλλα 30 έως 50 χρόνια για να ξεπεράσει η τεχνητή νοημοσύνη την ανθρώπινη νοημοσύνη, αλλά δεν έχει πλέον αυτή την άποψη.
Όπως ο κ. Hinton, οι μεγιστάνες της τεχνολογίας Elon Musk, Stuart Russell, Steve Wozniak και χιλιάδες άλλοι ερευνητές και διευθυντές έχουν ζητήσει την παύση της εκπαίδευσης συστημάτων τεχνητής νοημοσύνης υψηλής απόδοσης για τουλάχιστον έξι μήνες. «Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε σίγουροι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι», αναφέρει η ανοιχτή επιστολή τους. «Εάν μια τέτοια παύση δεν μπορεί να θεσπιστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μορατόριουμ».
Η επιστολή έχει πλέον σχεδόν 34.000 υπογράφοντες. Οι επικριτές της τεχνητής νοημοσύνης φοβούνται ότι η τεχνολογία θα φτάσει σε ένα επίπεδο υπερευφυΐας μέσω της μηχανικής μάθησης, ξεπερνώντας τη γνωστική απόδοση των ανθρώπων σχεδόν σε όλους τους σχετικούς τομείς και τελικά επιτρέποντάς της να κυριαρχήσει στην ανθρωπότητα.
Δεν υπάρχει ευρεία συναίνεση σχετικά με το εάν μια σκεπτόμενη μηχανή θα είναι ποτέ σε θέση να καθορίσει όχι μόνο τις μεθόδους της αλλά και τον σκοπό της, που είναι ένα μοναδικό χαρακτηριστικό της ανθρώπινης νοημοσύνης. Δύο βασικές υποθέσεις διαμορφώνουν συχνά αυτή τη συζήτηση: ότι τα μη ανθρώπινα συστήματα λειτουργούν με τρόπους συγκρίσιμους με το ανθρώπινο μυαλό και ότι η νοημοσύνη υπάρχει ανεξάρτητα από τις κοινωνικές, πολιτιστικές και ιστορικές συνθήκες που της δίνουν νόημα.
Διάδοση παραπληροφόρησης που προκαλείται από την τεχνητή νοημοσύνη
Παρά τις πολυάριθμες προειδοποιήσεις, οι μεγάλες εταιρείες τεχνολογίας δεν έχουν επιβραδύνει την επιδίωξή τους για υπερευφυΐα. Αντίθετα, ο ανταγωνισμός τους οδήγησε μόνο να επιταχύνουν. Η απουσία δεσμευτικού διεθνούς νομικού πλαισίου σημαίνει ότι δεν υπάρχουν πραγματικοί περιορισμοί στην έρευνα σε αυτόν τον τομέα.
Είναι ευρέως αποδεκτό ότι η τεχνητή νοημοσύνη έχει εξαιρετική μεταμορφωτική δύναμη, η οποία έχει συγκριθεί με τη μετάβαση από κυνηγούς-τροφοσυλλέκτες σε καθιστικούς αγρότες και κτηνοτρόφους ή με την εφεύρεση της τυπογραφίας. Γίνεται σαφές ότι η τεχνητή νοημοσύνη θα μεταμορφώσει τον κόσμο. Όμως, ενώ μπορεί κανείς να μαντέψει με κάποια ακρίβεια τι θα αλλάξει βραχυπρόθεσμα, οι μεσοπρόθεσμες ή μακροπρόθεσμες προβλέψεις είναι πολύ λιγότερο αξιόπιστες.
Οι μετασχηματισμοί που βρίσκονται ήδη σε εξέλιξη είναι δραματικοί. Η προειδοποίηση του κ. Hinton ότι οι άνθρωποι μπορεί σύντομα να μην μπορούν να ξεχωρίσουν την αλήθεια από το ψέμα επιβεβαιώνεται καθημερινά. Πρόσφατη έρευνα διαψεύδει την ιδέα ότι τα συστήματα παραγωγής τεχνητής νοημοσύνης μπορούν να εντοπίσουν και να διορθώσουν αξιόπιστα την παραπληροφόρηση στα μέσα κοινωνικής δικτύωσης. Στην πραγματικότητα, η πιθανότητα αυτά τα εργαλεία να διαδίδουν ψευδείς ισχυρισμούς σχετικά με τα τρέχοντα γεγονότα έχει σχεδόν διπλασιαστεί μέσα σε ένα χρόνο. Σε μια μελέτη, το 35 τοις εκατό των απαντήσεων που δημιουργήθηκαν από την τεχνητή νοημοσύνη που αναλύθηκαν περιείχαν ψεύδη, ενώ το μερίδιο των αναπάντητων ερωτημάτων μειώθηκε από 31 τοις εκατό τον Αύγουστο του 2024 σε μηδέν – που σημαίνει ότι η τεχνητή νοημοσύνη εξακολουθεί να παρέχει απάντηση ακόμη και όταν λείπουν δεδομένα για να δικαιολογήσουν μια δήλωση.
Στοιχεία και αριθμοί
Βαθμολογίες τεστ AI σε σχέση με την ανθρώπινη απόδοση
Αντί να αναγνωρίζουν τα όριά τους, αυτά τα συστήματα γίνονται όλο και περισσότερο αγωγοί για ψευδείς πληροφορίες. Οι φορείς παραπληροφόρησης κατακλύζουν τον ιστό με κατασκευασμένο υλικό μέσω σκοτεινών ιστότοπων, αναρτήσεων στα μέσα κοινωνικής δικτύωσης και φάρμες περιεχομένου που δημιουργούνται από τεχνητή νοημοσύνη, τις οποίες τα chatbots αποτυγχάνουν να διακρίνουν από αξιόπιστα μέσα. Οι προσπάθειες να γίνουν αυτά τα συστήματα πιο επίκαιρα και ενημερωτικά τα έχουν κάνει, κατά ειρωνικό τρόπο, πολύ πιο ευάλωτα στη χειραγώγηση και την προπαγάνδα.
Η τεχνητή νοημοσύνη επιτρέπει στους φορείς παραπληροφόρησης να επιτύχουν πολύ μεγαλύτερη εμβέλεια και αντίκτυπο με ελάχιστο κόστος και προσπάθεια σε σύγκριση με τα παραδοσιακά εργαλεία προπαγάνδας όπως το ραδιόφωνο, η τηλεόραση ή τα έντυπα. Καθώς η γραμμή μεταξύ αλήθειας και ψεύδους θολώνει, η εμπιστοσύνη του κοινού στους δημοκρατικούς θεσμούς διαβρώνεται, δημιουργώντας περισσότερο χώρο για εξτρεμιστικές αφηγήσεις να επικρατήσουν. Υπό αυτή την έννοια, η τεχνητή νοημοσύνη έχει γίνει ένα εργαλείο επιρροής τόσο για αυταρχικές κυβερνήσεις όσο και για μη κρατικές ομάδες που επιδιώκουν να υπονομεύσουν τη δημοκρατική ανθεκτικότητα και να προωθήσουν τις ατζέντες τους.
Αξιοποίηση της τεχνητής νοημοσύνης για πολιτικούς σκοπούς
Όσο πιο συχνά κυκλοφορούν ψευδείς πληροφορίες, τόσο πιο οικείες και πιστευτές γίνονται. Ο ίδιος ο όρος «παραπληροφόρηση», που χρησιμοποιήθηκε για πρώτη φορά κατά την εποχή του Στάλιν, προέρχεται από το πλαίσιο του ασύμμετρου πολέμου. Η Σοβιετική Ένωση προσπάθησε να αντισταθμίσει το οικονομικό και στρατιωτικό της μειονέκτημα έναντι των Ηνωμένων Πολιτειών μέσω της δύναμής της σε μυστικές επιχειρήσεις και τη χειραγώγηση της κοινής γνώμης στη Δύση. Η Ρωσία αργότερα βελτίωσε αυτές τις μεθόδους, αναπτύσσοντας εκστρατείες παραπληροφόρησης μεγάλης κλίμακας κατά τη διάρκεια του πολέμου του 2008 στη Γεωργία και, ακόμη πιο εκτεταμένα, καθ' όλη τη διάρκεια του πολέμου στην Ουκρανία.
Το 2013, ο αείμνηστος ιδρυτής της στρατιωτικής ομάδας Wagner, Yevgeny Prigozhin, ίδρυσε την Υπηρεσία Έρευνας Διαδικτύου στην Αγία Πετρούπολη, η οποία άρχισε να πλημμυρίζει τα κοινωνικά δίκτυα με bots, trolls, ψεύτικους ιστότοπους και φαινομενικούς ειδικούς για να διαδώσει τις ρωσικές αφηγήσεις για την απειλή για τη Ρωσία από το ΝΑΤΟ και την Ουκρανία.
Η ρωσική κυβέρνηση, σύμφωνα με έκθεση προς το Κογκρέσο των ΗΠΑ τον Ιανουάριο, ανησυχεί για την «υπονόμευση της εμπιστοσύνης στους δημοκρατικούς θεσμούς των Ηνωμένων Πολιτειών, την επιδείνωση των κοινωνικοπολιτικών διαιρέσεων στις Ηνωμένες Πολιτείες και την αποδυνάμωση της δυτικής υποστήριξης προς την Ουκρανία». Όλες οι ρωσικές ξένες υπηρεσίες πληροφοριών διαθέτουν μονάδες κυβερνοχώρου που πραγματοποιούν διάφορες επιχειρήσεις κατασκοπείας, δολιοφθοράς και παραπληροφόρησης. Αυτός ο σκιώδης πόλεμος αποτελεί μέρος του υβριδικού πολέμου της Ρωσίας, ο οποίος στοχεύει να επιτεθεί στη Δύση μέσω συμβατικών και μη συμβατικών τακτικών χωρίς τον κίνδυνο ολοκληρωτικού πολέμου.
Η τεχνητή νοημοσύνη επιτρέπει την εκτέλεση ορισμένων λειτουργιών επιρροής από έναν τυπικό υπολογιστή γραφείου, μειώνοντας την ανάγκη για φυσική παρουσία. Οι αναφορές των γερμανικών μυστικών υπηρεσιών δείχνουν ότι η Μόσχα έχει χρησιμοποιήσει κανάλια ανταλλαγής μηνυμάτων όπως το Telegram για να στρατολογήσει νέους, φιλορώσους στη Γερμανία για εμπρησμούς και δολιοφθορές και τόσο οι ρωσικές όσο και οι κινεζικές υπηρεσίες έχουν διεισδύσει στα ψηφιακά συστήματα κρίσιμων υποδομών σε βαθμό που θα μπορούσε ενδεχομένως να τους επιτρέψει να διαταράξουν την ηλεκτρική ενέργεια ή τα σιδηροδρομικά δίκτυα. Σε αντίθεση με τις δυτικές υπηρεσίες, οι φορείς που υποστηρίζονται από αυταρχικά καθεστώτα συχνά λειτουργούν με λιγότερους νομικούς ή κοινοβουλευτικούς περιορισμούς, γεγονός που μπορεί να κάνει τις δραστηριότητές τους πιο δύσκολο να παρακολουθούνται και να ρυθμίζονται.
Στον παγκόσμιο αγώνα για την τεχνητή νοημοσύνη, οι ΗΠΑ και η Κίνα είναι πολύ μπροστά από άλλους ανταγωνιστές, ωστόσο και οι δύο αντιμετωπίζουν αυξανόμενες οικονομικές πιέσεις και πιέσεις ασφαλείας. Η Κίνα έχει διαθέσει τεράστιους πόρους στην έρευνα, την ανάπτυξη και τις υποδομές για να επεκτείνει τις βιομηχανίες της που βασίζονται στην τεχνητή νοημοσύνη. Οι ΗΠΑ, με τη σειρά τους, έχουν εισαγάγει εμπορικούς περιορισμούς, ελέγχους εξαγωγών και δασμούς για να προστατεύσουν το τεχνολογικό τους πλεονέκτημα και να περιορίσουν την πρόσβαση της Κίνας σε κρίσιμα στοιχεία τεχνητής νοημοσύνης. Αρκετές κινεζικές εταιρείες έχουν τοποθετηθεί σε μαύρες λίστες των ΗΠΑ επικαλούμενες ανησυχίες για την εθνική ασφάλεια.
AI και υβριδικός πόλεμος
Ο ιδρυτής της Palantir, Alexander Karp, επέκρινε τη Silicon Valley ότι εστιάζει στο καταναλωτικό λογισμικό και όχι σε εργαλεία αξιόπιστης αποτροπής και κατηγορεί την Ουάσιγκτον ότι δεν αντιλαμβάνεται τις επιπτώσεις της ταχείας τεχνολογικής αλλαγής στην ασφάλεια. Το 2024, το Υπουργείο Άμυνας διέθεσε 1.8 δισεκατομμύρια δολάρια για έρευνα και ανάπτυξη τεχνητής νοημοσύνης – μόλις το 0.2 τοις εκατό του προϋπολογισμού του 886 δισεκατομμυρίων δολαρίων.
Έχει καταστεί σαφές ότι το ΝΑΤΟ, παρά τον οπλισμό του με όπλα τελευταίας τεχνολογίας, δεν είναι σε θέση να αποκρούσει επαρκώς μια επίθεση από drones. Το βράδυ της 10ης Σεπτεμβρίου, ένα σμήνος από 19 ρωσικά drones καμικάζι πέταξε για πρώτη φορά πάνω από το έδαφος της Πολωνίας του κράτους του ΝΑΤΟ. Πολωνικά και ολλανδικά μαχητικά αεροσκάφη, με τη βοήθεια ενός ιταλικού αναγνωριστικού αεροσκάφους και δύο γερμανικών αντιαεροπορικών συστημάτων Patriot, κατάφεραν να καταρρίψουν μόλις τέσσερα από αυτά – μια τεράστια, δαπανηρή προσπάθεια αντιμετώπισης μιας απειλής που αντιμετωπίζουν οι Ουκρανοί σε καθημερινή βάση από την έναρξη της ρωσικής εισβολής τον Φεβρουάριο του 2022.
Σε μία μόνο νύχτα της 7ης Σεπτεμβρίου, η Ρωσία ανέπτυξε περισσότερα από 800 μαχητικά drones και 13 πυραύλους, εκ των οποίων οι ουκρανικές ένοπλες δυνάμεις μπόρεσαν να αναχαιτίσουν 747 drones και τέσσερις πυραύλους κρουζ. Ήταν η μεγαλύτερη επίθεση με drone στην ιστορία μέχρι σήμερα. Στον πόλεμο Ρωσίας-Ουκρανίας, μεταξύ 70 και 80 τοις εκατό των ημερήσιων απωλειών μάχης και από τις δύο πλευρές προκαλούνται από drones. Το ΝΑΤΟ έχει κοιμηθεί στην αρχή της νέας εποχής στον πόλεμο.
Τον Μάρτιο του 2020, ένα ρομπότ δολοφόνος χρησιμοποιήθηκε για πρώτη φορά στον εμφύλιο πόλεμο της Λιβύης, ένα αυτόνομο drone που μπορεί ανεξάρτητα να πλοηγηθεί και να σκοτώσει τους στόχους του. Ήταν ένα τουρκικής κατασκευής Kargu-2 που μπορεί να λειτουργήσει τόσο χειροκίνητα όσο και αυτόματα. Οι αφρικανικές χώρες χρησιμοποιούν τώρα τέτοια drones εναντίον ανταρτών. Η Τουρκία και η Ινδία, καθώς και άλλες χώρες της παγκόσμιας πλειοψηφίας, αντιτίθενται στον περιορισμό ή τη ρύθμιση των θανατηφόρων αυτόνομων οπλικών συστημάτων.
Περισσότερα από Karl-Peter Schwarz
- Από τη δημοκρατία στη «νομολογία»
- Κρίση εμπιστοσύνης: Η παραπληροφόρηση διαβρώνει τη δημοκρατική σταθερότητα
- Τα εθνικά κοινοβούλια είναι το επόμενο δεξιό πεδίο μάχης της ΕΕ
Για τη στοχευμένη δολοφονία τρομοκρατών, το Ισραήλ χρησιμοποιεί τη βάση δεδομένων Lavender, η οποία έχει εντοπίσει δεκάδες χιλιάδες μέλη της Χαμάς και άλλων παλαιστινιακών ομάδων μεταξύ των περίπου 2,3 εκατομμυρίων κατοίκων της Λωρίδας της Γάζας με τη βοήθεια συστημάτων στόχευσης AI. Τέτοια συστήματα εκπαιδεύονται με βάση δεδομένα που περιλαμβάνουν το φύλο, την ηλικία, την εμφάνιση, τα μοτίβα κίνησης και τις δραστηριότητες στα κοινωνικά δίκτυα, μεταξύ άλλων.
Ενώ η ΕΕ συζητά έντονα την κυριαρχία των δεδομένων και τον ατομικό έλεγχο των προσωπικών πληροφοριών, η πραγματικότητα είναι ότι τα δεδομένα των ανθρώπων ήδη συλλέγονται, αναλύονται και ανταλλάσσονται ευρέως. Πέρα από το γεγονός ότι κάθε εφαρμογή αφήνει ψηφιακά ίχνη και πολλοί χρήστες μοιράζονται πρόθυμα ευαίσθητες πληροφορίες, δεδομένα από αισθητήρες smartphone όπως επιταχυνσιόμετρα, γυροσκόπια και μαγνητόμετρα μπορούν να αναλυθούν για τον εντοπισμό ατόμων με υψηλή ακρίβεια.
Σενάρια
Πιθανότατα: Διεύρυνση του τεχνολογικού χάσματος
Δεν σταματά η εξέλιξη της τεχνολογίας AI. Χώρες όπως οι ΗΠΑ και η Κίνα, που διαθέτουν την τεχνογνωσία και την επαρκή υπολογιστική ισχύ, θα επεκτείνουν το οικονομικό και στρατιωτικό τους πλεονέκτημα έναντι των μικρότερων κρατών, ειδικά εκείνων της Παγκόσμιας Πλειοψηφίας. Αυτό θα αυξήσει την παγκόσμια ανισότητα και θα προκαλέσει νέες συγκρούσεις.
Απίθανο: Παγκόσμια απαγόρευση των αυτόνομων όπλων
Υπό τις παρούσες συνθήκες, είναι απίθανο η έρευνα και η παραγωγή αυτόνομων οπλικών συστημάτων να σταματήσει με διεθνείς συμφωνίες. Αυτό θα μπορούσε ίσως να αλλάξει εάν η διεθνής κοινότητα συνειδητοποιήσει τον κίνδυνο τους, για παράδειγμα εάν θανατηφόρα αυτόνομα οπλικά συστήματα προγραμματισμένα σύμφωνα με γενετικά κριτήρια χρησιμοποιηθούν για εθνοκάθαρση σε έναν πόλεμο.
Πιθανότατα: Διάβρωση της ιδιωτικής ζωής και των δημοκρατικών ελευθεριών
Για λόγους εξωτερικής και εσωτερικής ασφάλειας, κανένα κράτος, ακόμη και δημοκρατικό, δεν θα μπορεί να παραιτηθεί οριστικά από τις δυνατότητες επιτήρησης που προσφέρουν τα συστήματα τεχνητής νοημοσύνης. Οι πολίτες αναμένεται να αποδεχθούν σημαντικούς περιορισμούς στην ελευθερία τους στο πλαίσιο μιας τεχνο-δικτατορίας. Εκθέσεις GIS – Παροχή βάσης για αποφάσεις
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου