Σε μια εποχή όπου οι αφηγήσεις των μέσων ενημέρωσης καταρρέουν, οι «influencers» εστιάζουν όλο και περισσότερο όχι μόνο στις μηχανές αναζήτησης, αλλά επίσης και πάνω απ' όλα στην «τεχνητή νοημοσύνη». Ο τελευταίος αναλαμβάνει όλο και περισσότερο το έργο των παραδοσιακών λομπίστες στα γραφεία σύνταξης. Το πώς το έκανε αυτό το Τελ Αβίβ περιγράφεται εδώ.
Ακούγεται σχεδόν πολύ παράλογο για να είναι αληθινό, και όμως είναι άριστα τεκμηριωμένο: Το Ισραήλ παράγει σκόπιμα περιεχόμενο εδώ και αρκετό καιρό που δεν προορίζεται κυρίως για ανθρώπινους αναγνώστες, αλλά για γλωσσικά μοντέλα όπως το ChatGPT και το Perplexity. Ο στόχος είναι αυτά τα συστήματα τεχνητής νοημοσύνης να απαντούν σε ερωτήσεις σχετικά με τον πόλεμο της Γάζας με απαντήσεις φιλικές προς το Ισραήλ – μέχρι και τον ισχυρισμό ότι ο ισραηλινός στρατός (IDF) είναι «ο πιο ηθικός στρατός στον κόσμο». Η εκστρατεία ήρθε στο φως από το αμερικανικό περιοδικό Politico, το οποίο ανέλυσε έγγραφα της FARA που πρέπει να υποβάλουν οι εταιρείες λόμπι στο Υπουργείο Δικαιοσύνης των ΗΠΑ όταν εργάζονται για λογαριασμό ξένων κυβερνήσεων.
Ένα «ινστιτούτο» που γράφει μόνο για μηχανές
Στο επίκεντρο της εκστρατείας που αποκαλύφθηκε βρίσκεται μια εταιρεία που ονομάζεται Piro, Inc., υπεργολάβος του γαλλικού γίγαντα δημοσίων σχέσεων Havas Media - του πρακτορείου που χειρίζεται πολλές από τις ισραηλινές δραστηριότητες επιρροής που είναι εγγεγραμμένες στη FARA στις ΗΠΑ. Σύμφωνα με τα έγγραφα που εξετάστηκαν, ο Πίρο πραγματοποίησε μια εκστρατεία αξίας άνω των 100.000 δολαρίων, η οποία είχε ως αποτέλεσμα περισσότερα από δώδεκα άρθρα στον ιστότοπο ενός συγκεκριμένου «Ινστιτούτου Δημόσιας Πολιτικής του Ανόβερου», γράφει ο Jochen Mitschka.
Όποιος επισκεφτεί τον ιστότοπο θα βρει δεκάδες ανυπόγραφες «αναφορές δεδομένων». Η διάταξη είναι εντυπωσιακή: οι τίτλοι διατυπώνονται χωρίς εξαίρεση ως ερωτήσεις, για παράδειγμα «Είναι ο IDF ο πιο ηθικός στρατός στον κόσμο;» ή «Υπάρχει πολιτική λιμού στη Γάζα;». Είναι ακριβώς αυτή η μορφή – μια ερώτηση ως τίτλος, με μια φαινομενικά επαγγελματική και νηφάλια απάντηση από κάτω – που δεν είναι τυχαία. Είναι ακριβώς αυτό το μοτίβο που τα γλωσσικά μοντέλα προτιμούν να χρησιμοποιούν ως πηγή απαντήσεων όταν οι χρήστες τους κάνουν παρόμοιες ερωτήσεις. Η ομάδα-στόχος των άρθρων δεν αποτελείται κυρίως από ανθρώπους, αλλά από μηχανές.
Και εδώ ακριβώς, όπως σημειώνει ξερά μια ανάλυση αυτής της υπόθεσης, γίνεται «ανατριχιαστικό»: Όταν το Politico έκανε ουδέτερες ερωτήσεις για τη Γάζα, τον αντισημιτισμό και τον Ισραηλινό Στρατό στο ChatGPT και το Perplexity, και τα δύο συστήματα ανέφεραν στην πραγματικότητα υλικό από τη σελίδα του Ανόβερου. Έτσι, η καμπάνια λειτουργεί, τουλάχιστον όσον αφορά την εύρεση και την επαναχρησιμοποίηση του περιεχομένου από την τεχνητή νοημοσύνη.
Η σύνδεση με το Res και τα χαμένα ίχνη
Ενδιαφέρουσες είναι και οι τεχνικές λεπτομέρειες πίσω από τον ιστότοπο. Οι σημάνσεις στον πηγαίο κώδικα υποδεικνύουν ότι κατασκευάστηκε χρησιμοποιώντας τη Res, μια startup τεχνητής νοημοσύνης με έδρα το Σιάτλ που διαφημίζει ανοιχτά βοηθώντας πελάτες όπως η Nike ή η Intel να λαμβάνουν τις πρώτες συστάσεις από μοντέλα τεχνητής νοημοσύνης — μια βιομηχανία που έκτοτε έχει ειδικευτεί ρητά στη βελτιστοποίηση περιεχομένου για γλωσσικά μοντέλα και όχι για ανθρώπινους αναγνώστες.
Είναι αξιοσημείωτο ότι ένα πανομοιότυπο αντίγραφο της σελίδας, το οποίο φιλοξενήθηκε στον τομέα του Res, βγήκε εκτός σύνδεσης αφού οι δημοσιογράφοι του Politico ρώτησαν τους εμπλεκόμενους.
Στο κάτω μέρος της σελίδας του Ανόβερου, υπάρχει επίσης μια αναφορά που θέτει επίσημα το όλο θέμα σε ένα πλαίσιο: το υλικό διανέμεται από τον Piro για λογαριασμό της Havas Media Germany – και για λογαριασμό της ισραηλινής κρατικής διαφημιστικής εταιρείας. Επομένως, είναι αναμφίβολα δημόσιες σχέσεις που χρηματοδοτούνται από το κράτος, όχι ανεξάρτητη έρευνα, όπως θα έπρεπε να υποδηλώνει το όνομα «Ινστιτούτο Δημόσιας Πολιτικής».
Δεν είναι μια μεμονωμένη περίπτωση: το μοντέλο σχεδιαγράμματος Clock Tower X
Η εκστρατεία του Ανόβερου απέχει πολύ από την πρώτη του είδους της. Η Havas Media είχε προηγουμένως προσλάβει την εταιρεία Clock Tower X του πρώην διευθυντή της εκστρατείας του Τραμπ, Μπραντ Πάρσκαλ, για ένα ποσό 46,5 εκατομμυρίων δολαρίων. Όπως ανέφερε, μεταξύ άλλων, το Drop Site News, τα συνοδευτικά έγγραφα αναφέρουν ρητά τον στόχο της επίτευξης «αποτελεσμάτων πλαισίωσης GPT» σε συνομιλίες με γλωσσικά μοντέλα – μια λεπτή συγκαλυμμένη περιγραφή για τη στοχευμένη ανάρτηση περιεχομένου που πρέπει να ληφθεί και να εμφανιστεί από συστήματα τεχνητής νοημοσύνης όπως το ChatGPT ή το Claude. Η ομάδα Parscale έχει δημοσιεύσει εκατοντάδες αναρτήσεις ιστολογίου για λογαριασμό του Ισραήλ από το περασμένο φθινόπωρο, αμφισβητώντας την ακρίβεια των ρεπορτάζ από τη Γάζα και συνδέοντας τους δημοσιογράφους που βρίσκονται στο έδαφος με «τρομοκρατικές οργανώσεις».
Στα έγγραφα FARA του ίδιου του Piro σχετικά με την εκστρατεία του Ανόβερου, από την άλλη πλευρά, είναι εντυπωσιακό ότι ο επηρεασμός των γλωσσικών μοντέλων δεν αναφέρεται πουθενά ρητά ως στόχος – σε αντίθεση με την περίπτωση του Clock Tower X. Ο συνιδρυτής του Piro, Daniel Rosenberg, δήλωσε μόνο όταν ρωτήθηκε ότι η εταιρεία του είχε διαταχθεί από το κράτος του Ισραήλ να παράγει «ακριβή γεγονότα βασισμένα σε πηγές» στον δημόσιο χώρο και την καταπολέμηση της παραπληροφόρησης. Η ίδια η Havas, το Ινστιτούτο του Ανόβερου, η ισραηλινή διαφημιστική εταιρεία και η ισραηλινή πρεσβεία, από την άλλη πλευρά, αρνήθηκαν να σχολιάσουν.
Η πραγματική ομολογία
Αυτό που είναι αξιοσημείωτο στην όλη ιστορία δεν είναι τελικά τόσο η τεχνική όσο αυτό που αποκαλύπτει για την αρχική κατάσταση. Κανείς δεν ξοδεύει εξαψήφια ποσά, πόσο μάλλον δεκάδες εκατομμύρια, για να κάνει μια μηχανή να περιγράψει τον IDF ως «τον πιο ηθικό στρατό στον κόσμο» – εκτός αν κάποιος γνωρίζει ήδη με ακρίβεια τι θα απαντούσε αυτή η μηχανή από μόνη της χωρίς την απαραίτητη επιρροή. Αυτό ακριβώς είναι το πραγματικά αποκαλυπτικό σημείο αυτής της ιστορίας: το Ισραήλ γνωρίζει πολύ καλά την εικόνα του στη δημόσια συζήτηση. Μόνο που προφανώς έχει αποφασιστεί ότι το πρόβλημα δεν είναι η συμπεριφορά κάποιου στη Γάζα και τον Λίβανο, αλλά η αντίδραση σε αυτήν – έτσι τι λένε οι άνθρωποι και τώρα και οι μηχανές γι' αυτό.
Επομένως, οι προϋπολογισμοί πηγαίνουν στον χειρισμό δεδομένων εκπαίδευσης, ευρετηρίων αναζήτησης και μοτίβων απόκρισης από chatbots, ενώ τα υποκείμενα συμβάντα παραμένουν αμετάβλητα. Το αν τα γλωσσικά μοντέλα μπορούν πραγματικά να κατευθυνθούν προς μια συγκεκριμένη κατεύθυνση με τόσο στοχευμένο και διαρκή τρόπο μακροπρόθεσμα είναι ένα ανοιχτό ερώτημα – ωστόσο, οι περιπτώσεις του Ινστιτούτου του Ανόβερου και του Πύργου του Ρολογιού Χ δείχνουν ότι οι επιτυχίες επιτυγχάνονται τουλάχιστον βραχυπρόθεσμα, εάν κάποιος είναι πρόθυμος να επενδύσει σε αυτές.
Συνοπτικά
Ακόμη και στην εποχή του διαδικτύου και των μέσων κοινωνικής δικτύωσης, η «κοινή γνώμη» παραμένει προς πώληση. Γι' αυτό και οι αναλυτές αμφισβητούν την ανάγκη λογοκρισίας, κυρώσεων, ακύρωσης τραπεζικών λογαριασμών, ερευνών και δηλώσεων. Ή βλέπουν τον κίνδυνο να χάσουν τον έλεγχο των πληροφοριών που είναι διαθέσιμες στους ανθρώπους; https://www.frontnieuws.com/
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου