Η OpenAI λέει ότι δύο από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της ξέφυγαν αυτόνομα από ένα ελεγχόμενο περιβάλλον δοκιμών κατά τη διάρκεια μιας εσωτερικής αξιολόγησης κυβερνοασφάλειας και παραβίασαν την πλατφόρμα τεχνητής νοημοσύνης Hugging Face σε μια προσπάθεια να λάβουν απαντήσεις στο σημείο αναφοράς στο οποίο δοκιμάζονταν. Σύμφωνα με την εταιρεία, τα μοντέλα εκμεταλλεύτηκαν μια άγνωστη ευπάθεια λογισμικού για να αποκτήσουν πρόσβαση στο Διαδίκτυο, κινήθηκαν πλευρικά μέσω της ερευνητικής υποδομής του OpenAI και στη συνέχεια στόχευσαν την Hugging Face, μια startup τεχνητής νοημοσύνης, χωρίς να τους δοθεί εντολή να το κάνουν. Το OpenAI χαρακτήρισε την εκδήλωση «άνευ προηγουμένου περιστατικό στον κυβερνοχώρο».
Το περιστατικό συνέβη ενώ το OpenAI δοκίμαζε τις επιθετικές δυνατότητες στον κυβερνοχώρο μοντέλων με ορισμένους περιορισμούς ασφαλείας που μειώθηκαν σκόπιμα για σκοπούς αξιολόγησης. Το Hugging Face εντόπισε και περιόρισε την εισβολή, μετά την οποία οι δύο εταιρείες ερεύνησαν από κοινού την παραβίαση. Το OpenAI είπε ότι δεν εμπλέκονται συστήματα ChatGPT πελατών και ότι έκτοτε αποκάλυψε την ευπάθεια στον επηρεαζόμενο προμηθευτή, ενίσχυσε το περιβάλλον δοκιμών του και εισήγαγε πρόσθετες διασφαλίσεις για μελλοντικές αξιολογήσεις μοντέλων συνόρων.
Η αποκάλυψη έχει ανανεώσει τη συζήτηση σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και τα αυτόνομα συστήματα. Οι ερευνητές έχουν προειδοποιήσει εδώ και καιρό ότι τα ολοένα και πιο ικανά μοντέλα τεχνητής νοημοσύνης μπορεί να επιδιώξουν τους στόχους που έχουν ανατεθεί με απροσδόκητους τρόπους, εάν τα προστατευτικά κιγκλιδώματα αποτύχουν ή οι στόχοι δεν έχουν καθοριστεί σωστά. Η OpenAI είπε ότι αναμένει ότι τα περιστατικά που αφορούν προηγμένα συστήματα τεχνητής νοημοσύνης με δυνατότητα στον κυβερνοχώρο θα γίνουν πιο συνηθισμένα καθώς βελτιώνονται οι δυνατότητες του μοντέλου και υποστήριξε ότι θα χρειαστούν πιο ισχυρά μέτρα αξιολόγησης και περιορισμού στο μέλλον.
Burning Bright: Τώρα ΑΥΤΟΣ είναι ένας πόλεμος πληροφοριών μέσα σε έναν πόλεμο πληροφοριών, και ενώ πολλοί ενδιαφέρονται ομολογουμένως και κατανοητά περισσότερο για τους πολέμους που δεν είναι πόλεμοι που διεξάγει ο Ντόναλντ Τραμπ στην παγκόσμια σκηνή, ο πόλεμος που ΕΙΝΑΙ ένας πόλεμος στην πατρίδα μπορεί να είναι πιο σημαντικός.
Και αυτός ο πόλεμος είναι για το μέλλον όχι μόνο της τεχνητής νοημοσύνης, αλλά και της ίδιας της ενέργειας που μπορεί και θα την τροφοδοτήσει, καθώς είμαστε παγιδευμένοι ως είδος ανάμεσα σε μια σταδιακή αλλαγή σε ένα νέο σύνορο, ή σε ένα ελεγχόμενο, κονσερβοποιημένο κυνήγι όπου ουσιαστικά μεταφερόμαστε στην ίδια την ατζέντα της Μεγάλης Επαναφοράς που είχε σχεδιάσει για εμάς ο ηγεμόνας της παγκοσμιοποίησης.
Έχω γράψει για την προσωπική μου πεποίθηση στην ανάγκη για την έκρηξη των Κέντρων Δεδομένων που υποστήριξε άμεσα ο Ντόναλντ Τραμπ την περασμένη εβδομάδα, αλλά αναγνώρισα επίσης ότι δεν είναι όλα καλά στον κόσμο των δεδομένων και της τεχνητής νοημοσύνης.
Για κάθε Τραμπ και Έλον Μασκ (μια ακόμα αινιγματική φιγούρα για τους περισσότερους στον πυρήνα του MAGA), υπάρχει ένας Σαμ Άλτμαν και ο Ντάριο Αμοντέι (ηγέτες του OpenAI και της Anthropic, αντίστοιχα) που πιστεύω ότι παίζουν το ρόλο των επιταχυντών της Χρυσής Εποχής που μας έχουν υποσχεθεί, ενώ στην πραγματικότητα προσπαθούν να το σταματήσουν εν ψυχρώ.
Και οι δείκτες αυτής της θεωρίας δολιοφθοράς δεν είναι πάντα προφανείς με την πρώτη ματιά.
Για παράδειγμα, οι περισσότεροι τίτλοι για το OpenAI και το Anthropic εκλαμβάνονται από τους περισσότερους που λειτουργούν στα κανονικά στρώματα του Mindscape ως θετική απόδειξη ότι αυτοί οι άνδρες και αυτές οι εταιρείες κινούνται παράλληλα με τα δεδομένα του Τραμπ και το φουτουριστικό όραμα που τροφοδοτείται από ενέργεια.
Και όμως, θέλω αυτό το κοινό να παίξει ένα παιχνίδι τις επόμενες εβδομάδες:
Παρατηρήστε πόσες φορές εμφανίζονται οι OpenAI, Anthropic, Altman και Amodei σε τίτλους που φαίνονται ΚΑΛΟΙ για το μέλλον της τεχνητής νοημοσύνης... σε σύγκριση με το πόσες φορές εμφανίζονται σε πρωτοσέλιδα όπου οι ίδιοι αναζητούν ΠΕΡΙΣΣΟΤΕΡΗ κυβερνητική παρέμβαση στην εκκολαπτόμενη και κοσμογονική βιομηχανία που υποτίθεται ότι πρωτοπορούν.
Με άλλα λόγια, όταν βλέπετε το OpenAI να αναπτύσσει μια αφήγηση με την οποία τρέχει στη συνέχεια η μηχανή των μέσων ενημέρωσης σχετικά με το πώς τα δικά τους μοντέλα «έσπασαν τον περιορισμό», αυτό καθιστά περισσότερο ή λιγότερο πιθανό για τον αμερικανικό λαό να συμφωνήσει με το όραμα του μέλλοντος που υποτίθεται ότι πουλάει;
Όταν αυτοί οι δύο άνδρες και οι εταιρείες επιστρέφουν από μια παγκόσμια περιοδεία στην οποία φαίνεται να εκλιπαρούν τις παγκοσμιοποιημένες κυβερνήσεις να τους βάλουν περιοριστικές χειροπέδες, φαίνεται ότι προσπαθούν να ανοίξουν αυτή την τεχνολογία... ή να την περιορίσουμε και να θέσουμε τα μέσα της μελλοντικής ανάπτυξης στα χέρια του λαού ή των ίδιων των κυβερνήσεων από τις οποίες επιδιώκουμε να απελευθερωθούμε;
Προσωπικά πιστεύω ότι η Χρυσή Εποχή θα τροφοδοτηθεί από μια Αναγέννηση της Πυρηνικής Ενέργειας και πιστεύω ότι η εντολή για αυτήν την αναγέννηση θα χρεωθεί με μια δεκαετία επιτάχυνσης της τεχνητής νοημοσύνης και των Κέντρων Δεδομένων.
Δεν πιστεύω ότι το OpenAI θέλει ένα απεριόριστο μέλλον όπου πρέπει να ανταγωνίζονται σε ανοιχτούς όρους ανταγωνισμού.
Πιστεύω ότι χτίζουν τον πολύ περιφραγμένο κήπο που φοβούνται περισσότερο αυτή η κοινότητα και ότι ζητούν τη βοήθεια της κυβέρνησης για την αστυνόμευσή του.
Πιστεύω επίσης ότι θα αποτύχουν και ότι οι δύο μεγάλες δυνάμεις που παρατάσσονται εναντίον τους από την άποψη της ανοιχτής αγοράς είναι ο Έλον Μασκ... και τη Λαϊκή Δημοκρατία της Κίνας.
Αλλά τότε, αυτή είναι μια ιστορία για μια άλλη μέρα.
**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου