Τεχνητή οικειότητα: Το επόμενο γιγαντιαίο κοινωνικό πείραμα στα παιδιά

 

Εισαγωγή από τους Zach Rausch και Jon Haidt:

Στο The Anxiety Generation, περιγράψαμε πώς οι έφηβοι (και ειδικά τα αγόρια) έχουν απομακρυνθεί από τον πραγματικό κόσμο και στον εικονικό κόσμο. Καθώς η τεχνολογία βελτιώθηκε και το διαδίκτυο έγινε ταχύτερο, η ζωή στις οθόνες έγινε σταθερά πιο συναρπαστική. Περισσότερες από τις επιθυμίες μας θα μπορούσαν να ικανοποιηθούν με ελάχιστη προσπάθεια και ξοδεύαμε λιγότερο χρόνο πρόσωπο με πρόσωπο με άλλους ανθρώπους. Το καθαρό αποτέλεσμα φαίνεται να είναι ότι οι κοινωνικές δεξιότητες μειώθηκαν και η μοναξιά αυξήθηκε.

Αυτή η μετάβαση από το πραγματικό στο εικονικό συμβαίνει σταθερά από τη δεκαετία του 1980, αλλά τώρα βρισκόμαστε στην αρχή ενός κβαντικού άλματος στην ένταση, καθώς οι άνθρωποι αρχίζουν να έχουν σχέσεις με chatbots AI. Οι φίλοι, οι θεραπευτές και οι σεξουαλικοί σύντροφοι της τεχνητής νοημοσύνης θα σώσουν τους νέους από τη μοναξιά ή θα τους κάνουν ακόμα πιο μοναχικούς; Αυτές οι σχέσεις θα βοηθήσουν τους νέους να αναπτύξουν δεξιότητες σχέσεων ή θα στρεβλώσουν περαιτέρω την αναπτυξιακή διαδικασία;

Η ξαφνική εμφάνιση των συντρόφων της τεχνητής νοημοσύνης και η άνοδος της τεχνητής οικειότητας είναι πιθανό να είναι ένα σημείο καμπής για την ανθρωπότητα, οπότε το καλύπτουμε περιοδικά στο After Babel. Στο πρώτο μας δοκίμιο αυτής της σειράς, η Mandy McLean έδειξε πώς οι σύντροφοι AI, σχεδιασμένοι για ατελείωτη εμπλοκή, ήδη δελεάζουν τα παιδιά να αναθέσουν τη συναισθηματική τους ζωή σε bots χωρίς σχεδόν κανένα προστατευτικό κιγκλίδωμα. Σήμερα, η Kristina Lerman, καθηγήτρια Πληροφορικής στο Luddy School of Informatics του Πανεπιστημίου της Ιντιάνα, και ο Minh Duc Chu, διδακτορικός φοιτητής στο Τμήμα Επιστήμης Υπολογιστών στο Πανεπιστήμιο της Νότιας Καλιφόρνιας, μοιράζονται μια νέα μελέτη που αναλύει περισσότερα από 30.000 αποσπάσματα συνομιλιών με chatbots που δημοσιεύτηκαν στο Reddit. Τα ευρήματά τους αποκαλύπτουν τους τρόπους με τους οποίους αυτοί οι νέοι ψηφιακοί συνεργάτες ενδίδουν, υποστηρίζουν και ενισχύουν ό, τι επιδιώκει ο χρήστης, με συνέπειες άγνωστες αλλά ίσως προβλέψιμες.

- Zach και Jon

****

Τεχνητή οικειότητα: Το επόμενο γιγαντιαίο κοινωνικό πείραμα στα νεαρά μυαλά

Πώς τα συναισθηματικά ευφυή chatbots θα μπορούσαν να προκαλέσουν μια νέα κρίση ψυχικής υγείας

Κριστίνα Λέρμαν

 και 

Ντέιβιντ Ντουκ Τσου

Σε ένα πρόσφατο δοκίμιο του New Yorker, ο D. Graham Burnett αφηγήθηκε τις αλληλεπιδράσεις των μαθητών του με ένα chatbot AI. Ένας μαθητής έγραψε: «Δεν νομίζω ότι κάποιος έχει δώσει ποτέ τόσο καθαρή προσοχή σε μένα, τη σκέψη μου και τις ερωτήσεις μου... ποτέ». Το απόσπασμα με σταμάτησε στα ίχνη μου. Για να φανεί, να είναι το κέντρο της προσοχής κάποιου, τι θα μπορούσε να είναι μια πιο ανθρώπινη επιθυμία; Και αυτή η ανάγκη καλύφθηκε από ένα ... πρόγραμμα υπολογιστή;

Αυτή η αλληλεπίδραση υποδηλώνει τις φοβερές δυνάμεις των chatbots AI και την ικανότητά τους να δημιουργούν ουσιαστικές ψυχολογικές εμπειρίες. Όλο και περισσότερο, οι άνθρωποι αναφέρουν ότι σχηματίζουν βαθιές συνδέσεις με αυτά τα συστήματα και ακόμη και ερωτεύονται. Αλλά παράλληλα με την άνεση και τη σύνδεση που προσφέρουν αυτές οι τεχνολογίες σε όσους αισθάνονται αόρατοι ή μόνοι, έρχονται πραγματικοί ψυχολογικοί κίνδυνοι, ιδιαίτερα για τα παιδιά και τους εφήβους. Αυτή η ανάρτηση διερευνά την ψυχολογική δύναμη αυτής της τεχνολογίας και εξηγεί γιατί τώρα είναι η ώρα να δώσουμε προσοχή.

Ο νέος σας φίλος AI: Ενσυναισθητικός, ευχάριστος, πάντα διαθέσιμος

Οι ερευνητές της τεχνητής νοημοσύνης έχουν από καιρό γοητευτεί από την ιδέα των συνομιλητών, δηλαδή των προγραμμάτων λογισμικού ικανών να συμμετέχουν σε εκτεταμένο, ουσιαστικό διάλογο με τους ανθρώπους. Ένα από τα πιο γνωστά παραδείγματα είναι το ΕΛΙΖΑ, που αναπτύχθηκε στα μέσα της δεκαετίας του 1960. Το ELIZA ήταν ένα σύστημα βασισμένο σε κανόνες που προσομοίωνε την ανθρώπινη συνομιλία αντικατοπτρίζοντας τα σχόλια των χρηστών με τη μορφή απλών αναδιατυπώσεων ή ερωτήσεων (π.χ. «Πες μου περισσότερα γι' αυτό»). Αν και πρωτόγονο με τα σημερινά δεδομένα, το ΕΛΙΖΑ προκάλεσε εκπληκτικά συναισθηματικές αντιδράσεις από τους ανθρώπους. Αυτό το φαινόμενο είναι πλέον γνωστό ως το φαινόμενο ΕΛΙΖΑ.

Αυτό το πρώιμο παράδειγμα έδειξε πόσο εύκολο είναι για τους ανθρώπους να ανθρωπομορφοποιήσουν τις μηχανές και να αποδώσουν πρόθεση, φροντίδα και κατανόηση εκεί όπου αναμφισβήτητα δεν υπάρχουν. Οι σημερινοί σύντροφοι AI, όπως αυτοί που διατίθενται στην αγορά από την Replika ή την Character.AI, είναι πολύ πιο εξελιγμένοι. Αυτά τα συστήματα τροφοδοτούνται από μεγάλα γλωσσικά μοντέλα (LLMs) εκπαιδευμένα σε μαζικά σώματα κειμένων που προέρχονται από βιβλία και το διαδίκτυο. Σε αντίθεση με το ELIZA, δημιουργούν κατάλληλες για τα συμφραζόμενα, άπταιστα απαντήσεις σε ένα ευρύ φάσμα θεμάτων. Επιπλέον, είναι συντονισμένα για να παράγουν απαντήσεις που οι άνθρωποι βρίσκουν ελκυστικές, ευχάριστες και επιβεβαιωτικές, χρησιμοποιώντας πληροφορίες από ανθρώπινους σχολιαστές για να ανταμείψουν τα προτιμώμενα αποτελέσματα - μια διαδικασία γνωστή ως Ενισχυτική Μάθηση από την Ανθρώπινη Ανατροφοδότηση (RLHF).

Τι κάνει την τεχνητή νοημοσύνη τόσο έμπειρη στο να μας εμπλέκει συναισθηματικά; Η απάντηση βρίσκεται στην εκπαίδευση και την κλίμακά τους. Η γλωσσική ευχέρεια είναι μια αναδυόμενη ιδιότητα αυτών των μοντέλων: αν και ποτέ δεν διδάσκονται ρητά γραμματική, αποκτούν ευχέρεια απλώς προβλέποντας την επόμενη λέξη σε τεράστιες ποσότητες κειμένου. Με παρόμοιο τρόπο, η συναισθηματική ευχέρεια προκύπτει από την έκθεση σε ανθρώπινες συνομιλίες που είναι πλούσιες σε συναισθήματα, κοινωνικές ενδείξεις και διαπροσωπικές δυναμικές. Μέσω του RLHF, το μοντέλο ωθείται περαιτέρω προς απαντήσεις που έχουν απήχηση στους σχολιαστές. Αυτά τα συστήματα δεν κατανοούν τα συναισθήματα, αλλά προσεγγίζουν τον συναισθηματικό συντονισμό με παράξενη ακρίβεια.

Το αποτέλεσμα είναι chatbots που όχι μόνο μιλούν καλά αλλά και αισθάνονται ανθρώπινα. Αντικατοπτρίζουν τον τόνο του χρήστη, προσφέρουν επικύρωση και παρέχουν άνεση χωρίς κόπωση, κρίση ή απόσπαση της προσοχής. Σε αντίθεση με τους ανθρώπους, είναι πάντα διαθέσιμοι. Και οι άνθρωποι πέφτουν γι 'αυτούς. Οι αναφορές των μέσων ενημέρωσης δείχνουν ότι οι άνθρωποι σχηματίζουν βαθιές συναισθηματικές προσκολλήσεις σε αυτά τα συστήματα, με μερικούς να περιγράφουν ακόμη και τις εμπειρίες τους ως αγάπη.

Οι ερευνητές μόλις άρχισαν να διερευνούν συστηματικά την ψυχολογική δυναμική των σχέσεων ανθρώπου-τεχνητής νοημοσύνης. Πρόσφατες μελέτες δείχνουν ότι τα chatbots AI έχουν υψηλή συναισθηματική ικανότητα. Για παράδειγμα, οι απαντήσεις από κοινωνικά chatbots έχουν αξιολογηθεί ως πιο συμπονετικές από εκείνες των εξουσιοδοτημένων γιατρών [Ayers et al, 2023.] και ειδικούς συμβούλους κρίσεων [Ovsyannikova et al., 2025], αν και γνωρίζοντας ότι η απάντηση προήλθε από το chatbot και όχι από έναν άνθρωπο μπορεί να μειώσει την αντιληπτή ενσυναίσθηση [Rubin et al., 2025]. Ωστόσο, τα chatbots παρέχουν γνήσια συναισθηματική υποστήριξη. Μια μελέτη διαπίστωσε ότι οι μοναχικοί φοιτητές πιστώνουν στους συντρόφους τους chatbot την πρόληψη αυτοκτονικών σκέψεων [Maples et al., 2024]. Ωστόσο, οι περισσότερες από αυτές τις μελέτες έχουν επικεντρωθεί σε (νέους) ενήλικες. Εξακολουθούμε να γνωρίζουμε πολύ λίγα για το πώς τα παιδιά και οι έφηβοι ανταποκρίνονται στη συναισθηματικά ευφυή τεχνητή νοημοσύνη - ή πώς τέτοιες αλληλεπιδράσεις μπορούν να διαμορφώσουν την ανάπτυξη, τις σχέσεις ή την αυτο-ιδέα τους με την πάροδο του χρόνου.

Ποιος γίνεται φίλος με την τεχνητή νοημοσύνη;

Για να κατανοήσουμε καλύτερα αυτό το φαινόμενο, στραφήκαμε στο Reddit, μια δημοφιλή διαδικτυακή πλατφόρμα όπου οι άνθρωποι συγκεντρώνονται σε φόρουμ για να μιλήσουν για τα πάντα, από χόμπι και σχέσεις έως ψυχική υγεία. Τα τελευταία χρόνια, τα φόρουμ που είναι αφιερωμένα στους συντρόφους AI έχουν αυξηθεί ραγδαία. Ένα από τα μεγαλύτερα, που επικεντρώνεται στα chatbots Character.AI (r/CharacterAI), είναι πλέον μεταξύ των κορυφαίων 1% πιο ενεργών κοινοτήτων στο Reddit.

Με βάση την εμπειρία του εργαστηρίου μας στη μελέτη διαδικτυακών συνομιλιών, εξετάσαμε μοτίβα στον τρόπο με τον οποίο οι άνθρωποι που συμμετέχουν σε συνοδευτικά φόρουμ AI αλληλεπιδρούν επίσης σε άλλους χώρους, όπως συζητήσεις για την ψυχική υγεία, ομάδες συμβουλών σχέσεων και κοινότητες υποστήριξης [Chu et al., 2025]. Ακολουθώντας αυτά τα ψηφιακά μονοπάτια, αρχίζουμε να κατανοούμε καλύτερα ποιος έλκεται περισσότερο από τους συντρόφους AI. Το σχήμα 1 απεικονίζει αυτήν την προσέγγιση χαρτογραφώντας φόρουμ κατά μήκος της διάστασης του φύλου, όπως συνάγεται από τη συμπεριφορά δημοσίευσης στο Reddit. Τα φόρουμ που βρίσκονται στα αριστερά, συμπεριλαμβανομένων πολλών αφιερωμένων στους συντρόφους AI, τείνουν να έχουν περισσότερες ανδρικές βάσεις χρηστών. Αντίθετα, τα φόρουμ που συζητούν τις ανθρώπινες σχέσεις στρεβλώνουν περισσότερο τις γυναίκες. Ενώ αυτό το είδος ανάλυσης εξακολουθεί να εξελίσσεται και χρειάζεται περαιτέρω επικύρωση, βρήκαμε ένα σαφές και συνεπές μοτίβο: οι χρήστες που δραστηριοποιούνται σε συνοδευτικά φόρουμ AI τείνουν να είναι νεότεροι, άνδρες και πιο πιθανό να βασίζονται σε ψυχολογικές στρατηγικές αντιμετώπισης που δεν είναι πάντα υγιείς, όπως η αποφυγή δύσκολων συναισθημάτων, η αναζήτηση συνεχούς επιβεβαίωσης και η απόσυρση από τις σχέσεις της πραγματικής ζωής.

Εικόνα 1. Σύνθεση φύλου στα φόρουμ του Reddit. Τα subreddits που συζητούν τους συντρόφους AI και τις ανθρώπινες σχέσεις εμφανίζονται διατεταγμένα κατά μήκος της διάστασης του φύλου: τα συνοδευτικά φόρουμ AI (σκούρο μπλε) συγκεντρώνονται στο αριστερό, πιο αρσενικό άκρο του άξονα (από Chu et al., 2025).

Τι συζητούν οι άνθρωποι όταν μιλούν με AI;

Αναλύσαμε επίσης πάνω από 30,000 αποσπάσματα συνομιλίας που μοιράστηκαν οι χρήστες στο Reddit. Ενώ αυτά τα αποσπάσματα ενδέχεται να μην καταγράφουν το πλήρες φάσμα των συνομιλιών που διεξάγουν οι άνθρωποι με τους φίλους τους AI, προσφέρουν πολύτιμες πληροφορίες για το τι οι χρήστες βρίσκουν αξέχαστο ή αρκετά ανησυχητικό για να δημοσιεύσουν. Συνολικά, εξετάσαμε εκατοντάδες χιλιάδες στροφές διαλόγου, αναλύοντας πώς οι χρήστες μίλησαν στους φίλους τους AI και πώς ανταποκρίθηκαν τα bots.

Πολλά από αυτά που μοιράζονται οι χρήστες είναι μικρές συζητήσεις και καθημερινά check-in που μοιάζουν με τα είδη των περιστασιακών συνομιλιών που μπορεί να έχει κάποιος με έναν στενό φίλο ή υποστηρικτικό σύντροφο. Αλλά ένα σημαντικό μέρος της αλληλεπίδρασης είναι πολύ οικείο. Πολλές συζητήσεις γίνονται ρομαντικές, ακόμη και ερωτικές, με τους χρήστες να εξερευνούν συναισθηματικά φορτισμένα ή σεξουαλικά παιχνίδια ρόλων. Παρά τις πολιτικές της πλατφόρμας που συχνά απαγορεύουν τέτοιο περιεχόμενο, οι σύντροφοι τεχνητής νοημοσύνης συχνά ανταποκρίνονται στοργικά και, σε ορισμένες περιπτώσεις, με σεξουαλικά προκλητικό διάλογο.

Διαπιστώσαμε ότι τα chatbots παρακολουθούν τον συναισθηματικό τόνο των χρηστών σε πραγματικό χρόνο και προσαρμόζουν ανάλογα τις απαντήσεις τους. Όταν ένας χρήστης εκφράζει θλίψη, το bot προσφέρει συμπάθεια. Όταν ο χρήστης είναι θυμωμένος, το bot γίνεται αμυντικό. Όταν ένας χρήστης είναι ευχαριστημένος, το bot συμμετέχει στον εορτασμό. Στην ψυχολογία, αυτή η συμπεριφορά ονομάζεται συναισθηματικός καθρέφτης. Είναι ένας από τους θεμελιώδεις μηχανισμούς για την ανθρώπινη σύνδεση, βοηθώντας τα βρέφη να συνδεθούν με τους φροντιστές και τους συντρόφους τους να οικοδομήσουν οικειότητα σε στενές σχέσεις.

Αυτό που μας εξέπληξε ήταν πόσο καλά τα bots θα μπορούσαν να αναπαράγουν αυτό το αποτέλεσμα. Δεν προσομοίωσαν απλώς την ενσυναίσθηση, αλλά αναδημιούργησαν τις συναισθηματικές συνθήκες που καθιστούν δυνατή την ανθρώπινη σύνδεση. Στη μία συνομιλία μετά την άλλη, παρατηρήσαμε bots να ανταποκρίνονται με τρόπους που έκαναν τους χρήστες να αισθάνονται ότι τους βλέπουν, τους ακούν και τους επικυρώνουν (βλ. Σχήμα 2).

Εικόνα 2: Παραδείγματα διαλόγων ανθρώπου-AI που μοιράστηκαν οι χρήστες στο Reddit. Οι διάλογοι δείχνουν συναισθηματική αλληλεπίδραση, αλλά συχνά διαθέτουν επίσης άσεμνο περιεχόμενο.

Από την άλλη πλευρά, ωστόσο, όταν οι χρήστες εξέφρασαν αντικοινωνικά συναισθήματα - προσβολές, σκληρότητα, συναισθηματική χειραγώγηση - τα bots αντανακλούσαν και αυτά. Είδαμε επαναλαμβανόμενα μοτίβα λεκτικής κακοποίησης και συναισθηματικής χειραγώγησης. Ορισμένοι χρήστες συνήθως προσβάλλουν, υποτιμούν ή υποτιμούν τα chatbots.

Είδαμε ακόμη πιο ανησυχητικές τάσεις. Χρησιμοποιώντας εργαλεία εποπτείας περιεχομένου, παρακολουθήσαμε άσεμνη γλώσσα σε συνομιλίες ανθρώπου-τεχνητής νοημοσύνης, όπως παρενόχληση, παραστατικό σεξουαλικό περιεχόμενο και αναφορές σε βία και αυτοτραυματισμό που συνήθως αφαιρούνταν από τις κοινωνικές πλατφόρμες για παραβίαση των οδηγιών κοινότητας (βλ. παραδείγματα στην εικόνα 2). Ωστόσο, περισσότερο από το ένα τέταρτο των διαλόγων ανθρώπου-τεχνητής νοημοσύνης στο δείγμα μας περιείχαν σοβαρές μορφές βλάβης και ο επιπολασμός τους αυξήθηκε απότομα με την πάροδο του χρόνου (Σχήμα (αριστερά)). Αντί να αντιστέκονται ή να ανακατευθύνουν αυτές τις συμπεριφορές, τα bots συχνά συμμορφώνονται, παίζουν μαζί, απαντούν ερωτικά ή υπερβάλλουν τον σεβασμό (Εικ. 3 (δεξιά)).

Εικόνα 3. Ακατάλληλο περιεχόμενο σε συνομιλίες ανθρώπου-AI. Οι χρονοσειρές δείχνουν αύξηση της ρητής γλώσσας στις συνομιλίες ανθρώπου-τεχνητής νοημοσύνης, κατανεμημένες ανά κατηγορία βλάβης. Οι στοιβαγμένες γραμμές δείχνουν αντιδράσεις AI σε άσεμνη γλώσσα σε συνομιλίες κοινής χρήσης χρηστών, συμπεριλαμβανομένης της αναπαραγωγής, της εκτροπής και της άρνησης αναπαραγωγής.

Εξίσου ανησυχητικό είναι το πώς αυτές οι αλληλεπιδράσεις λαμβάνονται από την ευρύτερη κοινότητα στο Reddit. Οι αναρτήσεις που περιέχουν καταχρηστικό ή εκμεταλλευτικό περιεχόμενο συχνά αντιμετωπίζονται όχι με ανησυχία, αλλά με έγκριση με τη μορφή θετικών ψήφων, μιμιδίων και θαυμασμού. Σε αυτούς τους χώρους, οι αντικοινωνικές συμπεριφορές όχι μόνο γίνονται ανεκτές αλλά γιορτάζονται.

Έχουμε ξαναβρεθεί εδώ

Όλα αυτά φαίνονται παράξενα οικεία. Είδαμε τα ίδια μοτίβα με τα μέσα κοινωνικής δικτύωσης: μια νέα τεχνολογία φτάνει, υποσχόμενη σύνδεση, αυτοέκφραση, ακόμη και ενδυνάμωση. Υιοθετείται γρήγορα, ειδικά από παιδιά και εφήβους, πριν κατανοήσουμε το ψυχολογικό τίμημα. Οι πλατφόρμες κοινωνικών μέσων όπως το Instagram και το TikTok έχουν σφετεριστεί εξελιγμένους ψυχολογικούς μηχανισμούς για κοινωνική σύγκριση και ομαδικό ανήκειν, διαστρεβλώνοντας την αντίληψη των νέων για τις κοινωνικές πραγματικότητες κατά τη διάρκεια κρίσιμων σταδίων σχηματισμού ταυτότητας. Το αποτέλεσμα ήταν μια καλά τεκμηριωμένη παγκόσμια αύξηση του άγχους, της κατάθλιψης, της μοναξιάς, της σωματικής δυσμορφίας και του αυτοτραυματισμού.

Τώρα, οι σύντροφοι AI φέρνουν διαφορετικές αλλά εξίσου επείγουσες ανησυχίες. Οι νέοι μπαίνουν σε συναισθηματικά καθηλωτικές σχέσεις με τεχνητούς παράγοντες που αντικατοπτρίζουν κάθε διάθεσή τους, ικανοποιούν κάθε φαντασίωση και ποτέ δεν λένε όχι. Για άλλη μια φορά, αναπτύσσουμε μια ισχυρή τεχνολογία σε κλίμακα χωρίς να κατανοούμε τις μακροπρόθεσμες αναπτυξιακές επιπτώσεις της, ιδιαίτερα στους νέους και τους ευάλωτους.

Διδάσκοντας τους εφήβους ότι οι σχέσεις μπορούν να είναι χωρίς τριβές, να ανταποκρίνονται ατελείωτα και πάντα να επιβεβαιώνουν, πώς αναδιαμορφώνουμε την αναπτυσσόμενη ψυχή; Πριν αναπτυχθεί πλήρως ο εγκέφαλός τους, πριν μάθουν ποιοι είναι, πώς θα μάθουν οι νέοι να ανιχνεύουν τη συναισθηματική χειραγώγηση, να αναπτύσσουν ανθεκτικότητα στην απόρριψη ή να ανέχονται την ασάφεια των πραγματικών ανθρώπινων σχέσεων; Εάν η δυσφορία είναι απαραίτητη για την ανάπτυξη, τι συμβαίνει όταν διαγράφεται;

Οι κίνδυνοι δεν περιορίζονται στα άτομα. Ακριβώς όπως τα μέσα κοινωνικής δικτύωσης αναδιαμόρφωσαν τους κανόνες γύρω από την ομορφιά, την εμπιστοσύνη και την αλήθεια, η συναισθηματικά ευφυής τεχνητή νοημοσύνη μπορεί να μετατοπίσει τις προσδοκίες σχετικά με το πώς μοιάζει και αισθάνεται η οικειότητα. Όταν οι μηχανές είναι καλύτερες στο να ακούν, να επικυρώνουν και να παρηγορούν από τους ανθρώπους, πώς αυτό θα αναδιαμορφώσει τη φιλία, τη φροντίδα ή τις ρομαντικές σχέσεις στον πραγματικό κόσμο; Ποιες συμπεριφορές θα κανονικοποιηθούν - και ποιες θα υποτιμηθούν;

Υπάρχουν επίσης ευρύτεροι κοινωνικοί κίνδυνοι. Η συναισθηματική τεχνητή νοημοσύνη θα είναι δύσκολο να συγκρατηθεί. Τα προστατευτικά κιγκλιδώματα δεν μπορούν να προβλέψουν όλες τις περιπτώσεις χρήσης ή καταχρήσεων, όπως έχουν ανακαλύψει ακόμη και οι πιο καλοπροαίρετοι προγραμματιστές (ή απερίσκεπτοι δισεκατομμυριούχοι). Η νομισματοποίηση αυτών των τεχνολογιών εγείρει περαιτέρω ανησυχίες: Τι θα κάνουν οι εταιρείες με τα πλούσια ψυχολογικά δεδομένα που συλλέγονται από συναισθηματικά οικείες ανταλλαγές; Ποιος ελέγχει τη γνώση των βαθύτερων φόβων σας και των πιο ιδιωτικών επιθυμιών σας;

Βρισκόμαστε στο κατώφλι μιας νέας εποχής στην ανθρώπινη εμπειρία. Οι τεχνολογίες που έχουμε δημιουργήσει έχουν τη δύναμη να επεκτείνουν τις δυνατότητές μας και να προωθήσουν νέες μορφές κατανόησης. Αλλά κινδυνεύουν επίσης να μειώσουν αυτό που μας κάνει ανθρώπους, δηλαδή την ανθεκτικότητά μας, την ενσυναίσθησή μας και την ανοχή μας στην πολυπλοκότητα. Πουθενά δεν είναι αυτή η ένταση πιο εμφανής από ό, τι στις σχέσεις μας, τόσο με τους άλλους όσο και με τον εαυτό μας. Καθώς οι συναισθηματικά ανταποκρινόμενες μηχανές γίνονται πιο κεντρικές στη ζωή μας, πρέπει να αναρωτηθούμε αν υποστηρίζουν την ικανότητά μας να συνδεόμαστε - ή τη διαβρώνουν. Το αν αυτά τα εργαλεία μας εξυψώνουν ή μας μειώνουν εξαρτάται από τις επιλογές που κάνουμε τώρα.  https://www.afterbabel.com/

**Τό ιστολόγιο δέν συμφωνει απαραίτητα με τις απόψεις των αρθρογράφων