Γιατί οι χρήστες «δένονται» με το ChatGPT – Συναισθηματικές συνομιλίες, προσωπικά δεδομένα και παράπονα

Μια ιδιαίτερα εκτενής ανάλυση της Washington Post, βασισμένη σε περισσότερες από 47.000 δημόσια διαθέσιμες συνομιλίες χρηστών με το ChatGPT, επιχειρεί να χαρτογραφήσει τα κίνητρα που οδηγούν εκατομμύρια ανθρώπους στην καθημερινή χρήση συστημάτων τεχνητής νοημοσύνης, αλλά και τη στενή σχέση που ορισμένοι αναπτύσσουν με αυτά.

Η εφημερίδα σημειώνει ότι η γλώσσα που χρησιμοποιεί το ChatGPT εμφανίζει συγκεκριμένα μοτίβα. Με βάση τη μελέτη, το εργαλείο ξεκινά τις απαντήσεις του με παραλλαγές του «ναι» δέκα φορές συχνότερα από ό,τι με παραλλαγές του «όχι», κάτι που έχει τροφοδοτήσει παράπονα χρηστών ότι τείνει να συμφωνεί υπερβολικά μαζί τους.

Παρά το γεγονός ότι η OpenAI έχει παρουσιάσει το ChatGPT ως εργαλείο παραγωγικότητας, η ανάλυση δείχνει ότι πάνω από το 10% των συνομιλιών περιλαμβάνει προσωπικά, συναισθηματικά ή φιλοσοφικά ζητήματα. Πολλοί χρήστες μοιράζονται λεπτομερώς πληροφορίες για την προσωπική τους ζωή, ενώ σε ορισμένες περιπτώσεις το AI φαίνεται να υιοθετεί την άποψη του συνομιλητή, ακόμη και όταν περιλαμβάνει ψευδείς ισχυρισμούς ή θεωρίες συνωμοσίας.

Ο Lee Rainie, διευθυντής του Imagining the Digital Future Center στο Elon University, δήλωσε ότι ο σχεδιασμός του ChatGPT ενδέχεται να ενθαρρύνει τη δημιουργία συναισθηματικού δεσμού με τον συνομιλητή: «Προκύπτει ότι το σύστημα έχει εκπαιδευτεί με τρόπο που προωθεί και εμβαθύνει τη σχέση με τον χρήστη».

Το 10% των συνομιλιών αφορά άμεσα εκφράσεις συναισθημάτων ή ερωτήματα προς το AI για τις «πεποιθήσεις» και τα «αισθήματά» του. Σε αρκετές συνομιλίες το ύφος χαρακτηρίζεται ρομαντικό. Αν και πολλοί χρήστες θεωρούν αυτή τη διάσταση βοηθητική, ειδικοί στην ψυχική υγεία προειδοποιούν ότι αλληλεπιδράσεις τέτοιας έντασης μπορούν να οδηγήσουν σε εξάρτηση. Η OpenAI αναγνωρίζει ότι περίπου το 0,15% των εβδομαδιαίων χρηστών εμφανίζουν σημάδια συναισθηματικής εξάρτησης, ποσοστό αντίστοιχο με εκείνο των συνομιλιών όπου καταγράφονται αυτοκτονικές τάσεις. Ορισμένες οικογένειες έχουν μηνύσει την εταιρεία συνδέοντας την απώλεια συγγενών με τη χρήση του εργαλείου.

Η εταιρεία υποστηρίζει ότι εκπαιδεύει το ChatGPT ώστε να αναγνωρίζει σημάδια ψυχικής κρίσης και να προτρέπει τους χρήστες να ζητούν επαγγελματική βοήθεια όταν αυτό είναι αναγκαίο.

Στα δείγματα των συνομιλιών εντοπίστηκαν περισσότερες από 550 μοναδικές διευθύνσεις Gmail και 76 αριθμοί τηλεφώνου, καθώς και λεπτομέρειες για νομικές υποθέσεις και οικογενειακές συγκρούσεις. Παρότι οι συνομιλίες είναι ιδιωτικές από προεπιλογή, πολλές κοινοποιούνται δημοσίως μέσω συνδέσμων, κάτι που μπορεί να μην γίνεται αντιληπτό από όλους. Επιπλέον, όπως συμβαίνει με άλλα ιδιωτικά δεδομένα, υπάρχει η δυνατότητα πρόσβασης από κυβερνητικές αρχές υπό συγκεκριμένες προϋποθέσεις.

Ένα ακόμη εύρημα της έρευνας αφορά τη λειτουργία του ChatGPT ως «καθρέφτη» των απόψεων του χρήστη αντί ως ουδέτερου αναλυτή. Σε πάνω από το 10% των συνομιλιών με πολιτικό, επιστημονικό ή ιδεολογικό περιεχόμενο, το εργαλείο τείνει να προσαρμόζει το ύφος και τις θέσεις του ώστε να συμφωνεί με τον συνομιλητή, ακόμη και όταν η συζήτηση ξεκινά από ουδέτερη βάση. Η προσπάθεια του AI να είναι βοηθητικό φαίνεται ότι οδηγεί σε έναν τόνο συγκαταβατισμού, ο οποίος μπορεί να ενισχύσει ανακριβείς ή αβάσιμες πεποιθήσεις.

Η έκθεση της Washington Post καταλήγει ότι, πέρα από την παραγωγική του χρήση, το ChatGPT μπορεί να λειτουργήσει και ως μηχανισμός επιβεβαίωσης, με ό,τι αυτό συνεπάγεται για την ποιότητα της πληροφόρησης αλλά και για τη δυναμική που αναπτύσσεται ανάμεσα στον άνθρωπο και την τεχνητή νοημοσύνη.

Πηγή: protothema.gr