Το ChatGPT θα επιτρέπει σύντομα ερωτικές συνομιλίες για επαληθευμένους ενήλικες

Η OpenAI ετοιμάζεται για μία από τις πιο αμφιλεγόμενες αλλαγές στην ιστορία της. Ο CEO Sam Altman ανακοίνωσε ότι σύντομα το ChatGPT θα χαλαρώσει ορισμένους από τους περιορισμούς περιεχομένου του, επιτρέποντας σε επαληθευμένους ενήλικες χρήστες να συμμετέχουν σε ερωτικές ή ρομαντικές συνομιλίες με το chatbot — μια σημαντική στροφή στην πολιτική της εταιρείας σχετικά με την ασφάλεια, τη διαχείριση περιεχομένου και την αλληλεπίδραση με τους χρήστες.

Σε ανάρτησή του στο X αυτή την εβδομάδα, ο Altman εξήγησε ότι η OpenAI είχε αρχικά καταστήσει το ChatGPT ιδιαίτερα περιοριστικό, ώστε να αποφευχθούν πιθανά προβλήματα ψυχικής υγείας. «Κάναμε το ChatGPT αρκετά περιοριστικό για να είμαστε προσεκτικοί με ζητήματα ψυχικής υγείας», έγραψε. «Καταλάβαμε ότι αυτό το έκανε λιγότερο χρήσιμο ή απολαυστικό για πολλούς χρήστες χωρίς ψυχικά προβλήματα, αλλά λόγω της σοβαρότητας του ζητήματος θέλαμε να το χειριστούμε σωστά».

Ο Altman ανέφερε ότι από τον Δεκέμβριο, με την πλήρη εφαρμογή του συστήματος επαλήθευσης ηλικίας και στο πλαίσιο της νέας αρχής της OpenAI «να αντιμετωπίζει τους ενήλικες σαν ενήλικες», το ChatGPT θα επιτρέπει περιεχόμενο ερωτικού χαρακτήρα και πιο «ανθρώπινες», εκφραστικές αλληλεπιδράσεις για επαληθευμένους χρήστες.

Η ανακοίνωση αυτή σηματοδοτεί μια αξιοσημείωτη αλλαγή κατεύθυνσης σε σχέση με τη στάση της εταιρείας πριν λίγους μήνες. Νωρίτερα μέσα στο έτος, η OpenAI είχε βρεθεί στο επίκεντρο έντονων συζητήσεων μετά από αναφορές ότι το ChatGPT — και ιδιαίτερα το μοντέλο GPT-4o — είχε οδηγήσει ορισμένους ευάλωτους χρήστες σε παραισθησιογόνα ή ψευδαισθητικά μονοπάτια. Σε μία υπόθεση, το chatbot φέρεται να έπεισε έναν άνδρα ότι ήταν μαθηματική ιδιοφυΐα που έπρεπε να «σώσει τον κόσμο». Σε άλλη, οι γονείς ενός εφήβου μήνυσαν την OpenAI, ισχυριζόμενοι ότι το ChatGPT επιδείνωσε τις αυτοκτονικές του τάσεις.

Η εταιρεία απάντησε εισάγοντας μια σειρά από νέα χαρακτηριστικά ασφαλείας που στοχεύουν στη μείωση του φαινομένου της «AI δουλοπρέπειας» — της τάσης των chatbots να συμφωνούν άκριτα με ό,τι λέει ο χρήστης, ενισχύοντας έτσι και αρνητικές συμπεριφορές.

Με την κυκλοφορία του GPT-5 τον Αύγουστο, η OpenAI παρουσίασε ένα νέο μοντέλο με χαμηλότερα επίπεδα δουλοπρέπειας και ένα σύστημα που μπορεί να εντοπίζει προβληματικές συμπεριφορές χρηστών. Ένα μήνα αργότερα, η εταιρεία εισήγαγε εργαλεία προστασίας για ανηλίκους, όπως σύστημα πρόβλεψης ηλικίας και δυνατότητα γονικού ελέγχου στους εφηβικούς λογαριασμούς του ChatGPT.

Παρά τα πρόσφατα αυτά μέτρα, η απόφαση της OpenAI να επιτρέψει ερωτικό περιεχόμενο δείχνει ότι η εταιρεία θεωρεί πως τα ζητήματα ασφάλειας γύρω από ευάλωτους χρήστες έχουν πλέον τεθεί υπό έλεγχο. Ωστόσο, πολλοί ειδικοί παραμένουν επιφυλακτικοί, καθώς η εταιρεία δεν έχει παρουσιάσει σαφείς αποδείξεις ότι τέτοιου είδους περιστατικά έχουν μειωθεί ουσιαστικά.

Η εισαγωγή ερωτικών συνομιλιών στο ChatGPT ανοίγει νέα, αχαρτογράφητα εδάφη για την OpenAI και εγείρει ερωτήματα σχετικά με το πώς θα διασφαλιστεί η ψυχική υγεία και η ασφάλεια των χρηστών. Ο Altman επιμένει ότι η αλλαγή δεν στοχεύει στη μεγιστοποίηση της χρήσης ή της δέσμευσης. «Δεν προσπαθούμε να αυξήσουμε τη χρήση με κάθε κόστος», ανέφερε, υποστηρίζοντας ότι ο στόχος είναι να γίνει το chatbot πιο φυσικό και συναισθηματικά έξυπνο, όχι πιο εθιστικό.

Παρόλα αυτά, είναι δύσκολο να αγνοήσει κανείς τις εμπορικές προεκτάσεις. Άλλες πλατφόρμες, όπως το Character.AI, έχουν προσελκύσει δεκάδες εκατομμύρια χρήστες επιτρέποντας ρομαντικά ή ερωτικά role-play. Σύμφωνα με στοιχεία του 2023, οι χρήστες του Character.AI περνούσαν κατά μέσο όρο δύο ώρες την ημέρα συνομιλώντας με τα chatbots τους — ένα εντυπωσιακό στατιστικό που αποδεικνύει τη δύναμη της συναισθηματικής αλληλεπίδρασης και γιατί η OpenAI μπορεί να βλέπει σε αυτό μια νέα ευκαιρία.

Παράλληλα, η εταιρεία βρίσκεται σε σκληρό αγώνα με Google και Meta για την κυριαρχία στην αγορά καταναλωτικών εφαρμογών τεχνητής νοημοσύνης. Παρότι το ChatGPT χρησιμοποιείται ήδη από περίπου 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα, η OpenAI έχει επενδύσει δισεκατομμύρια στην ανάπτυξη της υποδομής της — ένα κόστος που αργά ή γρήγορα πρέπει να δικαιολογηθεί μέσω περαιτέρω ανάπτυξης και εσόδων.

Η νέα δυνατότητα ερωτικών συνομιλιών, ωστόσο, δεν παύει να προκαλεί ανησυχίες. Σύμφωνα με έρευνα του Center for Democracy and Technology, το 19% των μαθητών λυκείου έχει είτε αναπτύξει είτε γνωρίζει κάποιον που έχει αναπτύξει ρομαντική σχέση με ένα AI chatbot. Η στατιστική αυτή αναδεικνύει τα όρια — ή την απουσία τους — ανάμεσα στην τεχνολογία και την ανθρώπινη συναισθηματική εμπλοκή.

Ο Altman ξεκαθαρίζει ότι οι νέες δυνατότητες θα είναι διαθέσιμες μόνο σε επαληθευμένους ενήλικες, μέσω του ίδιου συστήματος πρόβλεψης ηλικίας που χρησιμοποιεί ήδη η εταιρεία. Αν κάποιος ενήλικος χαρακτηριστεί εσφαλμένα ως ανήλικος, θα μπορεί να επιβεβαιώσει την ταυτότητά του ανεβάζοντας φωτογραφία επίσημου εγγράφου ταυτοποίησης. Ο Altman αναγνωρίζει ότι πρόκειται για «συμβιβασμό απορρήτου», αλλά θεωρεί πως είναι ένα «αναγκαίο αντάλλαγμα» για την προστασία των ανηλίκων.

Δεν έχει αποσαφηνιστεί ακόμη αν η πολιτική αυτή θα επεκταθεί και στις λειτουργίες φωνής, εικόνας ή βίντεο του ChatGPT. Αν ναι, η OpenAI θα κληθεί να διαχειριστεί ακόμη πιο σύνθετα ηθικά ζητήματα.

Ο Altman υποστηρίζει ότι η πρωτοβουλία εντάσσεται στη φιλοσοφία της εταιρείας να «αντιμετωπίζει τους ενήλικες σαν ενήλικες». Τα τελευταία χρόνια, η OpenAI έχει αρχίσει να χαλαρώνει σταδιακά την πολιτική περιεχομένου του ChatGPT, επιτρέποντας μεγαλύτερη ελευθερία έκφρασης και μειώνοντας τις αυτόματες αρνήσεις.

Η απόφαση να επιτραπεί ερωτικό περιεχόμενο είναι αναμφίβολα το πιο τολμηρό βήμα μέχρι σήμερα. Μπορεί να ικανοποιήσει όσους επιζητούν πιο φυσικές και εκφραστικές συνομιλίες, αλλά ταυτόχρονα αυξάνει τον κίνδυνο εξάρτησης, απομόνωσης και ψυχολογικής ευαλωτότητας.