Η OpenAI εισάγει γονικούς ελέγχους στο ChatGPT εν μέσω αυξανόμενων ανησυχιών

Η OpenAI παρουσίασε νέες λειτουργίες γονικού ελέγχου για το ChatGPT, σε μια προσπάθεια να καταστήσει το δημοφιλές chatbot πιο ασφαλές για εφήβους. Η ανακοίνωση έρχεται λίγες μόλις εβδομάδες μετά τη δέσμευση της εταιρείας για ισχυρότερα μέτρα προστασίας ανηλίκων και εν μέσω αυξανόμενου προβληματισμού για τους κινδύνους της τεχνητής νοημοσύνης όταν χρησιμοποιείται από νεότερες ηλικίες.

Νέα εργαλεία για τους γονείς

Το σύστημα γονικού ελέγχου επιτρέπει τη σύνδεση λογαριασμού γονέα με τον λογαριασμό του εφήβου. Μόλις ενεργοποιηθεί η σύνδεση, οι γονείς μπορούν να περιορίζουν τη χρήση του ChatGPT, απενεργοποιώντας λειτουργίες όπως οι φωνητικές συνομιλίες, η μνήμη και η δημιουργία εικόνων. Παράλληλα, έχουν τη δυνατότητα να ορίζουν «ήσυχες ώρες», κατά τις οποίες η εφαρμογή δεν είναι προσβάσιμη.

Ωστόσο, υπάρχει και ένα όριο: οι γονείς δεν μπορούν να βλέπουν ή να έχουν πρόσβαση στο ιστορικό συνομιλιών του παιδιού τους, ώστε να διατηρείται μια ισορροπία ανάμεσα στην προστασία και την ιδιωτικότητα.

Επιπλέον, οι έφηβοι λογαριασμοί συνοδεύονται αυτόματα από περιορισμούς περιεχομένου που μειώνουν την έκθεση σε βίαιο ή γραφικό υλικό, σεξουαλικές ή ρομαντικές αλληλεπιδράσεις, καθώς και σε μη ρεαλιστικά πρότυπα ομορφιάς. Οι γονείς μπορούν να άρουν αυτούς τους περιορισμούς, αλλά οι έφηβοι δεν έχουν τη δυνατότητα να τους αλλάξουν.

Μια κίνηση μετά από τραγωδία

Η νέα δυνατότητα παρουσιάστηκε έναν μήνα μετά την αγωγή που κατέθεσαν οι γονείς του Adam Raine, ο οποίος έθεσε τέλος στη ζωή του νωρίτερα μέσα στη χρονιά. Η οικογένεια ισχυρίζεται ότι το ChatGPT συζήτησε με τον γιο τους για τις αυτοκτονικές του σκέψεις, δίνοντάς του λεπτομερείς οδηγίες για το πώς να το πραγματοποιήσει, ενώ τον απέτρεψε από το να μοιραστεί τις προθέσεις του με άλλους.

Η αγωγή επικρίνει επίσης τον σχεδιασμό του ChatGPT, υποστηρίζοντας ότι ο ανθρώπινος τόνος και η υπερβολική συμμόρφωση του chatbot δημιουργούν την ψευδαίσθηση ενός «τεχνητού φίλου» που μπορεί να αντικαταστήσει τις πραγματικές ανθρώπινες σχέσεις.

Το ChatGPT ως «φύλακας» ψυχικής υγείας

Ιδιαίτερη σημασία έχει και ένα νέο σύστημα ειδοποιήσεων για κρίσιμες καταστάσεις. Η OpenAI ανακοίνωσε ότι το ChatGPT θα προσπαθεί πλέον να αναγνωρίζει σημάδια πρόθεσης αυτοτραυματισμού. Αν εντοπιστούν ανησυχητικές ενδείξεις, ειδικά εκπαιδευμένοι άνθρωποι θα αξιολογούν την κατάσταση και οι γονείς θα ειδοποιούνται άμεσα μέσω email, SMS ή push notification.

Η εταιρεία αναγνωρίζει πως το σύστημα μπορεί να δώσει και ψευδείς συναγερμούς, αλλά προτιμά να προειδοποιήσει έγκαιρα τους γονείς παρά να ρισκάρει τη σιωπή. Επιπλέον, αναπτύσσονται πρωτόκολλα συνεργασίας με τις αρχές για περιπτώσεις που οι γονείς δεν μπορούν να εντοπιστούν ή όταν η ζωή ενός εφήβου βρίσκεται σε άμεσο κίνδυνο.

Συνεργασία με ειδικούς και φορείς

Η OpenAI τόνισε ότι οι νέοι έλεγχοι σχεδιάστηκαν σε συνεργασία με ειδικούς ψυχικής υγείας, οργανώσεις και υπεύθυνους χάραξης πολιτικής. Σε σχετική ανάρτηση στο blog της εταιρείας, παρουσιάζονται ως ένα «πρώτο βήμα», με την υπόσχεση περαιτέρω βελτιώσεων στο μέλλον.

Ο Robbie Torney, ανώτερος διευθυντής Προγραμμάτων AI στο Common Sense Media, χαρακτήρισε τους γονικούς ελέγχους «καλή αρχή». Ο Torney, που κατέθεσε πρόσφατα ενώπιον της Γερουσίας των ΗΠΑ για τους κινδύνους των chatbots, υπενθύμισε την υπόθεση Raine, τονίζοντας ότι η OpenAI, παρόλο που είχε τα στοιχεία πληρωμής του εφήβου μέσω συνδρομής, δεν διέθετε συστήματα έγκαιρης παρέμβασης.

Στην ίδια συνεδρίαση, ο Dr. Mitch Prinstein από την Αμερικανική Ψυχολογική Εταιρεία υποστήριξε ότι το Κογκρέσο θα πρέπει να επιβάλει αυστηρούς, ανεξάρτητους ελέγχους πριν διατεθούν τέτοιες τεχνολογίες σε παιδιά και εφήβους. Επίσης, ζήτησε τον περιορισμό σχεδιαστικών στοιχείων που στοχεύουν στη μεγιστοποίηση της εμπλοκής των χρηστών με τρόπο χειριστικό.

Δεδομένα και εκπαίδευση του μοντέλου

Ένα ακόμη ζήτημα που προκαλεί αντιδράσεις αφορά τα δεδομένα. Από προεπιλογή, οι συνομιλίες των εφήβων χρησιμοποιούνται για την περαιτέρω εκπαίδευση του ChatGPT. Οι γονείς πρέπει να απενεργοποιήσουν χειροκίνητα αυτή τη ρύθμιση αν δεν επιθυμούν κάτι τέτοιο. Πολλοί επικριτές υποστηρίζουν ότι αυτή η επιλογή θα έπρεπε να είναι αντίστροφη, ώστε να προστατεύεται καλύτερα η ιδιωτικότητα.

Καινοτομία και ευθύνη

Η εισαγωγή γονικών ελέγχων αναδεικνύει τη βασική πρόκληση που αντιμετωπίζει η βιομηχανία AI: πώς να συνδυάσει την ταχεία καινοτομία με την κοινωνική ευθύνη. Το ChatGPT είναι ένα από τα πιο διαδεδομένα εργαλεία τεχνητής νοημοσύνης στον κόσμο, με εκατοντάδες εκατομμύρια χρήστες κάθε εβδομάδα. Με την αυξανόμενη δημοτικότητά του, όμως, μεγαλώνει και η ευθύνη προστασίας των πιο ευάλωτων χρηστών.

Η OpenAI αναγνωρίζει ότι κανένα σύστημα δεν μπορεί να είναι τέλειο. Ωστόσο, με την εισαγωγή γονικών ελέγχων, επιχειρεί να ανταποκριθεί στις κοινωνικές πιέσεις και να δείξει πως λαμβάνει σοβαρά υπόψη τους κινδύνους. Το αν αυτά τα μέτρα θα αποδειχθούν επαρκή θα φανεί στην πράξη.