Οι Big Tech στο στόχαστρο καθώς οι αρχές απαιτούν την πλήρη εξάλειψη των AI nudify apps

Η ραγδαία εξάπλωση της παραγωγικής τεχνητής νοημοσύνης έφερε εντυπωσιακή τεχνολογική πρόοδο, αλλά ταυτόχρονα αποκάλυψε σοβαρά νομικά και ηθικά κενά στο παγκόσμιο οικοσύστημα των εφαρμογών. Σε μια πρωτοφανή νομική κίνηση, ο εισαγγελέας του Σαν Φρανσίσκο απέστειλε επίσημα τελεσίγραφα cease-and-desist στην Apple και την Google. Η εντολή απαιτεί την άμεση και μόνιμη κατάργηση 13 συγκεκριμένων εφαρμογών για κινητά που χρησιμοποιούν αλγορίθμους παραγωγικής AI για την κατασκευή μη συναινετικών, έκδηλα γυμνών deepfake εικόνων.

Αυτή η εξελισσόμενη νομική μάχη ξεπερνά κατά πολύ τη συνήθη επιβολή των κανόνων των ψηφιακών καταστημάτων. Αντίθετα, τοποθετεί τους τεχνολογικούς γίγαντες απευθείας στο στόχαστρο πιθανών νομικών ευθυνών. Οι διωκτικές αρχές υποστηρίζουν ότι διαχειριζόμενες την οικονομική υποδομή αυτών των εφαρμογών και λαμβάνοντας μια επικερδή προμήθεια από τις συναλλαγές των χρηστών, οι ιδιοκτήτες των πλατφορμών ουσιαστικά συμμετέχουν στα κέρδη παράνομων δραστηριοτήτων.

Οι έρευνες αποκαλύπτουν ότι οι δημιουργοί αυτών των αμφιλεγόμενων προγραμμάτων χρησιμοποιούν εξαιρετικά εξελιγμένες τεχνικές για να παρακάμψουν τα τυπικά πρωτόκολλα ελέγχου. Αντί να επεξεργάζονται τις τροποποιήσεις των εικόνων τοπικά, αυτές οι εφαρμογές λειτουργούν ως απλά λογισμικά περιβλήματα (wrappers). Όταν υποβάλλονται για αξιολόγηση στο App Store και το Google Play Store, κρύβουν την πραγματική τους φύση κάτω από αθώες κατηγορίες, όπως εργαλεία επεξεργασίας φωτογραφιών ή εφαρμογές face-swap.

Κατά την αρχική φάση της αξιολόγησης, το λογισμικό παρουσιάζει μόνο ακίνδυνα φίλτρα στους ελεγκτές. Μόλις εγκριθεί με ασφάλεια και καταχωρηθεί στα ψηφιακά καταστήματα, οι διαχειριστές εκτελούν απομακρυσμένες ενημερώσεις μέσω server. Αυτό ενεργοποιεί την πραγματική βασική λειτουργία: την αποστολή των φωτογραφιών που ανεβάζουν οι χρήστες σε cloud-hosted diffusion models που γδύνουν ψηφιακά τα άτομα χωρίς τη συγκατάθεσή τους. Επειδή η πραγματική αλγοριθμική παραγωγή συμβαίνει σε εξωτερικούς servers και όχι στον φυσικό επεξεργαστή του smartphone, τα εργαλεία στατικής ανάλυσης κώδικα της Google και της Apple αποτυγχάνουν να εντοπίσουν την υποκείμενη απειλή.

Το κρίσιμο σημείο της νομικής πρόκλησης βασίζεται σε μεγάλο βαθμό στο μοντέλο δημιουργίας εσόδων που οδηγεί αυτές τις πλατφόρμες. Οι χρήστες υποχρεούνται να αγοράζουν ψηφιακές μονάδες (credits) μέσω ενσωματωμένων συστημάτων πληρωμών εντός της εφαρμογής (in-app payments) για να ξεκλειδώσουν τις λειτουργίες αφαίρεσης ρούχων, οι οποίες συχνά χρησιμοποιούνται ως όπλο εναντίον ανυποψίαστων ατόμων.

Σύμφωνα με τους κατηγόρους, η Apple και η Google εισπράττουν σταθερά προμήθειες που κυμαίνονται από 15% έως 30% για κάθε συναλλαγή που διεκπεραιώνεται μέσω αυτών των εφαρμογών. Τα νομικά έγγραφα αναφέρουν ότι και οι δύο εταιρείες έχουν συγκεντρώσει εκατομμύρια δολάρια λειτουργώντας ως οικονομικοί θεματοφύλακες για λογισμικό που εκμεταλλεύεται εμπορικά μη συναινετικό πορνογραφικό υλικό. Η τρέχουσα επιχείρηση καταστολής στοχεύει ειδικά οκτώ εφαρμογές που διανέμονται στο iOS App Store και πέντε που φιλοξενούνται στο Google Play Store.

Ανταποκρινόμενοι στην αυξανόμενη νομική πίεση και την κλιμακούμενη δημόσια κατακραυγή, και οι δύο τεχνολογικοί κολοσσοί αναγκάστηκαν να επιταχύνουν τις προσπάθειες ελέγχου του περιεχομένου τους. Εκπρόσωπος της Google επιβεβαίωσε ότι η εταιρεία έχει διαγράψει εκατοντάδες παρόμοια προγράμματα από το κατάστημά της, συμπεριλαμβανομένων των πέντε συγκεκριμένων εφαρμογών που επισημάνθηκαν στην καταγγελία του Σαν Φρανσίσκο. Οι μηχανικοί της Google αναβαθμίζουν τώρα τους εσωτερικούς αλγορίθμους για τον εντοπισμό συγκεκριμένων μοτίβων συμπεριφοράς και μεταδεδομένων που δείχνουν προς γνωστούς εξωτερικούς nudify servers.

Παράλληλα, η Apple άλλαξε αθόρυβα την αμυντική της στάση. Η κατασκευάστρια εταιρεία του iPhone επικαιροποίησε τις οδηγίες αξιολόγησης του App Store (App Store Review Guidelines) για να δηλώσει ρητά ότι οι developers φέρουν την απόλυτη ευθύνη για όλο το περιεχόμενο που παράγεται από μοντέλα AI μέσα στο λογισμικό τους. Η αναθεωρημένη πολιτική δεν αφήνει περιθώρια ασάφειας, απαγορεύοντας αυστηρά οποιαδήποτε εφαρμογή διευκολύνει τη δημιουργία πορνογραφικού υλικού.

Αυτή η ρυθμιστική καταστολή στις Ηνωμένες Πολιτείες λειτουργεί ως μια σαφής προειδοποίηση για το τι πρόκειται να ακολουθήσει στην ευρωπαϊκή αγορά. Βάσει των ολοκληρωμένων πλαισίων του πρόσφατα ενεργοποιημένου AI Act της Ευρωπαϊκής Ένωσης, τα συστήματα που είναι ικανά να παράγουν μη συναινετικό ρητό περιεχόμενο αντιμετωπίζουν κατηγοριοποίηση ως τεχνολογία υψηλού κινδύνου. Οι εταιρείες που διαπιστώνεται ότι διευκολύνουν ή διανέμουν αυτά τα εργαλεία κινδυνεύουν με εξοντωτικές οικονομικές ποινές που μπορούν να φτάσουν έως και το 7% του συνολικού παγκόσμιου ετήσιου τζίρου τους.

Σε περιφερειακό επίπεδο, χώρες όπως η Ελλάδα έχουν επίσης αυστηροποιήσει την ποινική νομοθεσία σχετικά με την κακοποίηση μέσω εικόνας, αναβαθμίζοντας τη διανομή τέτοιου υλικού σε κακούργημα υπό συγκεκριμένες προϋποθέσεις. Ωστόσο, οι μονάδες δίωξης ηλεκτρονικού εγκλήματος αντιμετωπίζουν την πρωτοφανή πρόκληση του εντοπισμού συνθετικών μέσων που παράγονται από AI, αντί για τα παραδοσιακά κλαπέντα αρχεία. Η απειλή πλήττει περισσότερο τους ευάλωτους πληθυσμούς, με τα πρόσφατα δεδομένα να δείχνουν μια ανησυχητική αύξηση στη χρήση αυτοματοποιημένων Telegram bots μεταξύ ανήλικων μαθητών στα σχολεία. Ενώ η αφαίρεση αυτών των προγραμμάτων από τα επίσημα οικοσυστήματα μειώνει δραματικά την πρόσβαση του ευρύτερου κοινού, οι ειδικοί προειδοποιούν ότι η ζήτηση συχνά μετατοπίζεται προς κρυπτογραφημένα κανάλια συνομιλίας και το σκοτεινό διαδίκτυο.

Τελικά, η απειλή να χαρακτηριστούν ως οικονομικοί συνεργοί στην ψηφιακή εκμετάλλευση είναι έτοιμη να αλλάξει μόνιμα τον τρόπο με τον οποίο η Apple και η Google αξιολογούν τις μελλοντικές υποβολές εφαρμογών. Οι δημιουργοί λογισμικού που επιθυμούν να στοχεύσουν στο ευρωπαϊκό και διεθνές κοινό θα αντιμετωπίσουν τώρα αυστηρά πρότυπα συμμόρφωσης. Στο εξής, οι δημιουργοί πρέπει να εφαρμόζουν επίπεδα ασφάλειας στην πλευρά του χρήστη, όπως ενσωματωμένους NSFW classifiers, για να αποδεικνύουν ενεργά στους διαχειριστές των πλατφορμών ότι το λογισμικό τους μπλοκάρει τις επιβλαβείς παραγωγές προτού αυτές φτάσουν στην οθόνη του χρήστη.