Deepfake γιατροί μπαίνουν στο TikTok για να πλασάρουν ψεύτικες θεραπείες

Κάποτε περιοριζόταν σε ερευνητικά εργαστήρια, η δημιουργική ΤΝ είναι πλέον διαθέσιμη σε όλους - συμπεριλαμβανομένων εκείνων με κακές προθέσεις, οι οποίοι χρησιμοποιούν τα εργαλεία ΤΝ όχι για να πυροδοτήσουν τη δημιουργικότητα, αλλά για να τροφοδοτήσουν την εξαπάτηση. Η τεχνολογία Deepfake, η οποία μπορεί να δημιουργήσει εντυπωσιακά αληθοφανή βίντεο, εικόνες και ήχο, γίνεται όλο και πιο δημοφιλής όχι μόνο για κόλπα μίμησης διασημοτήτων ή προσπάθειες επηρεασμού της κοινής γνώμης, αλλά και για κλοπή ταυτότητας και κάθε είδους απάτες.

Σε πλατφόρμες κοινωνικής δικτύωσης όπως το TikTok και το Instagram, η εμβέλεια των deepfakes, μαζί με τις δυνατότητες ζημίας τους, μπορεί να είναι ιδιαίτερα εντυπωσιακή. Οι ερευνητές της ESET στη Λατινική Αμερική συνάντησαν πρόσφατα μια καμπάνια στο TikTok και το Instagram, όπου avatars που δημιουργήθηκαν από τεχνητή νοημοσύνη παρίσταναν γυναικολόγους, διαιτολόγους και άλλους επαγγελματίες υγείας για να προωθήσουν συμπληρώματα και προϊόντα ευεξίας. Αυτά τα βίντεο, συχνά εξαιρετικά γυαλισμένα και πειστικά, μεταμφιέζουν τις πωλήσεις ως ιατρικές συμβουλές, εξαπατώντας τους ανυποψίαστους σε αμφισβητήσιμες και ενδεχομένως εντελώς επικίνδυνες αγορές.

Ανατομία μιας εξαπάτησης

Κάθε βίντεο ακολουθεί ένα παρόμοιο σενάριο: ένα ομιλούν άβαταρ, συχνά κρυμμένο σε μια γωνία της οθόνης, δίνει συμβουλές υγείας ή ομορφιάς. Οι συμβουλές, που διανέμονται με τον αέρα της αυθεντίας, στηρίζονται σε μεγάλο βαθμό σε «φυσικές» θεραπείες, ωθώντας τους θεατές προς συγκεκριμένα προϊόντα προς πώληση. Κρύβοντας τις προτάσεις τους με το πρόσχημα των συστάσεων ειδικών, αυτές οι ψεύτικες ιστοσελίδες εκμεταλλεύονται την εμπιστοσύνη στο ιατρικό επάγγελμα για να προωθήσουν τις πωλήσεις, μια τακτική που είναι τόσο ανήθικη όσο και αποτελεσματική.

Σε μια περίπτωση, ο «γιατρός» διαφημίζει ένα «φυσικό εκχύλισμα» ως ανώτερη εναλλακτική λύση του Ozempic, του φαρμάκου που φημίζεται για την ενίσχυση της απώλειας βάρους. Το βίντεο υπόσχεται δραματικά αποτελέσματα και σας παραπέμπει σε μια σελίδα του Amazon, όπου το προϊόν περιγράφεται ως «σταγόνες χαλάρωσης» ή «βοηθήματα κατά του πρηξίματος», χωρίς καμία σχέση με τα υπερπροβαλλόμενα οφέλη.

Άλλα βίντεο αυξάνουν περαιτέρω το διακύβευμα, προωθώντας μη εγκεκριμένα φάρμακα ή ψεύτικες θεραπείες για σοβαρές ασθένειες, μερικές φορές μάλιστα υποκλέπτοντας το ομοίωμα πραγματικών, γνωστών γιατρών.

Η τεχνητή νοημοσύνη στη «διάσωση»

Τα βίντεο δημιουργούνται με νόμιμα εργαλεία τεχνητής νοημοσύνης που επιτρέπουν σε οποιονδήποτε να υποβάλει σύντομο υλικό και να το μετατρέψει σε ένα γυαλισμένο avatar. Ενώ αυτό αποτελεί ευλογία για τους influencers που επιθυμούν να κλιμακώσουν την παραγωγή τους, η ίδια αυτή τεχνολογία μπορεί να συνεταιριστεί για παραπλανητικούς ισχυρισμούς και εξαπάτηση - με άλλα λόγια, αυτό που μπορεί να λειτουργήσει ως τέχνασμα μάρκετινγκ γρήγορα μεταμορφώνεται σε μηχανισμό διάδοσης ψευδών γεγονότων.

Εντοπίσαμε περισσότερους από 20 λογαριασμούς TikTok και Instagram που χρησιμοποιούν deepfake γιατρούς για να προωθήσουν τα προϊόντα τους. Ένας από αυτούς, που παρίστανε τη γυναικολόγο με 13 χρόνια εμπειρίας στο ενεργητικό της, εντοπίστηκε απευθείας στη βιβλιοθήκη avatar της εφαρμογής. Ενώ μια τέτοια κατάχρηση παραβιάζει τους όρους και τις προϋποθέσεις των κοινών εργαλείων τεχνητής νοημοσύνης, αναδεικνύει επίσης πόσο εύκολα μπορούν να αποτελέσουν όπλο.

Τελικά, αυτό μπορεί να μην αφορά «μόνο» τα άχρηστα συμπληρώματα. Οι συνέπειες μπορεί να είναι πιο σοβαρές, καθώς αυτά τα deepfakes μπορούν να διαβρώσουν την εμπιστοσύνη στις διαδικτυακές συμβουλές υγείας, προωθώντας επιβλαβείς «θεραπείες» και καθυστερώντας τη σωστή θεραπεία.

Κρατώντας τους ψεύτικους γιατρούς μακριά

Καθώς η τεχνητή νοημοσύνη γίνεται πιο προσιτή, ο εντοπισμός αυτών των απομιμήσεων γίνεται πιο δύσκολος, αποτελώντας μια ευρύτερη πρόκληση ακόμη και για τους ανθρώπους με τεχνολογικές γνώσεις. Τούτου λεχθέντος, εδώ είναι μερικά σημάδια που μπορούν να σας βοηθήσουν να εντοπίσετε τα deepfake βίντεο:

• για αταίριαστες κινήσεις των χειλιών που δεν συγχρονίζονται με τον ήχο ή για εκφράσεις του προσώπου που μοιάζουν άκαμπτες και αφύσικες,
• οπτικές δυσλειτουργίες, όπως θολές άκρες ή ξαφνικές αλλαγές φωτισμού, προδίδουν επίσης συχνά την πλαστογράφηση,
• μια ρομποτική ή υπερβολικά γυαλισμένη φωνή είναι μια άλλη κόκκινη σημαία,
• επίσης, ελέγξτε τον ίδιο τον λογαριασμό: νέα προφίλ με λίγους οπαδούς ή χωρίς ιστορικό εγείρουν υποψίες,
• προσέξτε τους υπερβολικούς ισχυρισμούς, όπως «θαυματουργές θεραπείες», «εγγυημένα αποτελέσματα» και «οι γιατροί μισούν αυτό το τέχνασμα», ειδικά αν δεν έχουν αξιόπιστες πηγές,
• να επαληθεύετε πάντα τους ισχυρισμούς με αξιόπιστες ιατρικές πηγές, να αποφεύγετε να μοιράζεστε ύποπτα βίντεο και να αναφέρετε παραπλανητικό περιεχόμενο στην πλατφόρμα.

Καθώς τα εργαλεία τεχνητής νοημοσύνης συνεχίζουν να εξελίσσονται, η διάκριση μεταξύ αυθεντικού και κατασκευασμένου περιεχομένου θα γίνει δυσκολότερη παρά ευκολότερη. Αυτή η απειλή υπογραμμίζει τη σημασία της ανάπτυξης τόσο τεχνολογικών δικλείδων ασφαλείας όσο και της βελτίωσης του συλλογικού μας ψηφιακού αλφαβητισμού που θα μας βοηθήσει να προστατευτούμε από την παραπληροφόρηση και τις απάτες που θα μπορούσαν να επηρεάσουν την υγεία και την οικονομική μας ευημερία.