Η Google βελτιώνει τις δυνατότητες του Gemini να εντοπίζει ψεύτικο AI περιεχόμενο

Η Google παρουσιάζει μια νέα αναβάθμιση για το Gemini, η οποία υπόσχεται να βοηθήσει τους χρήστες να ξεχωρίζουν ευκολότερα αν το περιεχόμενο που βλέπουν έχει δημιουργηθεί με τεχνητή νοημοσύνη. Όσοι χρησιμοποιούν την εφαρμογή Gemini μπορούν να κάνουν την απλή ερώτηση «Is this AI-generated?» για να μάθουν αν μια εικόνα δημιουργήθηκε ή τροποποιήθηκε με εργαλεία AI της Google. Είναι ένα πρώτο, αλλά σημαντικό βήμα σε μια ευρύτερη προσπάθεια να γίνει πιο αναγνωρίσιμο το AI περιεχόμενο, το οποίο πλέον κυκλοφορεί παντού στο διαδίκτυο.

Προς το παρόν, η λειτουργία αφορά αποκλειστικά εικόνες. Η Google αναφέρει ότι σύντομα θα προστεθεί υποστήριξη για επαλήθευση βίντεο και ήχου, ενώ παρόμοια εργαλεία θα επεκταθούν και σε άλλα προϊόντα, όπως η Αναζήτηση. Αυτή η διεύρυνση είναι κρίσιμη, καθώς το AI περιεχόμενο εξελίσσεται και γίνεται ολοένα δυσκολότερο να διακριθεί από το πραγματικό. Ο στόχος της εταιρείας είναι να κάνει την επαλήθευση προσβάσιμη σε κάθε σημείο όπου μπορεί να εμφανιστεί ύποπτο υλικό, όχι μόνο μέσα σε μία εφαρμογή.

Η αρχική έκδοση του συστήματος βασίζεται αποκλειστικά στο SynthID, την τεχνολογία αόρατου υδατογραφήματος της Google, η οποία «μαρκάρει» εικόνες που δημιουργούνται με τα μοντέλα της. Όταν το Gemini εξετάζει μια εικόνα, αναζητά αυτά τα αόρατα σήματα για να εντοπίσει αν έχει χρησιμοποιηθεί κάποιο Google εργαλείο. Είναι ένα χρήσιμο θεμέλιο, αλλά έχει περιορισμούς: λειτουργεί μόνο για περιεχόμενο που δημιουργήθηκε από εργαλεία της Google.

Το επόμενο μεγάλο βήμα θα γίνει όταν η Google επεκτείνει την επαλήθευση του Gemini ώστε να υποστηρίζει τα C2PA credentials. Το πρότυπο C2PA, το οποίο στηρίζεται από μεγάλες εταιρείες τεχνολογίας και μέσων, στοχεύει στη δημιουργία ενός ενιαίου συστήματος ασφαλούς μεταδεδομένου για ψηφιακό περιεχόμενο. Τα μεταδεδομένα αυτά αποκαλύπτουν πότε και πώς δημιουργήθηκε ή τροποποιήθηκε ένα αρχείο, επιτρέποντας την επαλήθευση ακόμη και όταν χρησιμοποιούνται διαφορετικές AI πλατφόρμες. Με την υποστήριξη C2PA, το Gemini θα μπορεί να εντοπίζει περιεχόμενο παραγόμενο από πολύ περισσότερα εργαλεία, ακόμη και από μοντέλα όπως το Sora της OpenAI.