Η Microsoft προτείνει μια λύση για να σταματήσει την εξάπλωση των deepfakes στο διαδίκτυο

Η Microsoft ξεκινά ένα νέο σύνολο προτύπων για την επαλήθευση της αυθεντικότητας του διαδικτυακού περιεχομένου

Η Microsoft ανακοίνωσε τη δημιουργία «τεχνικών προτύπων» για την αξιολόγηση της πραγματικότητας των υλικών που εμφανίζονται στο διαδίκτυο. Ο στόχος είναι να βοηθήσει τους αναπτυξιακούς τεχνητής νοημοσύνης και τις κοινωνικές πλατφόρμες να προσδιορίσουν εάν εικόνες ή βίντεο έχουν τροποποιηθεί με ψηφιακά εργαλεία (όπως deepfakes) και πόσο αξιόπιστες είναι οι μέθοδοι τεκμηριώσεώς τους.

Πώς λειτουργεί το σύστημα επαλήθευσης
* Παράδειγμα με τον πίνακα του Ρεμπραντ

- Δημιουργείται λεπτομερής ιστορικό προέλευσης: τόποι αποθήκευσης, προηγούμενοι ιδιοκτήτες.

- Ο πίνακας σαρώεται και από τις πινελιές δημιουργείται μαθηματική υπογραφή – «ψηφιακή δακτυλογραφή».

- Όταν εκτίθεται σε μουσείο ο επισκέπτης μπορεί να ανοίξει αυτά τα δεδομένα και να επιβεβαιώσει την αυθεντικότητά τους.

* Οι μέθοδοι ήδη εφαρμόζονται

Η Microsoft μελέτησε 60 συνδυασμούς υπαρχουσών τεχνικών (διαγραφή μεταδεδομένων, μικρές αλλαγές, στοχευμένη χειραγώγηση). Για κάθε μοντέλο προσομοίωσε τη συμπεριφορά σε διάφορα σενάρια.

Οι ερευνητές εντόπισαν:

- Αξιόπιστοι συνδυασμοί – μπορούν να παρουσιαστούν στο ευρύ κοινό.

- Μη αξιόπιστοι συνδυασμοί – μπορεί μόνο να δυσκολέψουν την κατάσταση, δημιουργώντας περισσότερη σύγχυση.

Γιατί είναι σημαντικό
* Η νομοθεσία απαιτεί διαφάνεια της ΤΝ (π.χ., «Νόμος για τη Διαφάνεια της ΤΝ» στην Καλιφόρνια).

* Η Microsoft δεν έχει ακόμη ανακοινώσει αν θα εφαρμόσει αυτά τα πρότυπα στις υπηρεσίες της: Copilot, Azure, OpenAI και LinkedIn.

Τα πρότυπα δεν καθορίζουν την αλήθεια του περιεχομένου· δείχνουν μόνο εάν το υλικό έχει υποστεί χειραγώγηση και από πού προέρχεται. Αν η βιομηχανία τα αποδεχτεί, η δημιουργία εξαπάτησης θα γίνει σημαντικά πιο δύσκολη.

Κατάσταση της βιομηχανίας
Συνεργασία Δράση Κατάσταση Microsoft C2PA (2021) – παρακολούθηση προέλευσης Σε εξέλιξη νέες λύσεις Google Watermarks για περιεχόμενο που παράγεται από ΤΝ (από το 2023) Εφαρμόζεται ενεργά
Αλλά ο πλήρης σετ εργαλείων της Microsoft μπορεί να μείνει μόνο «πρόγραμμα» αν οι συμμετέχοντες στην αγορά δουν απειλή στα επιχειρηματικά τους μοντέλα.

Διαθεσιμότητα υφιστάμενων λύσεων
* Η έρευνα έδειξε ότι μόλις το 30 % των δημοσιεύσεων στο Instagram, LinkedIn, Pinterest, TikTok και YouTube έχουν σωστά επισημανθεί ως δημιουργημένες από ΤΝ.

* Η γρήγορη διάθεση εργαλείων επαλήθευσης είναι επικίνδυνη: οι αποτυχίες μπορεί να υποβαθμίσουν την εμπιστοσύνη των χρηστών.

Πολύπλοκο μηχανισμό επαλήθευσης προτιμάται. Για παράδειγμα, αν πάνω σε ένα αξιόπιστο εικόνα γίνει μικρή επεξεργασία από ΤΝ, η πλατφόρμα μπορεί να την ταξινομήσει λανθασμένα ως πλήρως παραγόμενη. Η ολοκληρωμένη προσέγγιση μειώνει τον κίνδυνο ψευδώς θετικών αποτελεσμάτων.

Συμπέρασμα
Η Microsoft προτείνει ένα δομημένο σύνολο προτύπων για την ανίχνευση ψηφιακής χειραγώγησης του περιεχομένου. Αυτά τα εργαλεία έχουν σκοπό να αυξήσουν τη διαφάνεια και την εμπιστοσύνη στα διαδικτυακά υλικά, αλλά η επιτυχία τους εξαρτάται από την αποδοχή της βιομηχανίας και την αξιοπιστία των ενσωματωμένων ελέγχων.