Η νέα πλατφόρμα βίντεο της OpenAI, Sora, δείχνει πόσο εύκολα μπορεί να παραποιηθεί η πραγματικότητα από την τεχνητή νοημοσύνη. Το σύστημα δημιουργεί πραγματοφανή βίντεο deepfake με διάσημους ανθρώπους, όπως ο Martin Luther King Jr. ή ο Michael Jackson, αλλά και με χρήστες που βλέπουν τον εαυτό τους να εμφανίζεται σε ψεύτικες, προσβλητικές σκηνές.
Το πρόβλημα δεν είναι μόνο το περιεχόμενο, αλλά και το γεγονός ότι οι θεατές δεν ενημερώνονται πως αυτά τα βίντεο είναι ψεύτικα.
Το C2PA που δε λειτουργεί όπως πρέπει
Η OpenAI υποστηρίζει πως κάθε βίντεο της Sora περιλαμβάνει μεταδεδομένα C2PA (Content Credentials) – ένα σύστημα που αναπτύχθηκε από την Adobe και αποσκοπεί στο να πιστοποιεί αν ένα βίντεο ή εικόνα είναι αυθεντικά. Η ιδέα είναι ότι τα αρχεία συνοδεύονται από αόρατες πληροφορίες για το πώς και πότε δημιουργήθηκαν.
Όμως, όπως δείχνει η πράξη, το C2PA δε λειτουργεί αποτελεσματικά, επειδή οι περισσότερες πλατφόρμες κοινωνικής δικτύωσης δεν εμφανίζουν αυτά τα σήματα στον θεατή.
Η αποτυχία των μεγάλων πλατφορμών
Παρότι εταιρείες όπως η Google, η Meta, η TikTok και η Amazon έχουν δεσμευθεί να το εφαρμόσουν, οι ετικέτες σπάνια φαίνονται, και οι περισσότεροι χρήστες δεν γνωρίζουν καν ότι υπάρχουν. Η Meta, για παράδειγμα, άλλαξε πρόσφατα το σήμα «Made by AI» σε «AI Info» έπειτα από αντιδράσεις φωτογράφων, ενώ σε πλατφόρμες όπως το TikTok ή το YouTube οι ενδείξεις AI σχεδόν δεν εμφανίζονται ποτέ.
Επικίνδυνες ψευδείς εικόνες χωρίς προειδοποίηση
Η ανεπάρκεια αυτή έχει συνέπειες. Κυκλοφορούν viral βίντεο, όπως ένα ψεύτικο πλάνο CCTV που δείχνει έναν άνδρα να σώζει ένα μωρό που πέφτει από παράθυρο, χωρίς καμία σήμανση ότι πρόκειται για deepfake της Sora. Οι ειδικοί τονίζουν ότι η ευθύνη δεν πρέπει να βαραίνει τον απλό χρήστη αλλά τις ίδιες τις πλατφόρμες.
Παρά τις υποσχέσεις για «πλήρη διαφάνεια», η πραγματικότητα δείχνει ότι οι μηχανισμοί εντοπισμού και σήμανσης deepfake είναι ουσιαστικά αόρατοι. Ενώ η Sora αποδεικνύει τη δύναμη της τεχνητής νοημοσύνης, ταυτόχρονα φανερώνει πόσο ανέτοιμο είναι το Διαδίκτυο να αντιμετωπίσει το νέο κύμα ψηφιακής παραπλάνησης.
