Το TikTok ξεκίνησε δοκιμές ενός νέου εργαλείου που επιτρέπει στους δημιουργούς περιεχομένου να εντοπίζουν πιθανές μη εξουσιοδοτημένες χρήσεις της εικόνας τους από τεχνητή νοημοσύνη.
Η νέα λειτουργία έχει σχεδιαστεί για να εντοπίζει περιεχόμενο που δημιουργείται με AI και χρησιμοποιεί την ομοιότητα ενός δημιουργού, επιτρέποντάς του στη συνέχεια να αναφέρει στην πλατφόρμα βίντεο ή λογαριασμούς που θεωρεί ότι παραβιάζουν τα δικαιώματά του.
Το εργαλείο βρίσκεται αρχικά σε δοκιμαστική φάση με «κάποιους» δημιουργούς στις ΗΠΑ, σύμφωνα με εκπρόσωπο του TikTok.
Πώς λειτουργεί η ανίχνευση AI ομοιότητας
Οι δημιουργοί που συμμετέχουν στη δοκιμή πρέπει πρώτα να επαληθεύσουν την ταυτότητά τους μέσω της εταιρείας Jumio. Η διαδικασία περιλαμβάνει ζωντανή σάρωση selfie και έλεγχο ταυτότητας.
Το TikTok αναφέρει ότι δε διατηρεί τα έγγραφα ταυτοποίησης και ότι οι πληροφορίες προσώπου χρησιμοποιούνται μόνο για την αντιστοίχιση ομοιότητας και τον εντοπισμό πιθανών μη εξουσιοδοτημένων χρήσεων της εικόνας ενός δημιουργού.
Μετά την επαλήθευση, το σύστημα αναζητά περιεχόμενο που έχει δημιουργηθεί με τεχνητή νοημοσύνη και ενδέχεται να περιλαμβάνει το πρόσωπο ή την εμφάνιση του δημιουργού.
Ο δημιουργός μπορεί στη συνέχεια να εξετάσει τα αποτελέσματα και να υποβάλει αναφορές για περιεχόμενο ή λογαριασμούς που θεωρεί προβληματικούς.
Η μάχη κατά των deepfakes
Η αυξανόμενη χρήση εργαλείων δημιουργικής τεχνητής νοημοσύνης έχει οδηγήσει σε αύξηση των deepfakes, δηλαδή ψηφιακά δημιουργημένων εικόνων, βίντεο ή ήχου που μπορούν να μιμηθούν πραγματικούς ανθρώπους.
Για δημιουργούς περιεχομένου, influencers και δημόσια πρόσωπα, η προστασία της ψηφιακής τους ταυτότητας έχει γίνει σημαντικό ζήτημα, καθώς η τεχνολογία μπορεί να χρησιμοποιηθεί για τη δημιουργία παραπλανητικού ή επιβλαβούς υλικού.
Το TikTok δεν είναι η πρώτη μεγάλη πλατφόρμα που αναπτύσσει τέτοιες δυνατότητες. Το YouTube έχει επίσης εργαστεί πάνω σε παρόμοιο σύστημα εντοπισμού AI ομοιότητας και πρόσφατα το έκανε διαθέσιμο σε όλους τους ενήλικους χρήστες.
Προκλήσεις γύρω από την ιδιωτικότητα
Παρότι τα εργαλεία αναγνώρισης AI μπορούν να βοηθήσουν τους δημιουργούς να προστατεύσουν την εικόνα τους, εγείρουν επίσης ερωτήματα σχετικά με τη συλλογή και διαχείριση βιομετρικών δεδομένων.
Το TikTok υποστηρίζει ότι η επεξεργασία των δεδομένων προσώπου περιορίζεται αποκλειστικά στον σκοπό της αντιστοίχισης ομοιότητας και της ανίχνευσης παράνομων χρήσεων.
Η εταιρεία αναμένεται να αξιολογήσει τα αποτελέσματα της δοκιμής πριν αποφασίσει αν το εργαλείο θα επεκταθεί σε περισσότερους δημιουργούς και άλλες περιοχές.