Η φωνή μας είναι σχεδόν τόσο μοναδική όσο τα αποτυπώματά μας – οπότε πώς θα νιώθατε αν κλωνοποιούσαν τη φωνή σας; Ένας νέος τύπος deepfake που ονομάζεται «voice cloning» (κλωνοποίηση φωνής) έχει εμφανιστεί τους τελευταίους μήνες, με τους χάκερ να χρησιμοποιούν τεχνητή νοημοσύνη (AI) για να μιμηθούν τη φωνή σας.
Πρόσωπα όπως ο Stephen Fry, ο Sadiq Khan και ο Joe Biden έχουν ήδη πέσει θύματα της συγκεκριμένης απάτης, ενώ ένας ανώνυμος CEO εξαπατήθηκε να μεταφέρει 243.000 δολάρια σε έναν απατεώνα έπειτα από ένα ψεύτικο τηλεφώνημα. Αλλά πώς λειτουργεί ακριβώς όλο αυτό και πόσο πειστικό είναι;
Η κλωνοποίηση φωνής είναι μια τεχνική AI που επιτρέπει στους χάκερ να πάρουν μια ηχογράφηση κάποιου, να εκπαιδεύσουν ένα εργαλείο AI να μιμείται τη φωνή του και να την αναδημιουργήσουν.
Μιλώντας στην MailOnline, ο Dane Sherrets από το HackerOne, εξήγησε: «Αυτό χρησιμοποιήθηκε αρχικά για τη δημιουργία ηχητικών βιβλίων και για να βοηθήσει ανθρώπους που έχουν χάσει τη φωνή τους για ιατρικούς λόγους. Αλλά σήμερα, χρησιμοποιείται όλο και περισσότερο στο Χόλιγουντ, και δυστυχώς και από απατεώνες».
Όταν η τεχνολογία πρωτοεμφανίστηκε στα τέλη της δεκαετίας του 1990, η χρήση της περιοριζόταν σε ειδικούς με βαθιά γνώση της AI. Ωστόσο, με τα χρόνια η τεχνολογία έχει γίνει πιο προσιτή και πιο οικονομική, με αποτέλεσμα σχεδόν οποιοσδήποτε να μπορεί να τη χρησιμοποιήσει, σύμφωνα με τον κ. Sherrets.
«Ακόμα και κάποιος με ελάχιστη εμπειρία μπορεί να κλωνοποιήσει μια φωνή», δήλωσε. «Χρειάζεται λιγότερο από πέντε λεπτά με μερικά από τα δωρεάν εργαλεία που υπάρχουν εκεί έξω».
Πώς γίνεται η κλωνοποίηση φωνής με τη χρήση ΑΙ
Ο Sherrets λέει ότι οι περισσότεροι χάκερ θα μπορούσαν απλά να πάρουν το ήχο μίας φωνής από ένα γρήγορο τηλεφώνημα ή ακόμα και από ένα βίντεο που έχει δημοσιευτεί στα μέσα κοινωνικής δικτύωσης. «Είναι δυνατό να το κάνεις κατά τη διάρκεια μιας κλήσης ή από κάτι που μοιράζεται το άτομο στα μέσα κοινωνικής δικτύωσης ή ακόμα και από ένα podcast. Πραγματικά απλά πράγματα που ανεβάζουμε ή ηχογραφούμε κάθε μέρα», είπε.
Μόλις οι χάκερ πάρουν το ηχητικό αρχείο το μόνο που χρειάζεται να κάνουν είναι να το ανεβάσουν σε ένα εργαλείο AI, το οποίο στη συνέχεια μπορεί να «εκπαιδευτεί» στη μίμηση της φωνής του θύματος. Μόλις γίνει αυτό ο χάκερ μπορεί να πληκτρολογήσει κάτι στο εργαλείο ή και να του μιλήσει απευθείας κι εκείνο θα αρχίσει να αναπαράγει ό,τι του ζητηθεί με την φωνή που του έχουν καταχωρήσει.
«Αυτό που είναι πραγματικά τρελό με τα εργαλεία που υπάρχουν τώρα, είναι ότι μπορώ να προσθέσω επιπλέον τονισμούς, παύσεις ή άλλα πράγματα που κάνουν την ομιλία να ακούγεται πιο φυσική, κάτι που την κάνει πολύ πιο πειστική σε ένα σενάριο απάτης», λέει ο κ. Sherrets.
Η δημοσιογράφος της MailOnline έδωσε την φωνή της, μέσω ενός σύντομου ηχητικού κλιπ όπου και η διαδικασία της κλωνοποίησης της φωνής της πήρε λιγότερο από πέντε λεπτά. Μάλιστα, όπως περιγράφει η ίδια η ομοιότητα ήταν τρομακτική. Η ρομποτική φωνή μίμηθηκε τέλεια την αμερικανο-σκοτσέζικη προφορά της, λέγοντας: «Γεια σου μαμά, είμαι η Shivali. Έχασα την κάρτα της τράπεζας και χρειάζομαι να μεταφέρω κάποια χρήματα. Μπορείς να στείλεις κάποια στον λογαριασμό που μόλις σου έστειλα σε μήνυμα;».
Ωστόσο, η ανατριχίλα αυξήθηκε στο επόμενο κλιπ, όπου ο κ. Sherrets πρόσθεσε παύσεις. «Προς το τέλος μπορείς να ακούσεις μια μεγάλη παύση, και μετά μια ανάσα, και αυτό το κάνει να ακούγεται πολύ πιο φυσικό», εξήγησε ο ίδιος.
Από την πλευρά του ο κ. Sherrets επισημαίνει μερικούς από τους σοβαρούς κινδύνους της τεχνολογίας. «Μερικοί άνθρωποι έχουν δεχτεί ψεύτικα τηλεφωνήματα απαγωγής, όπου το “παιδί” τους τους έχει καλέσει, λέγοντας “Με απήγαγαν, χρειάζομαι εκατομμύρια δολάρια αλλιώς δεν θα με απελευθερώσουν” και το παιδί ακούγεται πολύ αγχωμένο», είπε.
«Αυτό που βλέπουμε όλο και περισσότερο σήμερα είναι άτομα που προσπαθούν να κάνουν πιο στοχευμένες προσπάθειες εναντίον εταιρειών και οργανισμών. Χρησιμοποίησα την ίδια τεχνολογία για να κλωνοποιήσω τη φωνή του διευθυντή μου. Οι διευθυντές συχνά έχουν παρίστανται σε δημόσιες εκδηλώσεις, οπότε είναι πολύ εύκολο να αποκτήσει κανείς υψηλής ποιότητας ήχο της φωνής τους και να την κλωνοποιήσει».
«Το να έχεις τη φωνή ενός CEO διευκολύνει πολύ την απόκτηση ενός κωδικού πρόσβασης ή την πρόσβαση σε ένα σύστημα. Οι εταιρείες και οι οργανισμοί πρέπει να γνωρίζουν αυτόν τον κίνδυνο», συμπληρώνει.
Τα «σημάδια» που υποδεικνύουν ότι μία φωνή είναι κλωνοποιημένη με ΑΙ
Ευτυχώς, ο κ. Sherrets λέει ότι υπάρχουν διάφορα βασικά σημάδια που δείχνουν ότι μια φωνή είναι κλωνοποιημένη. «Υπάρχουν οι παύσεις, κάποια άλλα στοιχεία που κάνουν την φωνή να μην ακούγεται τόσο φυσική και μπορεί να υπάρχουν και αυτά που ονομάζουμε “τεχνητά στοιχεία” στο παρασκήνιο. Για παράδειγμα, αν μια φωνή κλωνοποιήθηκε σε ένα γεμάτο δωμάτιο και υπάρχουν πολλοί άλλοι άνθρωποι που μιλούν, τότε όταν χρησιμοποιηθεί αυτό το κλωνοποιημένο ηχογράφημα φωνής, θα ακούσετε κάποιους περιττούς ήχους στο παρασκήνιο».
Ωστόσο, καθώς η τεχνολογία συνεχίζει να εξελίσσεται, αυτά τα σημάδια δεν θα εντοπίζονται εύκολα.
«Οι άνθρωποι πρέπει να γνωρίζουν αυτή την τεχνολογία και να είναι επιφυλακτικοί με οτιδήποτε τους ζητά να δράσουν επειγόντως – αυτό είναι συχνά ένα κακό σημάδι», εξήγησε. «Θα πρέπει να σπεύσουν να κάνουν ερωτήσεις που ίσως μόνο το πραγματικό άτομο θα μπορούσε να απαντήσει, και να μην φοβηθούν να προσπαθήσουν να επαληθεύσουν την κατάσταση πριν κάνουν οποιαδήποτε κίνηση».
Ο κ. Sherrets συνιστά να έχετε μια «κρυφή λέξη» με την οικογένεια και τους φίλους σας. «Αν είστε πραγματικά σε μια επείγουσα κατάσταση, μπορείτε να πείτε αυτή τη κρυφή λέξη και θα καταλάβουν αμέσως ότι είστε εσείς», είπε.
Τέλος, ο ειδικός συμβουλεύει να είστε προσεκτικοί με το ψηφιακό σας αποτύπωμα και να παρακολουθείτε την ποσότητα των πληροφοριών που ανεβάζετε online.