Πριν από λίγους μήνες είχε προκληθεί σάλος με τα βίντεο στα social media και κυρίως στο Tik Tok, στα οποία με την χρήση τεχνητής νοημοσύνης “επανέρχονται” στην ζωή θύματα δολοφονιών. Μεταξύ άλλων, έγινε χαμός με βίντεο στο οποίο o James Bulger, εμφανίζεται να μιλά για τη δολοφονία του που είχε σοκάρει την κοινή γνώμη το 1993, σε ηλικία 2 ετών.
Η μητέρα του James Bulger κέρδισε τη μάχη με την Google, καθώς ο τεχνολογικός γίγαντας αυστηροποίησε τους κανόνες προκειμένου να αφαιρέσει τις εικόνες του νεκρού γιου της που δημιουργήθηκαν από τεχνητή νοημοσύνη.
Η Denise Fergus είχε ζητήσει από τη Google να αναλάβει δράση, καθώς οι fake εικόνες του γιου της έκαναν τον γύρο των social media μέσων TikTok, με βίντεο που δείχνουν ένα avatar του Τζέιμς να μιλά για τη δολοφονία του.
Αυτά τα βίντεο μπορούσαν βρεθούν στη μηχανή αναζήτησης της Google, προκαλώντας την οργή της μητέρας του άτυχου παιδιού.
Οι δολοφόνοι του Jon Venebles και Robert Thompson, που ήταν και οι δύο 10 ετών τότε, τον είχαν απαγάγει από ένα εμπορικό κέντρο πριν τον βασανίσουν και τον σκοτώσουν στις σιδηροδρομικές γραμμές.
Οι αλλαγές της Google
Τώρα τα αφεντικά της Google έχουν αλλάξει τους όρους και τις προϋποθέσεις της πλατφόρμας για να αφαιρεθεί αυτό το περιεχόμενο από τη μηχανή αναζήτησής της και άλλους ιστότοπους που κατέχει, όπως το YouTube.
Σημαίνει ότι οι λογαριασμοί των ατόμων που ανεβάζουν τις εικόνες και τα βίντεο θα μπορούσαν να τερματιστούν για επαναλαμβανόμενα αδικήματα.
Η Denise, 54 ετών, είπε στη Mirror: «Είμαι τόσο ανακουφισμένη για την εφαρμογή νέων κανόνων σχετικά με το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη και περιλαμβάνει νεκρούς ανηλίκους. Πέρυσι, με τρόμο ανακάλυψα ότι άτομα δημιουργούσαν και δημοσίευαν βίντεο του αγαπημένου μου James που δημιουργήθηκαν από AI. Η στενοχώρια που προκάλεσε σε εμένα και την οικογένειά μου ήταν αδιανόητη. Ήταν παραβίαση της θλίψης μας ».
Σύμφωνα με τους νέους κανόνες, αυτό το υλικό θα αφαιρείται αμέσως και τα άτομα που το ανέβασαν θα λαμβάνουν προειδοποίηση. Εάν αυτό επαναληφθεί ξανά εντός τριών μηνών, τότε ο υπεύθυνος χρήστης θα διαγράψει τον λογαριασμό του.
Όπως αναφέρει η εφημερίδα, η Google ανακοίνωσε ότι από τις 16 Ιανουαρίου θα αρχίσει να διαγράφει περιεχόμενο που αναπαράγει με ρεαλιστικό τρόπο την εικόνα ανηλίκων που έχουν πεθάνει ή θυμάτων βίαιων γεγονότων, και στο οποίο περιγράφεται ο θάνατός τους ή η βία που βίωσαν.
«Ενδέχεται να τερματίσουμε το κανάλι ή τον λογαριασμό σας για επανειλημμένες παραβιάσεις των οδηγιών της κοινότητας ή των όρων παροχής υπηρεσιών».
Η κίνηση αυτή της Google έχει επαινεθεί από την Denise, η οποία είπε ότι η εταιρεία «αναγνώρισε τη σοβαρότητα αυτού του ζητήματος» και την χαρακτήρισε «κρίσιμη κίνηση» για την προστασία της μνήμης των ανθρώπων που πέθαναν.
Σε μια δήλωση που κυκλοφόρησε όταν γνωστοποιήθηκαν τα βίντεο πέρυσι, η TikTok είπε: «Θέλουμε το TikTok να είναι ένα φιλόξενο μέρος για όλους και δεν υπάρχει χώρος στην πλατφόρμα μας για ενοχλητικό περιεχόμενο αυτού του είδους.
Οι Οδηγίες Κοινότητας μας είναι σαφείς ότι δεν επιτρέπουμε περιεχόμενο που δημιουργήθηκε ψηφιακά και απεικονίζει άτομα νεαρής ηλικίας. Συνεχίζουμε να αφαιρούμε περιεχόμενο αυτού του είδους όπως το βρίσκουμε. Το TikTok συνεχίζει να ελέγχει και να αφαιρεί περιεχόμενο σύμφωνα με τις οδηγίες της κοινότητάς του».
Ο ιστότοπος δίνει στους χρήστες την επιλογή να αναφέρουν ακατάλληλο περιεχόμενο, αλλά διαθέτει επίσης επαγγελματίες ασφαλείας για να επισημαίνουν και να αφαιρούν περιεχόμενο προληπτικά.
Οι χρήστες του TikTok επικρίθηκαν πέρυσι, αφού διαπιστώθηκε ότι χρησιμοποίησαν την τεχνητή νοημοσύνη για να δημιουργήσουν παρόμοιο υλικό για τη δολοφονία του μικρού παιδιού. Αντίστοιχα βίντεο με AI έχουν δημιουργηθεί και για την Madeleine McCann.
Η δολοφονία-σοκ
Ο Τζέιμς Πάτρικ Μπάλτζερ (James Patrick Bulger, 16 Μαρτίου 1990-12 Φεβρουαρίου 1993), ήταν ένα 2χρονο αγοράκι από το Λίβερπουλ της Αγγλίας, το οποίο απήχθη, βασανίστηκε και δολοφονήθηκε από δύο δεκάχρονα αγόρια, τους Τζον Βέναμπλς και Ρόμπερτ Τόμσον. Ο Τζέιμς απομακρύνθηκε από το εμπορικό κέντρο New Strand στο Bootle, καθώς η μητέρα του τον είχε βγάλει για λίγο για βόλτα. Το ακρωτηριασμένο σώμα του βρέθηκε σε σιδηροδρομική γραμμή 2,5 μίλια (4 χλμ.). Μακριά στο Walton του Λίβερπουλ, δύο ημέρες μετά την απαγωγή του. Οι Τόμσον και Βέναμπλς κατηγορήθηκαν στις 20 Φεβρουαρίου 1993 για απαγωγή και δολοφονία του μικρού.
Κρίθηκαν ένοχοι στις 24 Νοεμβρίου 1993, καθιστώντας τους ως τους νεότερους καταδικασμένους δολοφόνους στη σύγχρονη Βρετανική ιστορία (Μόλις 11 ετών). Καταδικάστηκαν σε φυλάκιση, μέχρις ότου η απόφαση του Συμβουλίου του Parole τον Ιούνιο του 2001 συνέστησε την απελευθέρωσή τους με μια δια βίου άδεια ηλικίας 18 ετών. Το 2010, ο Venables επέστρεψε στη φυλακή για παραβίαση των όρων της άδειας του, με την κατηγορία κατοχής φωτογραφιών παιδικής πορνογραφίας στον υπολογιστή του και αφέθηκε ελεύθερος πάλι το 2013. Τον Νοέμβριο του 2017, ο Venables επέστρεψε και πάλι στη φυλακή με την ίδια κατηγορία. Καταδικάστηκε σε τρία χρόνια φυλάκιση.