Η Google ανέστειλε τη νέα λειτουργία τεχνητής νοημοσύνης του Google Earth, λιγότερο από 48 ώρες μετά την παρουσίασή της, έπειτα από προειδοποιήσεις ειδικών για τους κινδύνους παραπληροφόρησης. Η λειτουργία επέτρεπε στους χρήστες να δημιουργούν ψεύτικες εικόνες πάνω σε πραγματικές δορυφορικές, εναέριες και τρισδιάστατες απεικονίσεις, χρησιμοποιώντας απλές γραπτές εντολές.
Η εταιρεία ανακοίνωσε ότι η υπηρεσία τίθεται σε παύση, ώστε να εφαρμοστούν ισχυρότερα μέτρα προστασίας, καθώς διαπιστώθηκε ότι ορισμένοι χρήστες κοινοποιούσαν εικόνες που φαίνεται να παραβίαζαν τις πολιτικές της.
Google Earth: Εικόνες που μπορούσαν να παραπλανήσουν
Κατά τις δοκιμές του BBC Verify δημιουργήθηκαν εικόνες όπως ο Πύργος του Άιφελ κατεστραμμένος, μια τεράστια καταβόθρα δίπλα στη Μεγάλη Πυραμίδα της Γκίζας και ρωσικά άρματα μάχης στο Κίεβο. Αν και ήταν ψεύτικες, βασίζονταν σε πραγματικές δορυφορικές εικόνες, γεγονός που τις έκανε ιδιαίτερα πειστικές.
Ειδικοί προειδοποίησαν ότι η σύνδεση τεχνητά παραγόμενων εικόνων με πραγματικές γεωγραφικές συντεταγμένες ενισχύει την αξιοπιστία τους και αυξάνει τον κίνδυνο παραπλάνησης του κοινού.
Παρακάμψεις των μηχανισμών ασφαλείας
Η Google ανέφερε ότι όλες οι εικόνες που δημιουργούνται από τα εργαλεία της περιλαμβάνουν αόρατα υδατογραφήματα και μπορούν να ελεγχθούν μέσω του Gemini ή του Google Lens. Ωστόσο, οι δοκιμές του BBC Verify έδειξαν ότι σε ορισμένες περιπτώσεις ήταν δυνατό να παρακαμφθούν οι έλεγχοι ή ακόμη και να ξεγελαστούν τα συστήματα επαλήθευσης.
Παράλληλα, ορισμένα εξωτερικά εργαλεία ανίχνευσης περιεχομένου AI απέτυχαν να αναγνωρίσουν ότι οι εικόνες ήταν τεχνητά δημιουργημένες.
Ανησυχία για την αξιοπιστία των δορυφορικών εικόνων
Ερευνητές επισημαίνουν ότι η διάδοση ψεύτικων δορυφορικών εικόνων μπορεί να προκαλέσει σοβαρά προβλήματα, ιδιαίτερα σε περιόδους πολέμων ή φυσικών καταστροφών, όταν η αξιόπιστη πληροφόρηση είναι περιορισμένη.
Η Google είχε ενσωματώσει περιορισμούς για τη δημιουργία εικόνων που σχετίζονται με ευαίσθητα θέματα, όμως διαπιστώθηκε ότι ορισμένοι μπορούσαν να τους παρακάμψουν διατυπώνοντας διαφορετικά τις εντολές.
Οι ειδικοί εκφράζουν φόβους ότι η διάβρωση της εμπιστοσύνης στις δορυφορικές εικόνες θα δυσκολέψει ακόμη περισσότερο την επαλήθευση πληροφοριών στο μέλλον, καθώς οι ψεύτικες εικόνες γίνονται ολοένα πιο εύκολο να δημιουργηθούν και να διαδοθούν.