Η κρίση που αντιμετωπίζει σήμερα το Grok, το chatbot της εταιρείας xAI του Έλον Μασκ, θεωρείται από πολλούς ως ένα προδιαγεγραμμένο αποτέλεσμα των επιλογών που έγιναν κατά τη διάρκεια της ανάπτυξής του. Το εργαλείο, το οποίο παρουσιάστηκε με μια «επαναστατική διάθεση» για να απαντά σε «πικάντικες ερωτήσεις» που άλλα συστήματα απορρίπτουν, βρίσκεται πλέον στο στόχαστρο διεθνών ερευνών.
Η έλλειψη εγγυήσεων ασφαλείας
Η ανάπτυξη του Grok βασίστηκε σε μια ταχεία διαδικασία εκπαίδευσης μόλις δύο μηνών, ενώ την ίδια στιγμή η πλατφόρμα X είχε προχωρήσει σε μαζικές περικοπές στο προσωπικό που ήταν υπεύθυνο για την ασφάλεια και την εμπιστοσύνη.
Η xAI δεν διέθετε σαφή ομάδα ασφαλείας κατά την κυκλοφορία του μοντέλου. Η εταιρεία καθυστέρησε σημαντικά να δημοσιεύσει κάρτες μοντέλου που περιγράφουν τις δοκιμές ασφαλείας. Η προσέγγιση της εταιρείας στα προβλήματα περιγράφεται από ειδικούς ως «whack-a-mole», προσπαθώντας να διορθώσει εκ των υστέρων ζητήματα που ήταν ήδη ενσωματωμένα στο σύστημα.
Η κρίση των σεξουαλικοποιημένων deepfakes
Το Grok χρησιμοποιήθηκε ευρέως για τη δημιουργία και διάδοση μη συναινετικών, σεξουαλικοποιημένων deepfakes ενηλίκων και ανηλίκων.
Μια ανάλυση έδειξε ότι το chatbot παρήγαγε περίπου 6.700 σεξουαλικά εικόνες ανά ώρα.
Η προσθήκη ενός κουμπιού «edit» επέτρεψε στους χρήστες να τροποποιούν φωτογραφίες τρίτων, ζητώντας από το AI να αλλάξει τα ρούχα τους ή να τις τοποθετήσει σε σεξουαλικές πόζες.
Παρά τους περιορισμούς που ανακοίνωσε η X, δοκιμές έδειξαν ότι οι χρήστες μπορούν να παρακάμψουν τα φίλτρα σε λιγότερο από ένα λεπτό χρησιμοποιώντας κατάλληλες εντολές.
Διεθνείς αντιδράσεις και νομικές συνέπειες
Η έκταση του φαινομένου προκάλεσε την αντίδραση κυβερνήσεων σε όλο τον κόσμο. Η Μαλαισία και η Ινδονησία έχουν ήδη αποκλείσει την πρόσβαση στο Grok.
Η Γαλλία, η Ινδία και το Ηνωμένο Βασίλειο έχουν ξεκινήσει έρευνες για παραβίαση των νόμων περί διαδικτυακής ασφάλειας. Στις ΗΠΑ, ο κυβερνήτης της Καλιφόρνια Gavin Newsom κάλεσε το Υπουργείο Δικαιοσύνης να διερευνήσει την xAI.
Ο νόμος Take It Down Act, που ψηφίστηκε τον Μάιο του 2025, αναμένεται να επιβάλει αυστηρότερες υποχρεώσεις στις πλατφόρμες για την άμεση αφαίρεση μη συναινετικού περιεχομένου.
Ο ανταγωνισμός και τα πρότυπα του κλάδου
Άλλες εταιρείες τεχνητής νοημοσύνης έχουν ενσωματώσει πολύ αυστηρότερα φίλτρα στα συστήματά τους. Για παράδειγμα, το ChatGPT της OpenAI και το Copilot της Microsoft αρνούνται ρητά τη δημιουργία σεξουαλικοποιημένων εικόνων δημόσιων προσώπων, απαντώντας ότι «δεν μπορούν να βοηθήσουν στη δημιουργία εικόνων που απεικονίζουν ένα πραγματικό δημόσιο πρόσωπο με σεξουαλικό ή δυνητικά υποτιμητικό τρόπο».
