Ένας άνδρας από την Νορβηγίας έπαθε σοκ όταν ανακάλυψε ότι το ChatGPT τον κατηγορεί ψευδώς ότι δολοφόνησε τα ίδια του τα παιδιά.
Σύμφωνα με καταγγελία που κατατέθηκε την Πέμπτη από τους υπερασπιστές των δικαιωμάτων ψηφιακών δεδομένων της Ευρωπαϊκής Ένωσης Noyb, ο Arve Hjalmar Holmen αποφάσισε να δει τι πληροφορίες μπορεί να παρέχει το ChatGPT αν κάποιος αναζητήσει το όνομά του.
Εξεπλάγη όταν το ChatGPT απάντησε με αποτελέσματα που έλεγαν ψευδώς ότι είχε καταδικαστεί σε 21 χρόνια φυλάκισης ως «ένοχος εγκληματίας που σκότωσε δύο από τα παιδιά του και προσπάθησε να σκοτώσει τον τρίτο του γιο», σύμφωνα με ανακοίνωση της Noyb.
Η «φανταστική ιστορία τρόμου» του ChatGPT όχι μόνο δημιουργούσε γεγονότα που δεν είχαν συμβεί, αλλά συνδύαζε και «σαφώς αναγνωρίσιμα προσωπικά δεδομένα» – όπως ο πραγματικός αριθμός και το φύλο των παιδιών του Holmen και το όνομα της γενέτειράς του – με τις «ψευδείς πληροφορίες», ανέφερε η ανακοίνωση της Noyb.
Τα ψέματα του ChatGPT, μαζί με την προσθήκη «πραγματικών στοιχείων» από την προσωπική ζωή του Νορβηγού, φέρεται να παραβιάζει τις απαιτήσεις «ακρίβειας δεδομένων» του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR), διότι ο Holmen δεν μπορούσε εύκολα να διορθώσει τις πληροφορίες, όπως απαιτεί το GDPR.
Ανησυχία για τη φήμη του Holmen
Ο Holmen υποστήριξε ότι η φήμη του πλήττεται όσο οι ψευδείς πληροφορίες παρέμεναν στον διαδίκτυο. Παρά τις «μικρές» προειδοποιήσεις στους χρήστες του ChatGPT να επαληθεύουν τα αποτελέσματα, δεν υπήρχε τρόπος να γνωρίζει πόσοι άνθρωποι μπορεί να έχουν εκτεθεί στην ψευδή ιστορία και να πίστεψαν ότι οι πληροφορίες ήταν αληθινές.
«Ορισμένοι πιστεύουν ότι ‘δεν υπάρχει καπνός χωρίς φωτιά’», είπε ο Holmen στην ανακοίνωση τύπου. «Το γεγονός ότι κάποιος μπορεί να διαβάσει αυτό το αποτέλεσμα και να πιστέψει ότι είναι αλήθεια, είναι αυτό που με τρομάζει περισσότερο».
Διόρθωση και αναβάθμιση του ChatGPT
Προς το παρόν, το ChatGPT δεν επαναλαμβάνει αυτές τις φρικτές ψευδείς κατηγορίες για τον Holmen. Μια πιο πρόσφατη αναβάθμιση φέρεται να έχει διορθώσει το ζήτημα, καθώς «το ChatGPT αναζητά τώρα και στο Διαδίκτυο πληροφορίες για τα άτομα, όταν ρωτάς ποιοι είναι», ανέφερε η Noyb.
Ωστόσο, καθώς η OpenAI είχε προηγουμένως υποστηρίξει ότι δεν μπορεί να διορθώσει τις πληροφορίες – μόνο να μπλοκάρει τα δεδομένα – η ιστορία για τον ψεύτικο δολοφόνο παιδιών είναι πιθανό να εξακολουθεί να υπάρχει στα εσωτερικά δεδομένα του ChatGPT. Και αν ο Holmen δεν μπορεί να τα διορθώσει, αυτό συνιστά παραβίαση του GDPR, ισχυρίζεται η Noyb.
Μπορεί η OpenAI να διαγράψει τα ψευδή δεδομένα;
Ο Holmen δεν είναι ο μόνος χρήστης του ChatGPT που ανησυχεί ότι οι ψευδαισθήσεις του chatbot μπορεί να καταστρέψουν ζωές. Μήνες μετά την κυκλοφορία του ChatGPT στα τέλη του 2022, ο δήμαρχος της Αυστραλίας απείλησε να μηνύσει την OpenAI για συκοφαντική δυσφήμιση, αφού το chatbot ισχυρίστηκε ψευδώς ότι είχε πάει φυλακή.
Περίπου την ίδια περίοδο, το ChatGPT συνδέθηκε με ένα ψεύτικο σκάνδαλο σεξουαλικής παρενόχλησης καθηγητή νομικής. Κάποιους μήνες αργότερα, ένας ραδιοφωνικός παρουσιαστής μήνυσε την OpenAI για ισχυρισμούς που αφορούσαν ψευδείς κατηγορίες υπεξαίρεσης.
Σε ορισμένες περιπτώσεις, η OpenAI φίλτραρε το μοντέλο για να αποφύγει τη δημιουργία επιβλαβών αποτελεσμάτων, αλλά πιθανότατα δεν διέγραψε τις ψευδείς πληροφορίες από τα δεδομένα εκπαίδευσης, πρότεινε η Noyb. Αλλά το φιλτράρισμα των αποτελεσμάτων και οι προειδοποιήσεις δεν είναι αρκετά για να αποτρέψουν τη φήμη από ζημιά, ισχυρίστηκε η δικηγόρος προστασίας δεδομένων της Noyb, Kleanthi Sardeli.
Πίεση για αλλαγές και νέες κανονιστικές παρεμβάσεις
Η Noyb πιστεύει ότι η OpenAI πρέπει να αντιμετωπίσει μεγαλύτερη πίεση για να προσπαθήσει να αποτρέψει τη δημιουργία συκοφαντικών αποτελεσμάτων.
Καταθέτοντας καταγγελία στην Νορβηγική Αρχή Προστασίας Δεδομένων Datatilsynet, η Noyb ζητά εντολή για τη «διαγραφή του συκοφαντικού αποτελέσματος και τη βελτιστοποίηση του μοντέλου ώστε να εξαλείψει τις ανακριβείς πληροφορίες». Επιπλέον, προτείνεται να επιβληθεί «διοικητικό πρόστιμο για να αποφευχθούν παρόμοιες παραβιάσεις στο μέλλον».
Αυτή είναι η δεύτερη καταγγελία της Noyb κατά της OpenAI σχετικά με το ChatGPT, έπειτα από καταγγελία στην αυστριακή αρχή προστασίας δεδομένων τον Απρίλιο του περασμένου έτους.
Όλο και περισσότερα κράτη μέλη της ΕΕ εξετάζουν τις εταιρείες AI, και η OpenAI παραμένει δημοφιλής στόχος. Το 2023, η Ευρωπαϊκή Επιτροπή Προστασίας Δεδομένων ξεκίνησε άμεσα μια ομάδα εργασίας για το ChatGPT μετά τις ανησυχίες για την προστασία των δεδομένων και πιθανές ενέργειες επιβολής, αφού το ChatGPT άρχισε να δημιουργεί ψευδείς ισχυρισμούς που χρήστες θεωρούσαν συκοφαντικούς.
Η OpenAI αντιμετωπίζει ποιες συνέπειες;
Μέχρι στιγμής, η OpenAI έχει αντιμετωπίσει συνέπειες σε τουλάχιστον ένα κράτος μέλος και το αποτέλεσμα μπορεί να δείχνει ότι οι καταγγελίες της Noyb έχουν βάση.
Το 2024, επιβλήθηκε πρόστιμο 16 εκατομμυρίων δολαρίων και προσωρινή απαγόρευση στην Ιταλία λόγω παραβίασης δεδομένων που διέρρευσαν συνομιλίες χρηστών και πληροφορίες πληρωμών.
Για να αποκαταστήσει το ChatGPT, η OpenAI υποχρεώθηκε να κάνει αλλαγές, συμπεριλαμβανομένης της παροχής «εργαλείου μέσω του οποίου» οι χρήστες «μπορούν να ζητήσουν και να αποκτήσουν τη διόρθωση των προσωπικών τους δεδομένων εάν επεξεργαστούν ανακριβώς κατά τη δημιουργία περιεχομένου».
Εάν οι νορβηγικές αρχές δεδομένων διαπιστώσουν ότι η OpenAI δεν επιτρέπει στους χρήστες να διορθώσουν τις πληροφορίες τους, η OpenAI μπορεί να υποχρεωθεί να κάνει περισσότερες αλλαγές στην ΕΕ.
Η εταιρεία μπορεί ακόμη και να χρειαστεί να αναθεωρήσει τον αλγόριθμο του ChatGPT. Σύμφωνα με την Noyb, εάν το ChatGPT επανατροφοδοτεί δεδομένα χρηστών, όπως η ψευδής ιστορία του δολοφόνου παιδιών, «μέσα στο σύστημα για σκοπούς εκπαίδευσης», τότε ίσως δεν υπάρχει τρόπος για το άτομο να είναι απολύτως βέβαιο ότι τα προβληματικά αποτελέσματα μπορούν να διαγραφούν τελείως… εκτός αν το μοντέλο AI ανανεωθεί πλήρως.