Η OpenAI ανακοίνωσε μια νέα λειτουργία που στοχεύει στην παροχή επιπλέον προστασίας από επιθέσεις τύπου prompt injection, κατά τις οποίες κακόβουλες οδηγίες προς το chatbot κρύβονται μέσα σε ιστοσελίδες και άλλες πηγές περιεχομένου.
OpenAI: Lockdown Mode
Μεταξύ άλλων, το Lockdown Mode θα απενεργοποιεί τη ζωντανή περιήγηση στο διαδίκτυο – επιτρέποντας την πρόσβαση μόνο σε αποθηκευμένο περιεχόμενο της προσωρινής μνήμης (cached) – την ανάκτηση και εμφάνιση εικόνων από το διαδίκτυο, τη βαθιά έρευνα (deep research) καθώς και τη λειτουργία αυτόνομων πρακτόρων (agent mode). Ωστόσο, η δυνατότητα παραγωγής νέων εικόνων από το ίδιο το σύστημα θα παραμείνει διαθέσιμη.
Η εταιρεία επισημαίνει ότι ακόμη και με ενεργοποιημένο το Lockdown Mode, το ChatGPT ενδέχεται να παραμένει ευάλωτο σε ορισμένες μορφές prompt injection. Τέτοιες οδηγίες θα μπορούσαν, για παράδειγμα, να εμφανιστούν σε αποθηκευμένο περιεχόμενο ιστού ή σε κάποιο αρχείο που μεταφορτώνει ο χρήστης, επηρεάζοντας τη συμπεριφορά ή την ακρίβεια της απάντησης.
Περιορισμός των κινδύνων διαρροής
Ο βασικός στόχος της νέας λειτουργίας είναι να μειωθεί η πιθανότητα κοινοποίησης και διαρροής ευαίσθητων δεδομένων κατά τη διάρκεια μιας τέτοιας επίθεσης.
Σύμφωνα με την OpenAI, το Lockdown Mode δεν προορίζεται για όλους τους χρήστες. Έχει σχεδιαστεί ειδικά για άτομα και οργανισμούς που χειρίζονται ευαίσθητες πληροφορίες και επιθυμούν αυστηρότερη προστασία από τους κινδύνους εξαγωγής δεδομένων που σχετίζονται με τις επιθέσεις prompt injection.
Η εταιρεία ανακοίνωσε ότι η σταδιακή διάθεση της λειτουργίας έχει ήδη ξεκινήσει για τους εταιρικούς λογαριασμούς ChatGPT Business (self-serve), καθώς και για επιλέξιμους προσωπικούς λογαριασμούς.