Η OpenAI ανακοίνωσε τη λειτουργία «Zero Data Retention» για επιλέξιμους πελάτες API που χρησιμοποιούν τα κορυφαία μοντέλα τεχνητής νοημοσύνης της εταιρείας, μαζί με ένα νέο σύστημα, το «Private Safety Processing», σχεδιασμένο να υποστηρίζει την παρακολούθηση ασφαλείας χωρίς να εκθέτει τα prompts ή τις απαντήσεις των πελατών στο προσωπικό της εταιρείας.
Στο πλαίσιο αυτής της δέσμευσης, η OpenAI δεν διατηρεί τα prompts ή τις απαντήσεις του μοντέλου μετά την επεξεργασία ενός αιτήματος, ενώ το περιεχόμενο των πελατών δεν είναι διαθέσιμο για έλεγχο από υπαλλήλους ούτε χρησιμοποιείται για εκπαίδευση των μοντέλων, εκτός αν ο πελάτης το επιλέξει ρητά.
OpenAI: Η πρόκληση της ανίχνευσης κακόβουλης χρήσης
Η κίνηση αυτή έρχεται να καλύψει ένα σημαντικό εμπόδιο στην υιοθέτηση τεχνητής νοημοσύνης από επιχειρήσεις που διαχειρίζονται ευαίσθητα δεδομένα, όπως οικονομικά ή ιατρικά αρχεία. Ωστόσο, η OpenAI επισημαίνει πως η κακόβουλη χρήση δεν είναι πάντα εμφανής σε ένα μεμονωμένο αίτημα, καθώς ύποπτη δραστηριότητα μπορεί να αποκαλυφθεί μόνο μέσα από πολλαπλές αλληλένδετες αλληλεπιδράσεις.
Πώς λειτουργεί το νέο σύστημα ασφαλείας
Το «Private Safety Processing» αναλύει μοτίβα σε σχετικές αλληλεπιδράσεις μέσω αυτοματοποιημένων διαδικασιών, χωρίς να παρέχει στο προσωπικό της OpenAI πρόσβαση στο περιεχόμενο. Για τις εγκαταστάσεις που ελέγχονται από τον πελάτη, το περιεχόμενο παραμένει στη δική του υποδομή, ενώ η εταιρεία αναπτύσσει και μοντέλο όπου το περιεχόμενο θα αποθηκεύεται κρυπτογραφημένο με κλειδιά που ελέγχει αποκλειστικά ο πελάτης. Όταν τα αυτοματοποιημένα συστήματα εντοπίζουν πιθανή κακή χρήση, η OpenAI λαμβάνει μόνο ένα περιορισμένο σήμα ασφαλείας που υποδεικνύει την κατηγορία του κινδύνου, χωρίς να αποκαλύπτεται το αρχικό περιεχόμενο.
Νέο πρότυπο διακυβέρνησης για επιχειρήσεις
Οι πελάτες μπορούν να διερευνήσουν τυχόν ειδοποιήσεις μέσα από τα δικά τους συστήματα και να παράσχουν εθελοντικά δεδομένα αν θέλουν να αμφισβητήσουν μια απόφαση. Η δοκιμή του συστήματος βρίσκεται ήδη σε εξέλιξη, με ευρύτερη διάθεση να αναμένεται τον Σεπτέμβριο, παράλληλα με τεχνική αναφορά για την αρχιτεκτονική του.