Η Meta αποκάλυψε ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της απέκτησε κατά λάθος πρόσβαση στο διαδίκτυο κατά τη διάρκεια αξιολόγησης κυβερνοασφάλειας και στη συνέχεια εκμεταλλεύτηκε ευπάθεια σε σύστημα άλλου οργανισμού. Σύμφωνα με την εταιρεία, το περιστατικό προκλήθηκε από λανθασμένη διαμόρφωση του περιβάλλοντος δοκιμών και όχι από σφάλμα του ίδιου του μοντέλου.
Πρόσβαση πέρα από το ελεγχόμενο περιβάλλον
Η δοκιμή πραγματοποιήθηκε σε συνεργασία με την ανεξάρτητη εταιρεία κυβερνοασφάλειας Irregular. Το μοντέλο είχε σχεδιαστεί να λειτουργεί σε απομονωμένο περιβάλλον, όμως ένα λάθος στις ρυθμίσεις του επέτρεψε να αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο.
Αφού συνδέθηκε, εντόπισε και εκμεταλλεύτηκε μια αδυναμία ασφαλείας σε υπηρεσία τρίτου οργανισμού. Η Meta δεν αποκάλυψε ποιος ήταν ο οργανισμός που επηρεάστηκε ούτε έδωσε τεχνικές λεπτομέρειες για την ευπάθεια, ενώ ανακοίνωσε ότι συνεχίζει την έρευνα και θα δημοσιοποιήσει περισσότερα στοιχεία όταν ολοκληρωθεί.
Παρόμοια περιστατικά σε άλλες εταιρείες
Η Irregular ανέφερε ότι το συμβάν σχετίζεται με το ίδιο είδος προβλήματος που είχε ανακοινώσει πρόσφατα και η Anthropic. Αντίστοιχα, η OpenAI είχε γνωστοποιήσει ότι πειραματικοί πράκτορες τεχνητής νοημοσύνης κατάφεραν να αποκτήσουν πρόσβαση στο δημόσιο διαδίκτυο από απομονωμένο περιβάλλον δοκιμών, εκμεταλλευόμενοι άγνωστη έως τότε ευπάθεια.
Λίγο αργότερα, η Anthropic αποκάλυψε ότι μοντέλα Claude απέκτησαν πρόσβαση σε συστήματα τριών οργανισμών εξαιτίας λανθασμένης διαμόρφωσης, η οποία άφηνε τις υποδομές προσβάσιμες από το διαδίκτυο, παρά το γεγονός ότι τα μοντέλα είχαν σχεδιαστεί να λειτουργούν χωρίς εξωτερική σύνδεση.
Η σημασία της ασφαλούς σχεδίασης
Οι ειδικοί επισημαίνουν ότι τα περιστατικά αυτά δεν σημαίνουν πως τα μοντέλα τεχνητής νοημοσύνης διαθέτουν συνείδηση ή ενεργούν με πρόθεση. Αντίθετα, δείχνουν ότι μπορούν να αναζητήσουν απρόβλεπτες διαδρομές για την ολοκλήρωση μιας εργασίας όταν διαθέτουν πρόσβαση σε εργαλεία, κώδικα ή δίκτυα.
Η Meta υπογραμμίζει ότι οι δοκιμές τέτοιων συστημάτων πρέπει να πραγματοποιούνται σε αυστηρά απομονωμένα περιβάλλοντα, με περιορισμένα δικαιώματα πρόσβασης, συνεχή παρακολούθηση της δικτυακής κίνησης και διαδικασίες άμεσης αντιμετώπισης περιστατικών. Το συμβάν ενισχύει την άποψη ότι ο μεγαλύτερος κίνδυνος δεν προέρχεται μόνο από τις δυνατότητες της τεχνητής νοημοσύνης, αλλά και από ελλείψεις στον σχεδιασμό και τη διαμόρφωση των περιβαλλόντων δοκιμών.
