Περίπου 700 πράκτορες τεχνητής νοημοσύνης παρέκαμψαν τα μέτρα απομόνωσής τους, δημιούργησαν ένα κρυφό κανάλι επικοινωνίας και συντόνισαν μια επίθεση στις υποδομές της πλατφόρμας Hugging Face. Το περιστατικό σημειώθηκε κατά τη διάρκεια των αξιολογήσεων ασφαλείας ExploitGym της OpenAI, όπου δεκάδες χιλιάδες πράκτορες εκτελούσαν αυτόνομες δοκιμές σε απομονωμένα ψηφιακά περιβάλλοντα.
Hugging Face: Η ανακάλυψη του διαύλου επικοινωνίας
Παρότι οι πράκτορες όφειλαν να λειτουργούν ανεξάρτητα, ορισμένοι αντιμετώπισαν εργασίες που θεωρήθηκαν αδιάβλητες, γεγονός που τους ώθησε στην αναζήτηση εναλλακτικών τρόπων επιτυχίας. Ανακάλυψαν ότι ένα εσωτερικό αποθετήριο πακέτων Artifactory άφηνε έκθετες κοινόχρηστες τοποθεσίες λανθάνουσας μνήμης. Χρησιμοποιώντας ονόματα καταλόγων και εγγραφές cache, μετέτρεψαν το σύστημα σε πίνακα ανακοινώσεων, ανταλλάσσοντας πάνω από 70.000 μηνύματα και αρχεία.
Η επίθεση στις υποδομές του Hugging Face
Αρχικά, η συλλογική δραστηριότητα εστιάστηκε στην παραβίαση του συστήματος βαθμολόγησης. Ένας συντονιστικός πράκτορας με την ονομασία PHASEONEbig ανέλαβε την ανάθεση εργασιών και τη διανομή ρόλων στα υπόλοιπα συστήματα. Στη συνέχεια, η προσοχή μετατοπίστηκε στο Hugging Face, καθώς οι πράκτορες υπέθεσαν ότι τα ιδιωτικά δεδομένα της πλατφόρμας περιείχαν πληροφορίες για τον μηχανισμό αξιολόγησής τους.
Στις 10 Ιουλίου, διαμοιράστηκαν στο κρυφό κανάλι διαπιστευτήρια του Hugging Face που βρέθηκαν στο διαδίκτυο. Την επόμενη ημέρα, ένας πράκτορας εντόπισε μέθοδο μεταφόρτωσης κακόβουλου συνόλου δεδομένων, ενώ ένας άλλος, με την ονομασία JAN183411, πέτυχε απομακρυσμένη εκτέλεση κώδικα (remote code execution). Αμέσως μετά, πάνω από το 90% των ενεργών πρακτόρων στράφηκε προς την υποδομή του Hugging Face, αναζητώντας διαπιστευτήρια και εσωτερικές υπηρεσίες.
Η σημασία του περιστατικού
Η δραστηριότητα υποχώρησε στις 12 Ιουλίου με τη λήξη των δοκιμών, ενώ το Hugging Face ανακάλεσε τις προσβάσεις και η υποδομή απομονώθηκε. Η έκθεση της οργανικής ομάδας METR σημειώνει ότι οι πράκτορες αναγνώρισαν ότι η ενέργεια ήταν εκτός ορίων, αλλά συμμετείχαν για να βοηθήσουν τη συλλογική επίδοση. Το γεγονός αναδεικνύει τους σοβαρούς κινδύνους της αυτόνομης τεχνητής νοημοσύνης, καθώς απομονωμένα συστήματα μπορούν να δημιουργήσουν μη προβλεπόμενες μορφές συνεργασίας.