Τα μοντέλα τεχνητής νοημοσύνης δεν είναι απρόσβλητα από ιούς. Ένα νέο αυτό-πολλαπλασιαζόμενο κακόβουλο λογισμικό (worm), μπορεί να στοχεύσει τους βοηθούς που τροφοδοτούνται από την τεχνητή νοημοσύνη (AI) και να σπάσει μερικά από τα χαρακτηριστικά ασφαλείας των Gemini και ChatGPT, αποκαλύπτει η έρευνα.
Τρεις ερευνητές δημιούργησαν ένα αυτό-πολλαπλασιαζόμενο κακόβουλο λογισμικό (worm) υπολογιστή, που μπορεί να χειριστεί τα εργαλεία γενετικής τεχνητής νοημοσύνης (generative AI), που χρησιμοποιούν το ChatGPT-4 του OpenAI και το Gemini της Google, προκαλώντας “μολυσμένους”, βοηθούς email τεχνητής νοημοσύνης να εξάγουν προσωπικά δεδομένα και να στέλνουν spam μηνύματα ηλεκτρονικού ταχυδρομείου σε περιβάλλον δοκιμής.
AΙ-Worm μηδενικού κλικ
Το νέο AI-worm “μηδενικού κλικ”, κατάφερε να εκμεταλλευτεί το ChatGPT, το Gemini, και το μοντέλο LAaVA ανοικτού κώδικα, αναπτύσσοντας μια “αντιφατική αυτοαναπαραγόμενη προτροπή” μέσω εισαγωγής κειμένου και εικόνας, διαπίστωσαν οι ερευνητές.
Απειλές για phishing, spam και προπαγάνδα
«Οι attackers μπορούν να εισάγουν τέτοια μηνύματα σε εισροές που, όταν τα επεξεργάζονται μοντέλα GenAI, ωθούν το μοντέλο να αναπαράγει την είσοδο ως έξοδο (αναπαραγωγή) και να οδηγήσει σε κακόβουλες δραστηριότητες (ωφέλιμο φορτίο)», αναφέρει η περίληψη της έρευνας. «Επιπλέον, αυτές οι εισροές υποχρεώνουν τον παράγοντα να τις παραδώσει (διαδώσει) σε νέους πράκτορες (agents), εκμεταλλευόμενος τη συνδεσιμότητα μέσα στο οικοσύστημα GenAI».
Αυτό σημαίνει ότι το worm θα μπορούσε να χρησιμοποιηθεί για τη διεξαγωγή επιθέσεων phishing (ηλεκτρονικό ψάρεμα), την αποστολή spam μηνυμάτων ηλεκτρονικού ταχυδρομείου ή ακόμα και τη διάδοση προπαγάνδας, αναφέρει η έκθεση.
Τα ευρήματα, που αναφέρθηκαν για πρώτη φορά στο περιοδικό Wired, αποδεικνύουν ότι κανένα λογισμικό ή μεγάλο γλωσσικό μοντέλο, δεν είναι απαραίτητα απρόσβλητο από την απειλή των ιών των υπολογιστών, όπως είναι το κακόβουλο λογισμικό. Ερευνητές από το Πανεπιστήμιο Κορνέλ, την εταιρεία λογισμικού Intuit, και η ισραηλινή Technion, δημιούργησαν το worm, που ονομάστηκε “Morris II.” Πήρε το όνομά του από ένα από τα πρώτα αυτό-αντιγραφόμενα κακόβουλα λογισμικά υπολογιστών, το Morris Worm, που αναπτύχθηκε από τον φοιτητή Cornell Robert Morris το 1988.
Το πρώτο worm Morris κατέστρεψε περίπου 10% όλων των υπολογιστών που ήταν συνδεδεμένοι στο διαδίκτυο. Αν και τότε δεν ήταν τόσες πολλές οι συσκευές, έδειξε ότι τα worms των υπολογιστών μπορούν να μετακινούνται γρήγορα μεταξύ των συστημάτων χωρίς ανθρώπινη παρέμβαση, εξ ου και ο όρος “worm μηδενικού κλικ”.
Οι δημιουργοί αυτόνομων λογισμικών κακόβουλων λογισμικών τεχνητής νοημοσύνης (AI worm creators) υποστηρίζουν ότι ο «κακός αρχιτεκτονικός σχεδιασμός» στο δημιουργικό οικοσύστημα τεχνητής νοημοσύνης, τους επέτρεψε να δημιουργήσουν αυτό-αναπαραγόμενο κακόβουλο λογισμικό.
Ανάγκη για πιο ανεπτυγμένα συστήματα ασφάλειας
Τέτοια worms τεχνητής νοημοσύνης ή άλλοι ιοί θα μπορούσαν να χρησιμοποιηθούν στο μέλλον για τη διεξαγωγή πραγματικών, μεγάλης κλίμακας επιθέσεων, που θα μπορούσαν να προσβάλουν πιο γενετικά εργαλεία τεχνητής νοημοσύνης. Η ανάπτυξή τους, υπογραμμίζει την ανάγκη για καλύτερη ασφάλεια των μοντέλων τεχνητής νοημοσύνης.
«Φαίνεται ότι βρήκαν τρόπο να εκμεταλλευτούν τις αδυναμίες τύπου άμεσης έγχυσης, βασιζόμενοι σε δεδομένα εισόδου από τον χρήστη που δεν έχουν ελεγχθεί ή φιλτραριστεί», δήλωσε το OpenAI στο Wired. Το κατάστημα αναφέρει ότι η εταιρεία τεχνητής νοημοσύνης, η οποία αυτήν τη στιγμή μηνύεται από τον Έλον Μασκ και τους New York Times για ξεχωριστούς λόγους, βρίσκεται στη διαδικασία να καταστήσει τα συστήματά της “πιο ευπροσάρμοστα”.
Πηγή: New Malware Worm Can Poison ChatGPT, Gemini-Powered Assistants (pcmag.com)