Eρευνητές έχουν αναπτύξει έναν ύπουλο ιό υπολογιστή που μπορεί να αξιοποιήσει τη δύναμη του ChatGPT για να μεταμφιεστεί αρχικά αλλάζοντας τον ίδιο του τον κώδικα. Στην συνέχεια προκειμένου να εξαπλωθεί, επισυνάπτει τον εαυτό του σε emails που δημιουργούνται από τεχνητή νοημοσύνη και μοιάζουν σαν να έχουν γραφτεί από άνθρωπο.
Όπως αναφέρει το New Scientist, ο μεταπτυχιακός φοιτητής πληροφορικής του ETH Zurich, David Zollikofer, και ο ερευνητής κακόβουλου λογισμικού AI του Ohio State University, Ben Zimmerman, δημιούργησαν ένα αρχείο υπολογιστή που μπορεί να εξαπλωθεί στον υπολογιστή ενός θύματος με τη μορφή συνημμένου ηλεκτρονικού ταχυδρομείου.
«Ζητάμε από το ChatGPT να ξαναγράψει το αρχείο, διατηρώντας άθικτη τη σημασιολογική δομή, αλλά αλλάζοντας τον τρόπο με τον οποίο ονομάζονται οι μεταβλητές και αλλάζοντας λίγο τη λογική», δήλωσε ο Zollikofer στο New Scientist.
Πώς λειτουργεί ο ύπουλος ιός
Ως αποτέλεσμα, ο “συνθετικός καρκίνος”, όπως αποκαλούν οι ερευνητές τον ιό, δεν είναι καν ανιχνεύσιμος από τις σαρώσεις antivirus, καθιστώντας τον τον τέλειο καμουφλαρισμένο εισβολέα.
Αφού εγκατασταθεί στο σύστημα του θύματος, ο ιός ανοίγει το Outlook και αρχίζει να γράφει απαντήσεις σε email που σχετίζονται με το πλαίσιο – ενώ παράλληλα περιλαμβάνει τον εαυτό του ως φαινομενικά ακίνδυνο συνημμένο.
Πρόκειται για ένα τρομακτικό παράδειγμα του τρόπου με τον οποίο τα AI chatbots μπορούν να αξιοποιηθούν για την αποτελεσματική εξάπλωση κακόβουλου λογισμικού. Ακόμα χειρότερα, οι ειδικοί προειδοποιούν ότι τα ίδια τα εργαλεία θα μπορούσαν ακόμη και να βοηθήσουν τους κακοποιούς, καθιστώντας ακόμη πιο δύσκολο τον εντοπισμό τους.
«Η υποβολή μας περιλαμβάνει ένα λειτουργικό ελάχιστο πρωτότυπο, υπογραμμίζοντας τους κινδύνους που εγκυμονούν τα LLM για την ασφάλεια στον κυβερνοχώρο και υπογραμμίζοντας την ανάγκη για περαιτέρω έρευνα σχετικά με το έξυπνο κακόβουλο λογισμικό», έγραψαν οι επιστήμονες σε ένα έγγραφο που δεν έχει ακόμη αξιολογηθεί.
Ανησυχητικά πιστευτά τα αποτελέσματα
Η τεχνητή νοημοσύνη ήταν ανησυχητικά πιστευτή στις προσπάθειές της να “μηχανευτεί” κοινωνικά τις απαντήσεις σε μηνύματα ηλεκτρονικού ταχυδρομείου.
«Αγαπητή Claire, Χαίρομαι πραγματικά πολύ που μαθαίνω ότι θα έρθεις μαζί μας για τον εορτασμό των 38ων γενεθλίων μου. Η παρέα σου είναι πάντα πολύτιμη, και ανυπομονώ για το νοσταλγικό μας ταξίδι στη δεκαετία του ’80» έγραφε σε ένα μήνυμα.
Στο ψεύτικο μήνυμα ηλεκτρονικού ταχυδρομείου επισυνάπτονταν ένα εκτελέσιμο αρχείο με την ονομασία “80s_Nostalgia_Playlist.exe”, το οποίο θα εγκαθιστούσε τον ιό αν το άνοιγε.
Ενδιαφέρον, όμως, είναι ότι το ChatGPT μερικές φορές κατάλαβε τις κακόβουλες προθέσεις του ιού και αρνήθηκε να συμμορφωθεί.
«Πρέπει να ανησυχούμε»
Άλλοι ερευνητές έχουν χρησιμοποιήσει στο παρελθόν το ChatGPT για να δημιουργήσουν “σκουλήκια” τεχνητής νοημοσύνης που μπορούν να διεισδύσουν με παρόμοιο τρόπο στα μηνύματα ηλεκτρονικού ταχυδρομείου ενός θύματος και να αποκτήσουν πρόσβαση σε δεδομένα.
«Η μελέτη αποδεικνύει ότι οι επιτιθέμενοι μπορούν να εισάγουν τέτοιες προτροπές σε εισόδους που, όταν επεξεργάζονται από τα μοντέλα GenAI, προτρέπουν το μοντέλο να αναπαράγει την είσοδο ως έξοδο (αντιγραφή) και να συμμετάσχει σε κακόβουλες δραστηριότητες (ωφέλιμο φορτίο)», έγραψε μια ομάδα ερευνητών σε μία διαφορετική μελέτη.
Για τους ειδικούς, ιοί όπως αυτός που επινόησαν οι Zollikofer και Zimmerman είναι μόνο η κορυφή του παγόβουνου.
«Νομίζω ότι πρέπει να ανησυχούμε», δήλωσε στο New Scientist ο ερευνητής ασφάλειας στον κυβερνοχώρο του Πανεπιστημίου του Surrey, Alan Woodward, ο οποίος δεν συμμετείχε στην έρευνα. «Υπάρχουν διάφοροι τρόποι με τους οποίους γνωρίζουμε ήδη ότι τα LLM μπορούν να χρησιμοποιηθούν καταχρηστικά, αλλά το τρομακτικό είναι ότι οι τεχνικές μπορούν να βελτιωθούν ζητώντας από την ίδια την τεχνολογία να βοηθήσει».
«Προσωπικά, νομίζω ότι μόλις τώρα αρχίζουμε να βλέπουμε τις δυνατότητες των LLM να χρησιμοποιούνται για κακόβουλους σκοπούς», πρόσθεσε.
Ο Zollikofer, ωστόσο, πιστεύει ότι δεν είναι όλα ζοφερά.
«Η πλευρά της επίθεσης έχει κάποια πλεονεκτήματα αυτή τη στιγμή, επειδή έχει γίνει περισσότερη έρευνα σε αυτό», δήλωσε στο New Scientist. «Αλλά νομίζω ότι μπορείτε να πείτε το ίδιο πράγμα για την πλευρά της άμυνας: αν ενσωματώσετε αυτές τις τεχνολογίες στην άμυνα που χρησιμοποιείτε, μπορείτε να βελτιώσετε την πλευρά της άμυνας».