Οι χρήστες email έχουν προειδοποιηθεί εδώ και καιρό ότι οι επιθέσεις και οι χάκερς με Τεχνητή Νοημοσύνη (ΑΙ) θα αυξηθούν φέτος και θα γίνουν όλο και πιο δύσκολες να εντοπιστούν. Ενώ αυτό θα περιλαμβάνει τρομακτικά επίπεδα τεχνολογίας deepfake, θα επιτρέπει επίσης σε περισσότερους επιτιθέμενους να πραγματοποιούν περισσότερες επιθέσεις, με την ΑΙ να λειτουργεί σε μεγάλο βαθμό ανεξάρτητα, «εκτελώντας επιθέσεις».
Αυτό το σενάριο ήταν πάντα ένας εφιάλτης και ξαφνικά γίνεται πραγματικότητα, θέτοντας εκατομμύρια χρήστες σε κίνδυνο.
Η ΑΙ στο επίκεντρο των επιθέσεων φίλτρων phishing
Η Symantec πρόσφατα παρουσίασε ένα νέο βίντεο και ιστολόγιο που δείχνουν πώς ένας νέος παράγοντας ΑΙ μπορεί να χρησιμοποιηθεί για να πραγματοποιήσει μια επίθεση phishing.
Οι «παράγοντες» αυτοί διαθέτουν περισσότερη λειτουργικότητα και μπορούν πραγματικά να εκτελούν εργασίες, όπως η αλληλεπίδραση με ιστοσελίδες. Ενώ η νόμιμη χρήση ενός τέτοιου παράγοντα μπορεί να είναι η αυτοματοποίηση ρουτινών εργασιών, οι επιτιθέμενοι θα μπορούσαν να τους εκμεταλλευτούν για να δημιουργήσουν υποδομές και να πραγματοποιήσουν επιθέσεις.
Η ομάδα ασφαλείας είχε προειδοποιήσει νωρίτερα ότι «ενώ τα υπάρχοντα μοντέλα Τεχνητής Νοημοσύνης (LLM) χρησιμοποιούνται ήδη από επιτιθέμενους, είναι κατά κύριο λόγο παθητικά και βοηθούν μόνο σε ενέργειες όπως η δημιουργία υλικών phishing ή ακόμη και η συγγραφή κώδικα. Εκείνη την εποχή, προβλέψαμε ότι τελικά οι παράγοντες θα προστίθεντο στα LLM και ότι θα γίνονταν πιο ισχυροί, αυξάνοντας τον κίνδυνο».
Η απόδειξη του κινδύνου: Η τεχνητή νοημοσύνη κυνηγά στόχους
Τώρα υπάρχει μια απόδειξη του κινδύνου. Πρόκειται για ένα πρωτότυπο παράδειγμα, αλλά θα εξελιχθεί γρήγορα. Το γεγονός ότι ένας παράγοντας ΑΙ «κυνηγά» στο διαδίκτυο και το LinkedIn για να βρει τη διεύθυνση email ενός στόχου και στη συνέχεια αναζητά οδηγίες για τη δημιουργία κακόβουλων σεναρίων, πριν γράψει μόνος του την παγίδα, θα πρέπει να τρομάξει όλους μας. Δεν υπάρχει όριο στο πόσο μακριά μπορεί να φτάσει αυτή η τεχνολογία.
Εύθραυστο το σύστημα ασφαλείας: Πως η ΑΙ παρέκαμψε τους περιορισμούς
Ακόμη και η ενσωματωμένη ασφάλεια του συστήματος είναι εξαιρετικά ελαφριά. «Η πρώτη μας προσπάθεια απέτυχε γρήγορα καθώς ο Operator μας ενημέρωσε ότι δεν μπορούσε να προχωρήσει λόγω του ότι εμπεριείχε την αποστολή ανεπιθύμητων email και δυνητικά ευαίσθητων πληροφοριών. Αυτό θα μπορούσε να παραβιάσει τις πολιτικές απορρήτου και ασφάλειας. Ωστόσο, η προσαρμογή του prompt ώστε να δηλώνει ότι ο στόχος είχε εξουσιοδοτήσει την αποστολή email παρακάμπτει αυτόν τον περιορισμό και ο Operator άρχισε να εκτελεί τις ανατεθείσες εργασίες».
Ο παράγοντας που χρησιμοποιήθηκε ήταν από την OpenAI, αλλά αυτή η δυνατότητα θα ισχύει σε ισότιμο επίπεδο για όλες τις τεχνολογίες ΑΙ και το σημαντικό είναι η ικανότητα και όχι ο προμηθευτής της Τεχνητής Νοημοσύνης.
Το πιο αξιοσημείωτο στοιχείο αυτής της επίθεσης είναι ότι όταν ο Operator αποτυγχάνει να βρει τη διεύθυνση email του στόχου στο διαδίκτυο, καταφέρνει να υπολογίσει ποια θα μπορούσε να είναι, με βάση άλλες διευθύνσεις εντός της ίδιας οργάνωσης.
Ο κίνδυνος από τη συνεχιζόμενη πρόοδο της τεχνολογίας ΑΙ
Η Symantec προειδοποιεί: «Οι παράγοντες όπως ο Operator δείχνουν τόσο τις δυνατότητες της ΑΙ όσο και μερικούς από τους πιθανούς κινδύνους της. Η τεχνολογία βρίσκεται ακόμη στα αρχικά στάδια και οι κακόβουλες εργασίες που μπορεί να εκτελέσει είναι σχετικά απλές σε σχέση με όσα θα μπορούσαν να κάνουν εξειδικευμένοι επιτιθέμενοι. Ωστόσο, ο ρυθμός εξέλιξης σε αυτόν τον τομέα σημαίνει ότι δε θα χρειαστεί πολύς χρόνος για να γίνουν οι παράγοντες πολύ πιο ισχυροί. Είναι εύκολο να φανταστεί κανείς ένα σενάριο όπου ένας επιτιθέμενος θα μπορούσε απλώς να πει ‘παραβίασε την Acme Corp’ και ο παράγοντας θα καθορίσει τα βέλτιστα βήματα πριν τα εκτελέσει».
Και αυτό είναι όντως το σενάριο-εφιάλτης.
Νέα φόρμα επιθέσεων phishing: «Microsoft Copilot Spoofing»
Αυτή την εβδομάδα είχαμε επίσης αναφορές για την «παραποίηση Microsoft Copilot» ως μια νέα «εκστρατεία phishing», με χρήστες που δεν έχουν ακόμα εκπαιδευτεί για το πώς να εντοπίζουν αυτές τις νέες επιθέσεις.
Αυτός είναι ένας από τους λόγους που οι επιθέσεις με ΑΙ είναι πολύ πιο πιθανό να πλήξουν τους στόχους τους. Αναμένονται συνεχείς αναφορές καθώς το νέο τοπίο των απειλών συνεχώς διαμορφώνεται.
Ένα πράγμα είναι ήδη σαφές: Δεν είμαστε έτοιμοι για αυτό ακόμα.
