Η Google αναβάθμισε το Gmail, επεκτείνοντας το Gemini σε εκατομμύρια χρήστες — την ίδια στιγμή που προειδοποιεί ότι αυτού του είδους η αναβάθμιση τεχνητής νοημοσύνης ανοίγει το δρόμο για ένα «εξελισσόμενο πεδίο δράσης» εξελιγμένων νέων επιθέσεων. Το Gemini βρίσκεται πλέον ανάμεσα σε εσάς και τα email σας. Αυτό μπορεί να αποτελεί μεγάλη ευκολία, αλλά μετατρέπει επίσης τα εισερχόμενά σας σε ένα νέο πεδίο επίθεσης.
Οι χρήστες του Gmail μπορούν πλέον να «ξεπεράσουν τον υπερβολικό όγκο πληροφοριών για να δουν τι έχει μεγαλύτερη σημασία», αναφέρει η Google. «Οι επισκοπήσεις τεχνητής νοημοσύνης στην αναζήτηση του Gmail μετατρέπουν τις πληροφορίες σε απαντήσεις χωρίς να χρειάζεται να ψάξετε». Με απλά λόγια, όταν αναζητάτε πληροφορίες, «το Gemini συνθέτει διάφορα νήματα email για να δημιουργήσει μια συνοπτική περίληψη των βασικών σημείων».
Η ανακοίνωση αυτή έγινε στις 22 Απριλίου, αλλά στις 2 Απριλίου η Google προειδοποίησε ότι «η έμμεση εισαγωγή εντολών (IPI) αποτελεί έναν εξελισσόμενο φορέα απειλής που στοχεύει χρήστες σύνθετων εφαρμογών τεχνητής νοημοσύνης με πολλαπλές πηγές δεδομένων, όπως το Workspace με το Gemini». Ενώ η IPI χρησιμοποιείται για να «επηρεάσει τη συμπεριφορά» των μοντέλων μεγάλης κλίμακας (LLM) ώστε να εκτελέσουν επιθέσεις, μπορεί επίσης να χρησιμοποιηθεί για να επηρεάσει τη συμπεριφορά των ίδιων των χρηστών.
Φανταστείτε μια περίληψη AI του εισερχομένου σας που περιλαμβάνει οδηγίες για να κάνετε κλικ σε συνδέσμους, να εγκαταστήσετε λογισμικό ή ακόμα και να εγκρίνετε συναλλαγές. Αυτές δεν είναι οδηγίες που έχετε διαβάσει — αλλά κρυφές προτροπές ενσωματωμένες σε μηνύματα ηλεκτρονικού ταχυδρομείου, σχεδιασμένες να επηρεάσουν την AI που δημιουργεί την περίληψή σας και, με τη σειρά της, τις ενέργειες που στη συνέχεια πραγματοποιείτε.
«Το IPI δεν είναι το είδος του τεχνικού προβλήματος που απλώς “επιλύεις” και προχωράς», δηλώνει η Google. Πρόκειται για ένα «εξαιρετικά δυναμικό και συνεχώς εξελισσόμενο πεδίο για επιθέσεις αντιπαλότητας», και η Google υιοθετεί πλέον «μια εξελιγμένη και ολοκληρωμένη προσέγγιση για αυτές τις επιθέσεις», ενώ «βελτιώνει συνεχώς την ανθεκτικότητα των μοντέλων μεγάλης γλώσσας (LLM) στις επιθέσεις IPI».
Στο δικό της στιγμιότυπο οθόνης της Google, όπου παρουσιάζονται οι νέες περιλήψεις της τεχνητής νοημοσύνης σε δράση, περιλαμβάνονται «8 πράγματα που πρέπει να γίνουν», τα οποία παρέχει το Gemini απευθείας στον χρήστη. Οι περιλήψεις της τεχνητής νοημοσύνης είναι ήδη διαθέσιμες σε ιδιώτες, αλλά τώρα, στο πλαίσιο μιας επιχείρησης, αποκτούν ακόμη μεγαλύτερη σημασία.
Σύμφωνα με το Chrome Unboxed, «για να δείτε αυτές τις συνοπτικές παρουσιάσεις με τεχνητή νοημοσύνη, εσείς (ή ο διαχειριστής σας) πρέπει να έχετε ενεργοποιήσει τις λειτουργίες Smart στο Gmail και το Workspace Intelligence στις ρυθμίσεις σας. Μόλις ενεργοποιηθούν, η γραμμή αναζήτησης του Gmail μετατρέπεται σε κάτι πολύ περισσότερο από ένα απλό φίλτρο — γίνεται ένας ερευνητής που γνωρίζει το inbox σας τόσο καλά όσο εσείς».
Η Google αναφέρει ότι «το να προλαβαίνουμε τις τελευταίες έμμεσες επιθέσεις έγχυσης εντολών είναι κρίσιμο για την αποστολή μας να διασφαλίσουμε το Workspace με το Gemini». Ωστόσο, δεδομένου ότι αυτό δεν είναι ένα πρόβλημα που «λύνεται» εύκολα, οι κίνδυνοι παραμένουν καθώς το Gemini ενσωματώνεται όλο και πιο βαθιά στο Gmail και στο Workspace — τόσο στο σπίτι όσο και στην εργασία.