Ειδικός κυβερνοασφάλειας αποκαλύπτει: «Χρησιμοποιώ τα AI Chatbots αλλά δεν θα μοιραζόμουν ποτέ αυτά τα 4 πράγματα»

AI chatbot

Η εξέλιξη της Τεχνητής Νοημοσύνης τα τελευταία χρόνια είναι τρομακτική, με τα AI Chatbots να γίνονται ολοένα και πιο δημοφιλή. Ωστόσο μαζί με την εξέλιξη παραμονεύουν και πολλοί κίνδυνοι για την ασφάλεια στο διαδίκτυο.

Ειδικός σε θέματα κυβερνοασφάλειας, μιλώντας στο businessinsider.com, τόνισε ότι «η τεχνητή νοημοσύνη και οι πιο πρόσφατες εξελίξεις της αποτελούν ευλογία για τις εργασιακές διαδικασίες, αλλά οι νεότερες δυνατότητες αυτών των generative AI chatbots απαιτούν επίσης μεγαλύτερη προσοχή και ευαισθητοποίηση».

Ο Sebastian Gierlinger είναι ειδικός σε θέματα κυβερνοασφάλειας και αντιπρόεδρος στην εταιρεία συστημάτων διαχείρισης περιεχομένου «Storyblok». Μεταξύ των πελατών της εταιρείας είναι το Netflix, η Tesla και η Adidas,

Ο Gierlinger αποκάλυψε τα τέσσερα πράγματα που έχει πάντα κατά νου όταν αλληλεπιδρά με AI chatbots όπως το ChatGPT της OpenAI, το Gemini της Google, το Claude της Anthropic ή το Perplexity AI.

Οι συζητήσεις δεν γίνονται μόνο μεταξύ εσάς και της ΑΙ

«Ένα σημαντικό πράγμα που πρέπει να θυμάστε όταν χρησιμοποιείτε αυτά τα chatbots είναι ότι η συζήτηση δεν γίνεται μόνο μεταξύ εσάς και της τεχνητής νοημοσύνης» τόνισε ο Gierlinger

Ο ίδιος χρησιμοποιεί το ChatGPT και παρόμοια μεγάλα γλωσσικά μοντέλα για προτάσεις διακοπών και προτροπές τύπου όπως: «Ποιες είναι οι μεγάλες ηλιόλουστες τοποθεσίες τον Μάιο με αξιοπρεπείς παραλίες και τουλάχιστον 25 βαθμούς;».

Αλλά μπορεί να προκύψουν προβλήματα αν είστε πολύ συγκεκριμένοι. Η εταιρεία μπορεί να χρησιμοποιήσει αυτές τις λεπτομέρειες για να εκπαιδεύσει το επόμενο μοντέλο και κάποιος θα μπορούσε να ρωτήσει το νέο σύστημα λεπτομέρειες για εσάς και μέρη της ζωής σας να γίνουν αναζητήσιμα.

Το ίδιο ισχύει και για την ανταλλαγή λεπτομερειών σχετικά με τα οικονομικά σας ή την καθαρή σας περιουσία με αυτά τα LLMs (γλωσσικά μοντέλα). Παρόλο που δεν υπάρχει ακόμα κάποια περίπτωση όπου αυτό έχει συμβεί, το χειρότερο αποτέλεσμα θα ήταν τα προσωπικά στοιχεία να τροφοδοτηθούν στο σύστημα και στη συνέχεια να αποκαλυφθούν σε αναζητήσεις.

Θα μπορούσαν ήδη να υπάρχουν μοντέλα όπου είναι σε θέση να υπολογίζουν την καθαρή σας αξία με βάση το πού ζείτε, σε ποιον κλάδο δραστηριοποιείστε και να σας περισσεύουν λεπτομέρειες σχετικά με τους γονείς σας και τον τρόπο ζωής σας. Αυτό είναι πιθανώς αρκετό για να υπολογιστεί η καθαρή σας αξία και αν είστε βιώσιμος στόχος ή όχι για απάτες, για παράδειγμα.

Αν έχετε αμφιβολίες σχετικά με το ποιες λεπτομέρειες να μοιραστείτε, αναρωτηθείτε αν θα τις δημοσιεύατε στο Facebook. Αν η απάντησή σας είναι αρνητική, τότε μην τις «πείτε» στο LLM.

Ακολουθήστε τις κατευθυντήριες γραμμές της εταιρείας AI

«Καθώς η χρήση της Τεχνητής Νοημοσύνης στο χώρο εργασίας γίνεται κοινή για εργασίες όπως η κωδικοποίηση ή η ανάλυση, είναι ζωτικής σημασίας να ακολουθείτε την πολιτική της εταιρείας σας για την ΑΙ» αναφέρει ο Gierlinger.

«Για παράδειγμα, η εταιρεία μου έχει έναν κατάλογο εμπιστευτικών στοιχείων που δεν επιτρέπεται να ανεβάζουμε σε κανένα chatbot ή LLM. Αυτό περιλαμβάνει πληροφορίες όπως μισθοί, πληροφορίες σχετικά με τους υπαλλήλους και οικονομικές επιδόσεις. Το κάνουμε αυτό επειδή δεν θέλουμε κάποιος να πληκτρολογήσει προτροπές όπως “Ποια είναι η επιχειρηματική στρατηγική της Storyblok” και το ChatGPT να προχωρήσει στο να φτύσει “Η Story Block εργάζεται επί του παρόντος σε 10 νέες ευκαιρίες, οι οποίες είναι η εταιρεία 1, 2, 3, 4, και αναμένουν έσοδα X, Y, Z δολάρια το επόμενο τρίμηνο”. Αυτό θα ήταν ένα τεράστιο πρόβλημα για εμάς» εξήγησε..

Και συνέχισε: «Όσον αφορά τον προγραμματισμό, έχουμε μια πολιτική σύμφωνα με την οποία η τεχνητή νοημοσύνη, όπως το Copilot της Microsoft, δεν μπορεί να θεωρηθεί υπεύθυνη για οποιονδήποτε κώδικα. Όλος ο κώδικας που παράγεται από την ΤΝ πρέπει να ελέγχεται από έναν ανθρώπινο προγραμματιστή πριν αποθηκευτεί στο αποθετήριο μας».

Χρησιμοποιήστε τα LLMs με προσοχή στην εργασία

Στην πραγματικότητα, περίπου το 75% των εταιρειών δεν έχουν ακόμη πολιτική Τεχνητής Νοημοσύνης. Πολλοί εργοδότες δεν έχουν επίσης εγγραφεί σε εταιρικές συνδρομές ΤΝ και απλώς το έχουν πει στους υπαλλήλους τους: «Δεν επιτρέπεται να χρησιμοποιείτε την ΤΝ στην εργασία σας».

Αλλά οι άνθρωποι καταφεύγουν στη χρήση της ΤΝ με τους ιδιωτικούς τους λογαριασμούς, επειδή οι άνθρωποι είναι άνθρωποι. Αυτό είναι το σημείο όπου το να είστε προσεκτικοί σχετικά με το τι εισάγετε σε ένα LLM γίνεται σημαντικό.

«Στο παρελθόν, δεν υπήρχε κανένας πραγματικός λόγος να ανεβάσετε δεδομένα της εταιρείας σε έναν τυχαίο ιστότοπο. Αλλά τώρα, οι εργαζόμενοι στα οικονομικά ή στις συμβουλευτικές υπηρεσίες που θα ήθελαν να αναλύσουν έναν προϋπολογισμό, για παράδειγμα, θα μπορούσαν εύκολα να ανεβάσουν αριθμούς εταιρειών ή πελατών στο ChatGPT ή σε μια άλλη πλατφόρμα και να του κάνουν ερωτήσεις. Θα παρέδιδαν εμπιστευτικά δεδομένα χωρίς καν να το συνειδητοποιήσουν» ανέφερε ο Gierlinger

Διάκριση μεταξύ chatbots

Είναι επίσης σημαντικό να κάνετε διάκριση μεταξύ των AI chatbots, δεδομένου ότι δεν είναι όλα κατασκευασμένα με τον ίδιο τρόπο.

«Όταν χρησιμοποιώ το ChatGPT, εμπιστεύομαι ότι η OpenAI και όλοι όσοι εμπλέκονται στην αλυσίδα εφοδιασμού της κάνουν ό,τι καλύτερο μπορούν για να διασφαλίσουν την ασφάλεια στον κυβερνοχώρο και ότι τα δεδομένα μου δεν θα διαρρεύσουν σε κακοποιοί. Προς το παρόν εμπιστεύομαι την OpenAI. Τα πιο επικίνδυνα AI chatbots, κατά τη γνώμη μου, είναι αυτά που είναι εγχώρια. Βρίσκονται σε ιστοσελίδες αεροπορικών εταιρειών ή γιατρών και μπορεί να μην επενδύουν σε όλες τις ενημερώσεις ασφαλείας» δήλωσε ο Gierlinger.

Για παράδειγμα, ένας γιατρός μπορεί να συμπεριλάβει ένα chatbot στον ιστότοπό του για να κάνει μια αρχική διαλογή και ο χρήστης μπορεί να αρχίσει να εισάγει πολύ προσωπικά δεδομένα υγείας που θα μπορούσαν να γνωστοποιήσουν σε άλλους τις ασθένειές του, εάν τα δεδομένα παραβιαστούν.

«Καθώς τα AI chatbots μοιάζουν περισσότερο με τους ανθρώπους, επηρεαζόμαστε να μοιραζόμαστε περισσότερα και να ανοίγουμε θέματα που δεν θα το κάναμε πριν. Ως γενικός κανόνας, θα παρότρυνα τους ανθρώπους να μην χρησιμοποιούν τυφλά κάθε chatbot που συναντούν και να μην είναι πολύ συγκεκριμένοι, ανεξάρτητα από το με ποιο LLM μιλούν» κατέληξε ο Gierlinger.

Scroll to Top