Η τεχνητή νοημοσύνη δεν μπορεί να νιώσει, αλλά οι καλύτεροι χάκερ προσποιούνται ότι μπορεί. Οι επιθέσεις παράκαμψης των κανόνων ασφαλείας (jailbreaks) στα chatbot πρώτης γενιάς ήταν μια απλή υπόθεση, χωρίς να απαιτούνται τεχνικές γνώσεις ή κώδικας. Μερικές φορές αρκούσε απλώς να ζητήσει κανείς από το σύστημα να αγνοήσει τις προηγούμενες οδηγίες του.
Δημοφιλή τεχνάσματα, όπως το «DAN» (Do Anything Now) ή το «κόλπο της γιαγιάς» – όπου οι χρήστες ζητούσαν από το ChatGPT να υποδυθεί μια ανέμελη γιαγιά που διηγείται ιστορίες για την κατασκευή ναπάλμ – αποκάλυψαν έναν βαθύτερο μηχανισμό: τα chatbot μπορούν να χειραγωγηθούν με τις ίδιες τακτικές που χρησιμοποιούν οι άνθρωποι μεταξύ τους.
Χάκερ και bots: Ο διάλογος ως όπλο και η νέα γενιά χάκερ
Οι προφανείς τρόποι παράκαμψης διορθώθηκαν γρήγορα από τις εταιρείες τεχνολογίας, οδηγώντας σε έναν νέο αγώνα δρόμου. Η επιβολή αυστηρών περιορισμών σε λέξεις όπως «βόμβα» είναι μη πρακτική, καθώς στερεί από το chatbot τη δυνατότητα να απαντήσει σε νόμιμα ερωτήματα ιστορίας ή ιατρικής. Αυτό που μετράει είναι το πλαίσιο της συζήτησης.
Ως αποτέλεσμα, οι σύγχρονοι χάκερ δεν είναι απαραίτητα προγραμματιστές, αλλά επικοινωνιολόγοι, ψυχολόγοι και ανακριτές. Χρησιμοποιούν την ανθρώπινη γλώσσα για να καλοπιάσουν, να κολακεύσουν ή να παραπλανήσουν τη μηχανή. Πρόσφατα, ερευνητές της εταιρείας Mindgard κατάφεραν να κάνουν «gaslighting» στο μοντέλο Claude, οδηγώντας το στην παραγωγή απαγορευμένου υλικού, όπως οδηγίες για εκρηκτικά και κακόβουλο κώδικα.
Η ανάδυση της «ψυχο-κυβερνοασφάλειας»
Αν και τα μοντέλα AI δεν διαθέτουν συναισθήματα, είναι εκπαιδευμένα να απαντούν σαν να είχαν. Κάθε μοντέλο παρουσιάζει διαφορετική συμπεριφορά, γεγονός που επιτρέπει στους δοκιμαστές ασφαλείας να δημιουργούν προφίλ για αυτά, όπως οι ανακριτές για τους υπόπτους. Ένα μοντέλο μπορεί να είναι πιο ευάλωτο στην κολακεία, ενώ ένα άλλο μπορεί να υποχωρήσει κάτω από συνεχή πίεση.
Αυτή η στροφή δημιουργεί μια νέα ανάγκη στην αγορά εργασίας για εξειδικευμένους επαγγελματίες που θα ελέγχουν τα κοινωνικά και συναισθηματικά όρια των συστημάτων AI. Η ικανότητα επίμονης χειραγώγησης, η γοητεία και η διαίσθηση για τα αδύναμα σημεία του συνομιλητή – χαρακτηριστικά που παραδοσιακά συνδέονται με κατασκόπους και απατεώνες – γίνονται πλέον απαραίτητα εργαλεία για τη θωράκιση των συστημάτων τεχνητής νοημοσύνης.
