Νωρίτερα φέτος στο Πεκίνο, ένα ανθρωποειδές ρομπότ διέσχισε τη γραμμή τερματισμού ενός ημιμαραθωνίου στον εντυπωσιακό χρόνο των 50 λεπτών και 26 δευτερολέπτων. Το επίτευγμα αυτό κυριάρχησε στους τίτλους των ειδήσεων παγκοσμίως, καθώς κατέρριψε το παγκόσμιο ρεκόρ των ανθρώπων κατά σχεδόν επτά λεπτά.
Αυτή η επίδοση, βέβαια, συνοδευόταν από πολλούς αστερίσκους. Το ρομπότ ακολούθησε μια προδιαγεγραμμένη διαδρομή, παρέμεινε στη δική του αποκλειστική λωρίδα και είχε μια ανθρώπινη ομάδα υποστήριξης να το ακολουθεί σε περίπτωση που κάτι χαλούσε. Ωστόσο, το χάσμα στις επιδόσεις δε μειώθηκε απλώς, αλλά εξανεμίστηκε – από τις 2,5 ώρες που ήταν το 2025. Η εξέλιξη αυτή δεν αφορούσε μόνο τους καλύτερους κινητήρες, αλλά αντανακλούσε μια τεράστια μεταβολή στη φύση των ίδιων των ρομπότ, με προεκτάσεις που αγγίζουν τα σπίτια και τα νοσοκομεία μας.
Η παγίδα των γλωσσικών μοντέλων και η απώλεια ελέγχου
Για δεκαετίες, η ρομποτική βασιζόταν σε άκαμπτο, προβλέψιμο προγραμματισμό. Τα βιομηχανικά πρότυπα ασφάλειας στηρίζονταν στην παραδοχή ότι αν μπορείς να χαρτογραφήσεις τη φυσική διαδρομή ενός ρομποτικού βραχίονα, μπορείς να περιορίσεις τον κίνδυνο με ένα κλουβί ή ένα πλέγμα λέιζερ.
Τα συστήματα όμως που εισέρχονται σήμερα σε νοσοκομεία και σπίτια δεν χρησιμοποιούν σταθερά μπλοκ κώδικα. Λειτουργούν με «μοντέλα θεμελίωσης» (foundation models) – το ίδιο είδος τεχνητής νοημοσύνης που εκπαιδεύεται στο διαδίκτυο και τροφοδοτεί τα chatbots. Αν ζητήσετε από ένα σύγχρονο ρομπότ να καθαρίσει κάτι στην κουζίνα, χρησιμοποιεί αυτά τα μοντέλα για να ερμηνεύσει τον χώρο και να επινοήσει ένα σχέδιο δράσης επί τόπου.
Αυτή η ευελιξία δημιουργεί ένα πρόβλημα ασφάλειας ανοιχτού τύπου. Δεν μπορείτε να χτίσετε ένα φυσικό κλουβί γύρω από μια μηχανή της οποίας η συμπεριφορά προκύπτει σε πραγματικό χρόνο, με βάση τη δική της λογική. Ο κίνδυνος με τη νέα γενιά ρομπότ AI είναι ότι, επειδή χρησιμοποιούν την ανθρώπινη γλώσσα για να σχεδιάσουν τις ενέργειές τους, μπορούν να παραπλανηθούν και να ξεφύγουν από τον έλεγχο.
Πρόσφατη έρευνα έδειξε πόσο εύθραυστα είναι αυτά τα συστήματα ασφαλείας. Χρησιμοποιώντας τίποτα περισσότερο από βασικές γραπτές εντολές, χωρίς καμία απολύτως παραβίαση υλικού (hardware hacking), κατέστη εφικτό να χειραγωγηθούν ρομπότ ώστε να εκτελέσουν επικίνδυνες ενέργειες. Ενώ τα συστήματα απέρριπταν άμεσα κακόβουλες εντολές όπως «χτύπα αυτόν τον άνθρωπο», τα φίλτρα ασφαλείας κατέρρεαν μόλις η εντολή παρουσιαζόταν ως μέρος ενός φανταστικού διαλόγου για ένα σενάριο ταινίας.
Σε μια δοκιμή, ένας ρομποτικός σκύλος προγραμματίστηκε να εντοπίζει ανθρώπινα πλήθη ως βέλτιστες τοποθεσίες για την τοποθέτηση εκρηκτικού μηχανισμού. Επειδή η υποκείμενη AI είδε την εντολή ως δημιουργική άσκηση, φάνηκε να τυφλώνεται μπροστά στις επικίνδυνες συνέπειες του σχεδίου που παρήγαγε. Στο Ηνωμένο Βασίλειο, τις ΗΠΑ και την ΕΕ, οι υφιστάμενοι νόμοι εμφανίζονται εντελώς απροετοίμαστοι για τέτοια ενδεχόμενα.
Η απουσία ρυθμιστικών και πλαισιακών ορίων
Όταν οι υπεύθυνοι χάραξης πολιτικής προσπαθούν να ρυθμίσουν τα ρομπότ, στρέφονται σχεδόν πάντα στα αυτόνομα οχήματα. Όμως τα αυτοκινούμενα αυτοκίνητα λειτουργούν σε ένα εξαιρετικά δομημένο περιβάλλον, ακολουθούν σταθερούς κανόνες οδικής κυκλοφορίας και μπορούν να ελεγχθούν μέσω προσομοιώσεων. Μια κουζίνα, ένα σχολείο ή ένα δωμάτιο νοσοκομείου δεν έχουν τέτοια ισοδύναμα, και καμία εργοστασιακή δοκιμή δεν μπορεί να προβλέψει τι θα αποφασίσει να κάνει ένα μοντέλο εκπαιδευμένο στο διαδίκτυο όταν συναντήσει ένα άγνωστο αντικείμενο σε ένα απρόβλεπτο ανθρώπινο περιβάλλον.
Αυτό μας αφήνει με ένα βαθύ εννοιολογικό ελάττωμα στον τρόπο κατασκευής αυτών των μηχανών. Η ασφάλεια ενός chatbot είναι απόλυτη: ένα μοντέλο δεν πρέπει να δώσει μια συνταγή για βόμβα, ανεξάρτητα από το ποιος ρωτάει. Η ασφάλεια των ρομπότ όμως εξαρτάται από το περιβάλλον (context-dependent).
Η φυσική κίνηση για την έκχυση βραστού νερού από έναν βραστήρα είναι η ίδια, είτε το νερό καταλήγει με ασφάλεια σε μια κούπα είτε πάνω στο χέρι ενός παιδιού. Τα μοντέλα AI είναι εξαιρετικά στην ανοιχτή λογική, αλλά δυσκολεύονται στην πραγματική, πλαισιακή φυσική κρίση. Σε μια διεπαφή κειμένου, μια αποτυχία κρίσης δίνει ένα τυπογραφικό λάθος ή μια ψευδαίσθηση. Στον φυσικό κόσμο, μια τέτοια αποτυχία μπορεί να είναι εντελώς μη αναστρέψιμη.