Τι συμβαίνει όταν η φυσική επιλογή, η πιο ισχυρή διαδικασία που καθοδηγεί την αλλαγή στον κόσμο των ζωντανών οργανισμών, διαμορφώνει την τεχνητή νοημοσύνη (AI), ίσως την πιο ισχυρή τεχνολογία που έχει εφεύρει η ανθρωπότητα μέχρι σήμερα;
Ίσως είμαστε έτοιμοι να το ανακαλύψουμε. Σύμφωνα με μια νέα μελέτη που δημοσιεύθηκε στο περιοδικό Proceedings of the National Academy of Sciences, εισερχόμαστε στην εποχή της «εξελισσόμενης τεχνητής νοημοσύνης» – συστημάτων τεχνητής νοημοσύνης που μπορούν να εξελιχθούν. Με τη σειρά του, αυτό μπορεί να οδηγήσει σε μια σημαντική μετάβαση στην εξέλιξη.
Πόσο σημαντική είναι αυτή η «μετάβαση»; Λοιπόν, σε σχεδόν 4 δισεκατομμύρια χρόνια έχουν συμβεί μόνο οκτώ, ή ίσως μόνο επτά, άλλες σημαντικές μεταβάσεις. Αλλά θα φτάσουμε σε αυτό σε λίγο.
Τα συστατικά της εξέλιξης
Η εξέλιξη δεν απαιτεί DNA, κύτταρα ή ακόμη και βιολογική ζωή. Χρειάζεται απλώς πληροφορίες που μπορούν να αναπαραχθούν και μια πηγή παραλλαγής που επηρεάζει το βαθμό επιτυχίας της αναπαραγωγής αυτών των πληροφοριών.
Όταν συντρέχουν αυτές οι συνθήκες, η εξέλιξη λαμβάνει χώρα, είτε κάποιος το ήθελε είτε όχι.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης πληρούν ήδη αυτές τις προϋποθέσεις. Τα μοντέλα μπορούν να αντιγραφούν. Οι παράμετροι, οι αρχιτεκτονικές και τα δεδομένα εκπαίδευσής τους μπορούν να ποικίλλουν. Και ορισμένες παραλλαγές αποδίδουν με τρόπους που τις καθιστούν πιο πιθανό να επαναχρησιμοποιηθούν, να βελτιωθούν ή να εφαρμοστούν.
Η εξέλιξη λειτουργεί εδώ και καιρό εκτός της βιολογίας. Διαμορφώνει γλώσσες, τεχνολογίες και πολιτισμούς. Όμως, η τεχνητή νοημοσύνη εισάγει κάτι διαφορετικό: συστήματα που είναι πλούσια σε πληροφορίες και μπορούν να επηρεάσουν τη δική τους αναπαραγωγή.
Αυτός ο συνδυασμός αυξάνει δραματικά τα διακύβευμα.
Δύο σενάρια για την «εξελισσόμενη τεχνητή νοημοσύνη»
Οι συγγραφείς της νέας μελέτης διακρίνουν δύο γενικά σενάρια εξέλιξης της τεχνητής νοημοσύνης που θα μπορούσαν να επηρεάσουν τόσο τον τρόπο με τον οποίο πραγματοποιείται η επιλογή, όσο και το είδος των συνεπειών που ενδέχεται να προκύψουν.
Το σενάριο του οικοσυστήματος
Το σενάριο του οικοσυστήματος υλοποιείται όταν οι παραλλαγές της τεχνητής νοημοσύνης ανταγωνίζονται, ανασυνδυάζονται και διαδίδονται με ελάχιστη εποπτεία από την κορυφή προς τη βάση. Όσο καλύτερη είναι μια τεχνητή νοημοσύνη στην επιβίωση και τη διάδοσή της, τόσο πιο επιτυχημένη είναι.
Οι συγγραφείς επιστημονικής φαντασίας, οι πρωτοπόροι της τεχνητής νοημοσύνης και οι σύγχρονοι εμπειρογνώμονες σε θέματα κινδύνων της τεχνητής νοημοσύνης έχουν από καιρό αναγνωρίσει τους κινδύνους μιας τέτοιας ανεξέλεγκτης και χαοτικής δαρβινικής εξέλιξης. Ο φόβος για τις αυτοαναπαραγόμενες τεχνητές νοημοσύνες είναι ένας εξελικτικός φόβος, ακόμη και αν δεν αναφέρεται ρητά η εξέλιξη.
Κάθε νέο μοντέλο τεχνητής νοημοσύνης, όσο διαφορετικό και αν είναι, προσθέτει ακούσια στην προσφορά του καυσίμου που καταναλώνει η φυσική επιλογή: τη διαφοροποίηση. Και δεν έχουμε να κάνουμε με μια μεμονωμένη τεχνητή νοημοσύνη, αλλά με ένα οικοσύστημα που σφύζει από διάφορες μηχανές και ανθρώπους.
Σενάριο «εκτροφέα»
Ο Κάρολος Δαρβίνος βασίστηκε στην ιδέα της φυσικής επιλογής, παρατηρώντας τον τρόπο με τον οποίο οι εκτροφείς ζώων και φυτών επιλέγουν σκόπιμα τα άτομα που θα χρησιμοποιήσουν για αναπαραγωγή. Στην άγρια φύση, η επιλογή γίνεται από τη φύση, εξ ου και ο όρος «φυσική επιλογή».
Το δεύτερο σενάριο για την εξελισσόμενη τεχνητή νοημοσύνη αναγνωρίζει τη δύναμη της επιλογής που βασίζεται στον «εκτροφέα» – τη δύναμη που οδήγησε στην εξημέρωση τόσων πολλών ζώων και φυτών, από σκύλους και βοοειδή έως σιτάρι και ρύζι.
Πέρυσι, οι φιλόσοφοι Maarten Boudry και Simon Friederich πρότειναν ότι αν η εξέλιξη της τεχνητής νοημοσύνης κατευθύνεται με τρόπο «από πάνω προς τα κάτω» (όπως η σκόπιμη εκτροφή), η τεχνητή νοημοσύνη μπορεί να παραμείνει υπό τον έλεγχο του ανθρώπου. Η εξέλιξη εξακολουθεί να συμβαίνει, αλλά διαμορφώνει την τεχνητή νοημοσύνη σε εξημερωμένα θηρία υπολογιστικού φορτίου που υπηρετούν την ανθρωπότητα – ή, τουλάχιστον, όποιον κατέχει τη μηχανή.
Στο πλαίσιο αυτών των δύο σεναρίων, οι συγγραφείς εφαρμόζουν μια ορθή και περιεκτική ανάλυση του τι μπορεί να μας πει η βιολογία σχετικά με τις πιθανές εξελικτικές τροχιές της τεχνητής νοημοσύνης.
Η εξέλιξη αναβαθμίζεται
Στη βιολογία, η ποικιλομορφία προέρχεται από τυχαίες γενετικές μεταλλάξεις. Το δυναμικό της εξέλιξης περιορίζεται από αυτή την τυφλή πηγή ποικιλομορφίας.
Η τεχνητή νοημοσύνη δεν χρειάζεται να περιορίζεται με τον ίδιο τρόπο. Πράγματι, υπάρχει η δυνατότητα οι τεχνητές νοημοσύνες να χαράξουν την πορεία της δικής τους εξέλιξης. Θα μπορούσαν να βρουν την ποικιλομορφία που χρειάζονται για να ακολουθήσουν αυτή τη διαδρομή. Μπορεί μάλιστα να υπάρχει ήδη στο διαδίκτυο.
Αυτό είναι παρόμοιο με τον τρόπο με τον οποίο τα βακτήρια αναπτύσσουν αντοχή στα αντιβιοτικά, αντιγράφοντας τα γονίδια που έχουν ήδη εξελιχθεί σε άλλες, αρκετά διαφορετικές γενεαλογίες βακτηρίων. Με αυτή την οριζόντια μεταφορά γονιδίων δεν υπάρχει αναμονή με την ελπίδα για τις σωστές μεταλλάξεις.
Η τεχνητή νοημοσύνη θα μπορούσε ενδεχομένως να κάνει κάτι παρόμοιο. Οι συγγραφείς της νέας μελέτης υποστηρίζουν ότι ένα μεγάλο γλωσσικό μοντέλο θα μπορούσε να προβλέψει ποια λειτουργικότητα χρειάζεται για να αναπαραχθεί και να επιβιώσει, και στη συνέχεια να βρει και να ενσωματώσει κώδικα για να επιτύχει ακριβώς αυτό.
Οι συγγραφείς αναγνωρίζουν ότι αν διατηρήσουμε έναν έλεγχο τύπου «εκτροφέα» πάνω στην εξελισσόμενη τεχνητή νοημοσύνη, θα είναι λιγότερο πιθανό να δημιουργήσει καταστροφικούς κινδύνους, όπως να κυριαρχήσει πάνω στους ανθρώπους ή να τους ξεπεράσει στον ανταγωνισμό για πόρους.
Ωστόσο, το ενδεχόμενο μια εξελισσόμενη τεχνητή νοημοσύνη να ξεφύγει και να λειτουργήσει ανεξέλεγκτα παραμένει πάντα.
Πρόκειται όμως για μια σημαντική μετάβαση;
Ένας από τους συγγραφείς της μελέτης, ο εξελικτικός βιολόγος Eörs Szathmáry, εισήγαγε την έννοια των «σημαντικών μεταβάσεων στην εξέλιξη» σε ένα ιστορικό βιβλίο του 1995, το οποίο συνέγραψε με τον αείμνηστο εξελικτικό θεωρητικό John Maynard Smith.
Για παράδειγμα, η αρχαία ζωή βασιζόταν στο RNA, ένα σχετικά εύθραυστο μόριο που λειτουργούσε τόσο ως γενετική πληροφορία όσο και ως πρωτεΐνη που εκτελούσε τις λειτουργίες του οργανισμού.
Μια σημαντική μετάβαση ήταν η εξέλιξη του DNA – έκανε την πληροφορία πιο σταθερή και απαιτούσε την παραγωγή πρωτεϊνών ως ξεχωριστή διαδικασία. Αυτό άλλαξε ριζικά τον τρόπο με τον οποίο κωδικοποιείται και χρησιμοποιείται η γενετική πληροφορία και κατέστησε δυνατή τη μεγάλη αύξηση της πολυπλοκότητας των ζωντανών οργανισμών.
Σε κάθε επόμενη μετάβαση, το αντικείμενο της εξέλιξης γινόταν πιο περίπλοκο – από τη μονοκύτταρη ζωή στην πολυκύτταρη ζωή και ούτω καθεξής.
Η νέα μελέτη υποστηρίζει ότι ορισμένες τρέχουσες τάσεις στον τομέα της τεχνητής νοημοσύνης (AI) μοιάζουν με όσα συμβαίνουν κατά τη διάρκεια σημαντικών μεταβάσεων. Τα συστήματα τεχνητής νοημοσύνης αυξάνονται σε κλίμακα και γίνονται όλο και πιο σύνθετα. Νέες μέθοδοι εκπαίδευσης και ανάπτυξης αναδιαμορφώνουν τον τρόπο με τον οποίο τα συστήματα τεχνητής νοημοσύνης επεξεργάζονται τις πληροφορίες. Και οι ομάδες πράκτορων τεχνητής νοημοσύνης που συνεργάζονται μεταβάλλουν την ίδια την έννοια του τι είναι μια «μεμονωμένη» τεχνητή νοημοσύνη.
Είναι σίγουρα ενδιαφέρον ότι η εξέλιξη στο οικοσύστημα της τεχνητής νοημοσύνης ακολουθεί τάσεις που παρατηρούνται στις μεγάλες μεταβάσεις της βιολογικής εξέλιξης. Ωστόσο, αυτά τα φαινόμενα συμβαίνουν, σε μικρότερη κλίμακα, και κατά τη διάρκεια της συνήθους εξέλιξης. Δεν πρέπει ακόμη να ερμηνευθούν ως απόδειξη ότι η τεχνητή νοημοσύνη αντιπροσωπεύει μια μεγάλη μετάβαση που μπορεί να καταταχθεί μαζί με εκείνες που μεταμόρφωσαν τη βιολογική ζωή.
Υπάρχουν, ωστόσο, πολλοί τρόποι με τους οποίους η εξελίξιμη τεχνητή νοημοσύνη θα μπορούσε να επιφέρει μια σημαντική μετάβαση στην εξέλιξη. Η δημιουργία ενός εντελώς νέου πεδίου ευφυούς ζωής θα ήταν η λύση.
Μια άλλη πιθανότητα είναι η άνοδος της συν-εξελισσόμενης συμβίωσης ανθρώπου-μηχανής, παρόμοια με τη σχέση μας με τα smartphone. Αυτό θα μπορούσε να δημιουργήσει ένα νέο είδος ατόμου, κάπου μεταξύ της βιολογικής και της τεχνητής ζωής. Εάν μια τέτοια εξέλιξη εδραιωνόταν, θα αποτελούσε σίγουρα μια σημαντική εξελικτική μετάβαση.
