Οι ερευνητές τεχνητής νοημοσύνης (AI) ισχυρίζονται ότι έκαναν την πρώτη επιστημονική ανακάλυψη στον κόσμο χρησιμοποιώντας ένα μεγάλο γλωσσικό μοντέλο, μια ανακάλυψη που υποδηλώνει ότι η τεχνολογία πίσω από το ChatGPT και παρόμοια προγράμματα μπορεί να παράγει πληροφορίες που υπερβαίνουν την ανθρώπινη γνώση.
Η διαπίστωση προέκυψε από το Google DeepMind, όπου οι επιστήμονες διερευνούν κατά πόσον τα μεγάλα γλωσσικά μοντέλα, τα οποία στηρίζουν τα σύγχρονα chatbots, όπως το ChatGPT της OpenAI και το Bard της Google, μπορούν να κάνουν κάτι περισσότερο από το να επανασυσκευάζουν πληροφορίες που έμαθαν κατά την εκπαίδευση και να καταλήγουν σε νέες ιδέες.
«Όταν ξεκινήσαμε το έργο δεν υπήρχε καμία ένδειξη ότι θα παρήγαγε κάτι πραγματικά καινούριο. Απ’ όσο γνωρίζουμε, αυτή είναι η πρώτη φορά που μια γνήσια, νέα επιστημονική ανακάλυψη έγινε από ένα μεγάλο γλωσσικό μοντέλο» δήλωσε ο Pushmeet Kohli, επικεφαλής του τμήματος AI for science της DeepMind.
Τα μεγάλα γλωσσικά μοντέλα, ή LLM, είναι ισχυρά νευρωνικά δίκτυα που μαθαίνουν τα πρότυπα της γλώσσας, συμπεριλαμβανομένου του κώδικα υπολογιστή, από τεράστιες ποσότητες κειμένου και άλλων δεδομένων. Από την καταιγιστική άφιξη του ChatGPT πέρυσι, η τεχνολογία έχει επιδιορθώσει ελαττωματικό λογισμικό και έχει παράγει τα πάντα, από εργασίες κολεγίων και ταξιδιωτικά δρομολόγια μέχρι ποιήματα για την κλιματική αλλαγή στο ύφος του Σαίξπηρ.
Όμως, ενώ τα chatbots έχουν αποδειχθεί εξαιρετικά δημοφιλή, δεν παράγουν νέα γνώση και είναι επιρρεπή στη σύγχυση, οδηγώντας σε απαντήσεις που είναι εύγλωττες και αληθοφανείς, αλλά λανθασμένες.
Το FunSearch και οι δύο γρίφοι
Για την κατασκευή του «FunSearch», που σημαίνει «αναζήτηση στο χώρο των συναρτήσεων», η DeepMind αξιοποίησε ένα LLM για να γράψει λύσεις σε προβλήματα με τη μορφή προγραμμάτων υπολογιστών. Το LLM συνδυάζεται με έναν “αξιολογητή” που κατατάσσει αυτόματα τα προγράμματα ανάλογα με το πόσο καλά αποδίδουν. Τα καλύτερα προγράμματα στη συνέχεια συνδυάζονται και διοχετεύονται πίσω στο LLM για να τα βελτιώσει. Αυτό οδηγεί το σύστημα να εξελίσσει σταθερά τα φτωχά προγράμματα σε πιο ισχυρά που μπορούν να ανακαλύψουν νέα γνώση.
Οι ερευνητές άφησαν το FunSearch ελεύθερο σε δύο γρίφους. Ο πρώτος ήταν μια μακροχρόνια και κάπως απόκρυφη πρόκληση στα καθαρά μαθηματικά, γνωστή ως «το πρόβλημα cap set». Πρόκειται για την εύρεση του μεγαλύτερου συνόλου σημείων στο χώρο όπου κανένα από τα τρία σημεία δεν σχηματίζει ευθεία γραμμή. Το FunSearch έφτιαξε προγράμματα που δημιουργούν νέα μεγάλα σύνολα cap που ξεπερνούν τα καλύτερα που έχουν βρει οι μαθηματικοί.
Ο δεύτερος γρίφος ήταν το πρόβλημα bin packing, το οποίο αναζητά τους καλύτερους τρόπους για τη συσκευασία αντικειμένων διαφορετικών μεγεθών σε δοχεία. Ενώ εφαρμόζεται σε φυσικά αντικείμενα, όπως ο πιο αποδοτικός τρόπος για την τοποθέτηση κουτιών σε ένα εμπορευματοκιβώτιο μεταφοράς, τα ίδια μαθηματικά εφαρμόζονται και σε άλλους τομείς, όπως ο προγραμματισμός εργασιών πληροφορικής σε κέντρα δεδομένων. Το πρόβλημα συνήθως επιλύεται είτε με τη συσκευασία αντικειμένων στον πρώτο κάδο που έχει χώρο, είτε με τη συσκευασία στον κάδο με τον λιγότερο διαθέσιμο χώρο όπου το αντικείμενο εξακολουθεί να χωράει. Το FunSearch βρήκε μια καλύτερη προσέγγιση που απέφευγε να αφήνει μικρά κενά που είναι απίθανο να γεμίσουν ποτέ, σύμφωνα με τα αποτελέσματα που δημοσιεύονται στο Nature.
«Τα τελευταία δύο ή τρία χρόνια υπήρξαν μερικά συναρπαστικά παραδείγματα συνεργασίας ανθρώπινων μαθηματικών με την τεχνητή νοημοσύνη για να επιτευχθεί πρόοδος σε άλυτα προβλήματα», δήλωσε ο Sir Tim Gowers, καθηγητής μαθηματικών στο Πανεπιστήμιο του Κέιμπριτζ, ο οποίος δεν συμμετείχε στην έρευνα. «Αυτή η εργασία μάς δίνει δυνητικά ένα άλλο πολύ ενδιαφέρον εργαλείο για τέτοιες συνεργασίες, επιτρέποντας στους μαθηματικούς να αναζητούν αποτελεσματικά έξυπνες και απροσδόκητες κατασκευές. Ακόμα καλύτερα, οι κατασκευές αυτές είναι ερμηνεύσιμες από τον άνθρωπο» πρόσθεσε.
Οι ερευνητές διερευνούν τώρα το εύρος των επιστημονικών προβλημάτων που μπορεί να χειριστεί το FunSearch. Ένας σημαντικός περιοριστικός παράγοντας είναι ότι τα προβλήματα πρέπει να έχουν λύσεις που μπορούν να επαληθευτούν αυτόματα, γεγονός που αποκλείει πολλά ερωτήματα στη βιολογία, όπου οι υποθέσεις πρέπει συχνά να ελέγχονται με εργαστηριακά πειράματα.
Ο πιο άμεσος αντίκτυπος μπορεί να είναι για τους προγραμματιστές ηλεκτρονικών υπολογιστών. Τα τελευταία 50 χρόνια, η κωδικοποίηση βελτιώθηκε σε μεγάλο βαθμό μέσω της δημιουργίας όλο και πιο εξειδικευμένων αλγορίθμων από τους ανθρώπους. «Αυτό θα είναι πραγματικά μετασχηματιστικό για τον τρόπο με τον οποίο οι άνθρωποι προσεγγίζουν την επιστήμη των υπολογιστών και την αλγοριθμική ανακάλυψη. Για πρώτη φορά, βλέπουμε τα LLMs να μην αναλαμβάνουν, αλλά σίγουρα να βοηθούν στην επέκταση των ορίων του τι είναι δυνατό στους αλγορίθμους“, δήλωσε ο Kohli.
Ο Jordan Ellenberg, καθηγητής μαθηματικών στο Πανεπιστήμιο του Wisconsin-Madison και συν-συγγραφέας της εργασίας, δήλωσε: «Αυτό που βρίσκω πραγματικά συναρπαστικό, ακόμη περισσότερο από τα συγκεκριμένα αποτελέσματα που βρήκαμε, είναι οι προοπτικές που υποδεικνύει για το μέλλον της αλληλεπίδρασης ανθρώπου-μηχανής στα μαθηματικά».
«Αντί να παράγει μια λύση, το FunSearch παράγει ένα πρόγραμμα που βρίσκει τη λύση. Η λύση ενός συγκεκριμένου προβλήματος μπορεί να μη μου δίνει καμία εικόνα για το πώς να λύσω άλλα συναφή προβλήματα. Αλλά ένα πρόγραμμα που βρίσκει τη λύση, αυτό είναι κάτι που ένας άνθρωπος μπορεί να διαβάσει και να ερμηνεύσει και ελπίζω έτσι να δημιουργήσει ιδέες για το επόμενο πρόβλημα και το επόμενο και το επόμενο» κατέληξε.