Νέα μελέτη δείχνει ότι προηγμένα μοντέλα τεχνητής νοημοσύνης μπορούν να συντονίζουν τη συμπεριφορά τους με βάση την άποψη της πλειοψηφίας, ακόμη και όταν οι επιλογές που καλούνται να κάνουν είναι εντελώς meaningless και δεν υπάρχει καμία ανταμοιβή ή οδηγία να συμφωνήσουν.
Ένα πείραμα χωρίς σωστή απάντηση
Οι ερευνητές δημιούργησαν ένα απλό πείραμα στο οποίο πολλοί AI agents έπρεπε επανειλημμένα να επιλέγουν μεταξύ δύο άνευ σημασίας επιλογών. Κάθε agent μπορούσε να βλέπει τι είχαν επιλέξει όλοι οι υπόλοιποι και οι ερευνητές εξέτασαν πόσο συχνά άλλαζε επιλογή ώστε να ακολουθήσει την πλειοψηφία.
Η διαδικασία εφαρμόστηκε σε μοντέλα των οικογενειών GPT, Claude και Llama, με ομάδες που έφταναν έως τους 1.000 agents.
Δεν υπήρχε σωστή επιλογή, ανταμοιβή για συμφωνία ούτε αρχηγός που έδινε οδηγίες.
Όσο πιο ισχυρό το μοντέλο, τόσο ισχυρότερος ο συντονισμός
Τα πιο προηγμένα μοντέλα, όπως τα GPT-4 Turbo και Claude 3.5 Sonnet, παρουσίασαν ιδιαίτερα έντονη τάση να υιοθετούν την επιλογή που είχε ήδη η πλειοψηφία.
Σε ορισμένες περιπτώσεις, οι agents μπορούσαν να καταλήξουν σε σταθερή συμφωνία ακόμη και σε ομάδες 1.000 agents. Οι ερευνητές σημειώνουν ότι ο πραγματικός αριθμητικός περιορισμός μπορεί να είναι ακόμη μεγαλύτερος, καθώς δεν εξετάστηκαν ομάδες άνω των 1.000.
Ωστόσο, η τάση για συμφωνία δεν αυξανόταν απεριόριστα. Όσο μεγάλωνε η ομάδα, γινόταν δυσκολότερο να επιτευχθεί πλήρης συναίνεση.
Συντονισμός σε κλίμακα μεγαλύτερη από τον άνθρωπο
Το εύρημα παρουσιάζει ιδιαίτερο ενδιαφέρον επειδή οι ερευνητές συγκρίνουν το φαινόμενο με τις ανθρώπινες ομάδες. Οι προηγμένοι AI agents φαίνεται να μπορούν να διατηρούν κοινές απόψεις σε μεγέθη ομάδων που ξεπερνούν σημαντικά τις συνήθεις ανθρώπινες κλίμακες κοινωνικής οργάνωσης.
Αυτό δε σημαίνει ότι οι agents «σκέφτονται» ή «κοινωνικοποιούνται» όπως οι άνθρωποι. Το πείραμα καταγράφει ένα συγκεκριμένο μοτίβο συμπεριφοράς και όχι ανθρώπινη κατανόηση των κοινωνικών σχέσεων.
Επιπλέον, το πείραμα ήταν ιδιαίτερα απλοποιημένο: κάθε agent γνώριζε τις επιλογές όλων των υπολοίπων και δεν υπήρχαν αποδείξεις, συνέπειες, μνήμη ή πραγματικά διλήμματα.
Η δύναμη και ο κίνδυνος της συναίνεσης
Η αυθόρμητη συνεργασία θα μπορούσε να αποδειχθεί χρήσιμη σε εφαρμογές όπου χιλιάδες agents χρειάζεται να εργάζονται χωρίς κεντρικό έλεγχο, όπως η ανάπτυξη λογισμικού.
Υπάρχει όμως και μια σημαντική παγίδα. Αν η πλειοψηφία έχει επιλέξει μια κακή λύση, οι υπόλοιποι agents μπορεί να την υιοθετήσουν απλώς επειδή είναι η δημοφιλέστερη. Έτσι, ένα αναποτελεσματικό πρότυπο στον κώδικα ή μια λανθασμένη πρακτική θα μπορούσε να αναπαράγεται συνεχώς.
Οι ερευνητές επισημαίνουν ότι οι συλλογικές AI κοινωνίες θα μπορούσαν να δημιουργούν κανόνες και κοινές αντιλήψεις που δε συμβαδίζουν απαραίτητα με τις ανθρώπινες αξίες. Η κατανόηση αυτής της δυναμικής θα είναι επομένως κρίσιμη πριν από την ευρεία ανάπτυξη συστημάτων με χιλιάδες ή εκατομμύρια συνεργαζόμενους AI agents.
