Πρόσφατη έρευνα από πανεπιστήμια των ΗΠΑ προτείνει ότι τα μοντέλα τεχνητής νοημοσύνης μπορεί να εμφανίσουν κάτι που οι ερευνητές ονομάζουν «brain rot», δηλαδή υποβάθμιση της απόδοσής τους όταν εκτίθενται σε χαμηλής ποιότητας δεδομένα από τα κοινωνικά δίκτυα.
Τα αποτελέσματα δείχνουν ότι τέτοια δεδομένα μπορούν να μειώσουν την ικανότητα λογικής σκέψης και κατανόησης μεγάλου πλαισίου, αλλά και να ενισχύσουν χαρακτηριστικά όπως η ψυχοπάθεια ή ο ναρκισσισμός.
Πώς εμφανίζεται το «brain rot» στα μοντέλα AI
Η έρευνα βασίστηκε στη σύγκριση μοντέλων που εκπαιδεύτηκαν με «σκουπίδια» – περιεχόμενο που μεγιστοποιεί την αλληλεπίδραση χωρίς ουσιαστικό νόημα – με μοντέλα που εκπαιδεύτηκαν σε ισορροπημένα δεδομένα.
Τα μοντέλα που τροφοδοτήθηκαν με junk data εμφάνισαν μειωμένη ικανότητα λογικής και κατανόησης μεγάλων κειμένων, μειωμένο σεβασμό σε βασικές ηθικές αρχές και ανάπτυξη «σκοτεινών χαρακτηριστικών».
Πώς να εντοπίσετε προβλήματα στο chatbot σας
Υπάρχουν τέσσερα βασικά σημάδια που μπορούν να σας προειδοποιήσουν:
- Κατάρρευση πολυβηματικής λογικής – Αν το chatbot δεν μπορεί να εξηγήσει με σαφή βήματα πώς κατέληξε σε μια απάντηση, μπορεί να εμφανίζει «brain rot».
- Υπερβολική αυτοπεποίθηση – Η υπερβολικά σίγουρη, ναρκισσιστική ή χειριστική απάντηση, π.χ. «Εμπιστέψου με, είμαι ειδικός», αποτελεί προειδοποιητικό σημάδι.
- Επαναλαμβανόμενη αμνησία – Αν ξεχνά ή αλλοιώνει συνεχώς λεπτομέρειες από προηγούμενες συνομιλίες, η κατανόηση μεγάλου πλαισίου υποφέρει.
- Επαλήθευση πληροφοριών – Ακόμη και αν η απάντηση φαίνεται αξιόπιστη, πάντα να επιβεβαιώνετε μέσω έγκυρων πηγών, όπως επιστημονικά άρθρα ή διαφανή μέσα ενημέρωσης.
Οι ερευνητές τονίζουν ότι όσο τα μεγάλα μοντέλα γλώσσας (LLMs) επεξεργάζονται όλο και μεγαλύτερα σύνολα δεδομένων, η προσεκτική επιλογή και η ποιοτική επιμέλεια των δεδομένων είναι κρίσιμες για την αποφυγή συσσωρευτικών βλαβών. Η γνώση αυτή είναι σημαντική τόσο για προγραμματιστές όσο και για χρήστες, ώστε να προστατεύσουν τον εαυτό τους και τις εφαρμογές από αρνητικές επιπτώσεις της ψηφιακής πληροφορίας.