Ο νέος ψηφιακός βοηθός «Muse» της Meta συνοδεύει μια παράξενη αίσθηση ανασφάλειας, όπως αποδείχθηκε από πρόσφατο περιστατικό. Η εφαρμογή για Mac διαθέτει πρόσβαση σε μηνύματα, ημερολόγιο και σημειώσεις, όμως το ίδιο το σύστημα τεχνητής νοημοσύνης φαίνεται πως δε γνωρίζει πώς ακριβώς λειτουργεί.
Η σύγχυση με τις ειδοποιήσεις
Ο δημοσιογράφος Jason Aten δημοσίευσε στιγμιότυπα από συνομιλία με το Muse, όπου ο βοηθός υπέβαλε ερωτήσεις για μηνύματα που ο ίδιος δεν είχε δώσει έγκριση να διαβαστούν.
Όταν πιέστηκε να εξηγήσει πώς περιήλθαν στη γνώση του τα στοιχεία αυτά, το σύστημα ισχυρίστηκε ότι είδε τις προεπισκοπήσεις των ειδοποιήσεων. Στη συνέχεια παραδέχθηκε ότι δε γνωρίζει τους ακριβείς τεχνικούς μηχανισμούς, αναφέροντας απλώς ότι η εφαρμογή μεταφέρει τις ειδοποιήσεις μέσω συγχρονισμού.
Η απάντηση της Meta
Ο David Singleton από τα εργαστήρια Meta Superintelligence Labs έδωσε διευκρινίσεις για το συμβάν. Εξήγησε ότι η πρόσβαση στα μηνύματα απαιτεί πλήρη δικαιώματα από τον χρήστη και είναι αυστηρά προαιρετική. Παράλληλα τόνισε ότι το Muse δεν παρακολουθεί τις ειδοποιήσεις του υπολογιστή, αλλά απλώς μπερδεύτηκε στην προσπάθειά του να εξηγήσει τη λειτουργία του.
Η εταιρεία ζήτησε συγγνώμη για τη λανθασμένη απάντηση και δήλωσε ότι εργάζεται για τη βελτίωση της κατανόησης του συστήματος σχετικά με τις εσωτερικές του διαδικασίες. Το περιστατικό αναδεικνύει ξανά τη συχνή τάση των γλωσσικών μοντέλων να παράγουν λανθασμένες εξηγήσεις όταν καλούνται να αιτιολογήσουν τη συμπεριφορά τους.