Η Google έδωσε περισσότερες πληροφορίες για το τι την οδήγησε να διακόψει τη δημιουργία εικόνων με ανθρώπους στο Gemini και να διορθώσει ιστορικές ανακρίβειες.
O ανώτερος διευθυντής προϊόντων της Google, Jack Krawczyk, ο οποίος επιβλέπει την ανάπτυξη του μοντέλου AI, δημοσίευσε στο X ότι η ομάδα του Gemini εργαζόταν για να προσαρμόσει το μοντέλο ώστε να παρέχει ιστορικά ακριβή αποτελέσματα.
Η ανάρτηση έγινε έπειτα από εκατοντάδες παράπονα χρηστών για το γεγονός ότι το AI Chatbot της Google αρνούνταν να δημιουργήσει εικόνες λευκών ανθρώπων και δημιουργούσε ιστορικές εικόνες που απεικόνιζαν ανθρώπους διαφορετικών φυλών σε φωτογραφίες όπου πιθανότατα δεν θα ήταν παρόντες.
Αυτή η διόρθωση αποδείχθηκε λίγο πιο περίπλοκη από ό,τι αρχικά πίστευε η ομάδα, με αποτέλεσμα η Google να απενεργοποιήσει τελείως την δυνατότητα δημιουργίας εικόνων ανθρώπων με το εργαλείο.
Σε μια ανάρτηση στο blog της Google, ο SVP της εταιρείας, Prabhakar Raghavan, αναφέρθηκε με περισσότερες λεπτομέρειες στο τι πήγε στραβά με το Gemini. Συγκεκριμένα, ο Raghavan δήλωσε ότι «ο συντονισμός μας για να διασφαλίσουμε ότι το Gemini έδειχνε ένα εύρος ανθρώπων απέτυχε να λάβει υπόψη του περιπτώσεις που σαφώς δεν θα έπρεπε να δείχνουν ένα εύρος».
Ανέφερε επίσης ότι «με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι θέλαμε, και αρνήθηκε να απαντήσει εντελώς σε ορισμένες προτροπές – ερμηνεύοντας λανθασμένα κάποιες πολύ ανώδυνες προτροπές ως ευαίσθητες».
Με πιο απλά λόγια, το Gemini είχε εκπαιδευτεί να δείχνει μια ποικιλία διαφορετικών φυλών – ωστόσο, δεν γνώριζε ότι υπήρχαν φορές που αυτό μπορεί να μην ήταν κατάλληλο. Είχε επίσης διαφορετική ερμηνεία του τι θα μπορούσε να είναι ακατάλληλο από ό,τι προβλεπόταν.
Τελικά, το μοντέλο οδηγήθηκε στο να «υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικό σε άλλες, οδηγώντας σε εικόνες που ήταν ενοχλητικές και λανθασμένες» δήλωσε ο Raghavan.
Ο Raghavan τόνισε ότι η Google σχεδιάζει να κάνει σημαντικές αλλαγές πριν το ενεργοποιήσει ξανά – μια διαδικασία βελτίωσης που θα “περιλαμβάνει εκτεταμένες δοκιμές”.