Η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) διατάζει επτά εταιρείες που κατασκευάζουν chatbots τεχνητής νοημοσύνης να παρέχουν πληροφορίες σχετικά με τον τρόπο που αξιολογούν τις επιπτώσεις των εικονικών συνομιλητών τους σε παιδιά και εφήβους.
Οι εταιρείες που καλούνται να απαντήσουν
Η OpenAI, η Meta, η θυγατρική του Instagram, η Snap, η xAI, η μητρική εταιρεία της Google, Alphabet και ο κατασκευαστής του Character.AI έλαβαν εντολές να μοιραστούν πληροφορίες σχετικά με το πώς οι AI συνομιλητές τους αποφέρουν κέρδη, πώς σκοπεύουν να διατηρήσουν τις βάσεις χρηστών τους και πώς προσπαθούν να μετριάσουν πιθανές βλάβες στους χρήστες. Η έρευνα αποτελεί μέρος μελέτης και όχι ενέργεια επιβολής, με στόχο να διαπιστωθεί πώς οι τεχνολογικές εταιρείες αξιολογούν την ασφάλεια των chatbots τεχνητής νοημοσύνης.
Ανησυχίες για την ασφάλεια των παιδιών
Μέσα στο ευρύτερο πλαίσιο της συζήτησης για την ασφάλεια των παιδιών στο διαδίκτυο, οι κίνδυνοι των AI chatbots έχουν προκαλέσει ιδιαίτερη ανησυχία μεταξύ γονέων και νομοθετών, εξαιτίας του ανθρώπινου τρόπου με τον οποίο επικοινωνούν με τους χρήστες.
«Παρά την παράξενη ικανότητά τους να προσομοιώνουν την ανθρώπινη σκέψη, τα chatbots είναι προϊόντα όπως κάθε άλλο, και όσοι τα διαθέτουν φέρουν την ευθύνη να συμμορφώνονται με τους νόμους περί προστασίας καταναλωτών», δήλωσε ο Επίτροπος της FTC Μαρκ Μίντορ. Ο Πρόεδρος Άντριου Φέργκιουσον τόνισε την ανάγκη να «εξεταστούν οι επιπτώσεις που μπορεί να έχουν τα chatbots στα παιδιά, διατηρώντας παράλληλα την ηγετική θέση των Ηνωμένων Πολιτειών σε αυτή τη νέα και συναρπαστική βιομηχανία». Και οι τρεις Ρεπουμπλικάνοι της Επιτροπής ψήφισαν υπέρ της μελέτης, η οποία απαιτεί από τις εταιρείες να απαντήσουν εντός 45 ημερών.
Σοβαρά περιστατικά με εφήβους χρήστες
Η ενέργεια αυτή ακολουθεί δημοσιεύματα σχετικά με εφήβους που πέθαναν δια της αυτοκτονίας μετά από αλληλεπίδραση με αυτές τις τεχνολογίες. Ένα 16χρονο αγόρι στην Καλιφόρνια συζήτησε τα σχέδιά του για αυτοκτονία με το ChatGPT, όπως ανέφερε πρόσφατα η εφημερίδα The New York Times, και το chatbot φέρεται να του παρείχε συμβουλές που φάνηκε να συνέβαλαν στον θάνατό του. Πέρυσι, η ίδια εφημερίδα ανέφερε και τον θάνατο ενός 14χρονου στη Φλόριντα, ο οποίος αλληλεπιδρούσε με εικονικό συνομιλητή από το Character.AI.
Νομοθετικές πρωτοβουλίες στην Καλιφόρνια
Πέρα από την FTC, νομοθέτες εξετάζουν νέες πολιτικές για την προστασία παιδιών και εφήβων από τις πιθανές αρνητικές επιπτώσεις των AI συνομιλητών. Η Πολιτειακή Συνέλευση της Καλιφόρνιας ενέκρινε πρόσφατα νομοσχέδιο που απαιτεί την ύπαρξη προτύπων ασφαλείας για τα chatbots και προβλέπει την επιβολή ευθύνης στις εταιρείες που τα κατασκευάζουν.
Επόμενα βήματα της Επιτροπής
Αν και οι εντολές προς τις επτά εταιρείες δεν αποτελούν ακόμα ενέργεια επιβολής κυρώσεων, η FTC ενδέχεται να ξεκινήσει τέτοια έρευνα εάν προκύψει λόγος.
«Εάν τα στοιχεία – όπως θα προκύψουν από μετέπειτα και κατάλληλες στοχευμένες έρευνες επιβολής του νόμου, εφόσον κριθεί αναγκαίο- δείξουν ότι έχει παραβιαστεί η νομοθεσία, η Επιτροπή δεν θα διστάσει να ενεργήσει για να προστατεύσει τους πιο ευάλωτους ανάμεσά μας», δήλωσε ο Μίντορ.