Την Παρασκευή το απόγευμα, η κυβέρνηση Τραμπ ανακοίνωσε τη διακοπή των σχέσεών της με την Anthropic, την εταιρεία τεχνητής νοημοσύνης που ίδρυσε ο Dario Amodei το 2021.
Ο Υπουργός Άμυνας, Pete Hegseth, επικαλέστηκε νόμο περί εθνικής ασφάλειας για να θέσει την εταιρεία σε «μαύρη λίστα», αποκλείοντάς την από συνεργασίες με το Πεντάγωνο. Η κίνηση αυτή ακολούθησε την άρνηση του Amodei να επιτρέψει τη χρήση της τεχνολογίας της Anthropic για μαζική επιτήρηση πολιτών των ΗΠΑ ή για αυτόνομα οπλισμένα drones που επιλέγουν στόχους χωρίς ανθρώπινη παρέμβαση.
Anthopic: Η οικονομική και στρατηγική ζημιά
Η Anthropic βρίσκεται αντιμέτωπη με την απώλεια συμβολαίου αξίας έως και 200 εκατομμυρίων δολαρίων, ενώ ενδέχεται να αποκλειστεί από κάθε συνεργασία με αμυντικούς εργολάβους. Ο Πρόεδρος Trump, μέσω ανάρτησης στο Truth Social, έδωσε εντολή σε κάθε ομοσπονδιακή υπηρεσία να σταματήσει αμέσως τη χρήση της τεχνολογίας της εταιρείας. Από την πλευρά της, η Anthropic δήλωσε ότι σκοπεύει να προσβάλει την απόφαση του Πενταγώνου στα δικαστήρια.
Η κριτική του Max Tegmark
Ο Max Tegmark, φυσικός του MIT και ιδρυτής του Future of Life Institute, υποστηρίζει ότι η Anthropic, όπως και οι ανταγωνιστές της, έσπειρε τους σπόρους της δικής της καταστροφής. Σύμφωνα με τον Tegmark, η εταιρεία επέλεξε επί χρόνια να αντιστέκεται σε δεσμευτικούς κανονισμούς, υποσχόμενη αντ’ αυτού αυτορρύθμιση. Μάλιστα, η Anthropic απέσυρε πρόσφατα την κεντρική δέσμευση ασφαλείας της: την υπόσχεση να μην κυκλοφορεί ισχυρά συστήματα AI μέχρι να είναι βέβαιη ότι δε θα προκαλέσουν βλάβη.
Το ρυθμιστικό κενό και οι συνέπειες
Ο Tegmark επισημαίνει ότι η έλλειψη κανόνων αφήνει τις εταιρείες απροστάτευτες. Ενώ υπάρχουν αυστηροί κανονισμοί για την ασφάλεια των τροφίμων, η τεχνητή νοημοσύνη λειτουργεί σε ένα νομικό κενό. Αν οι εταιρείες είχαν πιέσει για τη μετατροπή των εθελοντικών τους δεσμεύσεων σε νόμους, η κυβέρνηση δε θα μπορούσε τώρα να απαιτεί αυθαίρετα τη χρήση της τεχνολογίας τους για φονικά όπλα. Η αντίστασή τους στη νομοθεσία αποδείχθηκε τελικά επιζήμια για τις ίδιες.
Η απειλή της μη ελεγχόμενης υπερνοημοσύνης
Παρά τα επιχειρήματα περί ανταγωνισμού με την Κίνα, ο Tegmark τονίζει ότι η ανεξέλεγκτη υπερνοημοσύνη αποτελεί απειλή για την εθνική ασφάλεια και όχι πλεονέκτημα.
Παρομοιάζει την τρέχουσα κατάσταση με τον Ψυχρό Πόλεμο, όπου οι δυνάμεις συνειδητοποίησαν ότι η πλήρης πυρηνική κυριαρχία θα σήμαινε τελικά αυτοκτονία. Αν η AI συνεχίσει να εξελίσσεται με τους σημερινούς ρυθμούς χωρίς ανεξάρτητους ελέγχους, το μέλλον της ανθρωπότητας και της διακυβέρνησης τίθεται σε άμεσο κίνδυνο.