Λίγο μετά την ανακοίνωση του διευθύνοντος συμβούλου της Amazon, Andy Jassy, για τη συμφωνία επένδυσης μαμούθ ύψους 50 δισεκατομμυρίων δολαρίων της AWS με την OpenAI, το TechCrunch ξεναγήθηκε στο εργαστήριο ανάπτυξης τσιπ που βρίσκεται στην καρδιά αυτής της συνεργασίας.
Το τσιπ Trainium της Amazon προκαλεί το ενδιαφέρον των ειδικών του κλάδου, καθώς υπόσχεται χαμηλότερο κόστος στην τεχνητή νοημοσύνη και μια σοβαρή απειλή για το μονοπώλιο της Nvidia.
Η στρατηγική σημασία του Trainium για τους κολοσσούς της AI
Η OpenAI επέλεξε την AWS ως αποκλειστικό πάροχο για το Frontier, το νέο της εργαλείο κατασκευής πρακτόρων AI. Στο πλαίσιο αυτό, ο τεχνολογικός γίγαντας συμφώνησε να προμηθεύσει την OpenAI με υπολογιστική ισχύ 2 gigawatts μέσω των τσιπ Trainium. Αυτή η δέσμευση είναι τεράστια, δεδομένου ότι η Anthropic και η υπηρεσία Bedrock της ίδιας της Amazon καταναλώνουν ήδη τα τσιπ ταχύτερα από όσο μπορεί να τα παράγει η εταιρεία. Σήμερα, υπάρχουν 1,4 εκατομμύρια τσιπ Trainium σε λειτουργία, με το μοντέλο Claude της Anthropic να τρέχει σε περισσότερα από 1 εκατομμύριο εξ αυτών.
Ανταγωνισμός με τη Nvidia και τεχνολογική υπεροχή
Πέρα από το ότι αποτελεί εναλλακτική λύση στις δυσεύρετες GPU της Nvidia, η Amazon ισχυρίζεται ότι τα νέα της τσιπ κοστίζουν έως και 50% λιγότερο σε λειτουργία για συγκρίσιμες επιδόσεις. Το Trainium3, που κυκλοφόρησε τον περασμένο Δεκέμβριο, χρησιμοποιεί νέους διακόπτες Neuron που επιτρέπουν σε κάθε τσιπ να επικοινωνεί με όλα τα άλλα σε διάταξη πλέγματος, μειώνοντας δραστικά την καθυστέρηση. Ακόμη και η Apple έχει επαινέσει την ομάδα σχεδιασμού της Amazon για τη σειρά Graviton, αποδεικνύοντας την αξιοπιστία της τεχνολογίας τους.
Η πρόκληση του «bring-up» και το μέλλον της παραγωγής
Στο εργαστήριο του Όστιν, οι μηχανικοί εργάζονται πυρετωδώς για τη διαδικασία «bring-up», την πρώτη ενεργοποίηση ενός νέου τσιπ μετά από 18 μήνες σχεδιασμού. Το Trainium3 είναι ένα υπερσύγχρονο τσιπ 3 νανομέτρων, το οποίο πλέον ψύχεται με υγρό αντί για αέρα, προσφέροντας σημαντικά ενεργειακά πλεονεκτήματα.
Παρά την πίεση, η ομάδα έχει καταφέρει να κάνει τη μετάβαση από άλλα συστήματα στο Trainium εξαιρετικά απλή, απαιτώντας μόλις μια αλλαγή μιας γραμμής κώδικα, στοχεύοντας έτσι να αποσπάσει μερίδιο αγοράς από την κυριαρχία της Nvidia παντού όπου είναι δυνατόν.
