Η εκπαίδευση μεγάλων γλωσσικών μοντέλων απαιτεί έως και 100.000 GPU και δεκάδες έως εκατοντάδες μεγαβάτ ενέργειας. Έως το 2030, τα κέντρα δεδομένων παγκοσμίως αναμένεται να καταναλώνουν περίπου 1.000 TWh ετησίως, με σημαντικές επιπτώσεις στο περιβάλλον και τα ηλεκτρικά δίκτυα.
Εναλλακτικές τεχνολογίες bit
Η τεχνολογία spintronics, βασισμένη στον μαγνητικό σπιν των ηλεκτρονίων, θεωρείται η πιο επιτυχημένη εναλλακτική. Οι μνήμες MRAM διατηρούν δεδομένα ακόμη και χωρίς ρεύμα, ενώ πρόσφατη έρευνα του MIT έδειξε ότι παλμοί φωτός τεραέρτζ μπορούν να προκαλέσουν μαγνητικές καταστάσεις που διαρκούν χιλιοστά του δευτερολέπτου.
Ξεπερνώντας το «στενό σημείο von Neumann»
Νέες αρχιτεκτονικές επιδιώκουν να ενοποιήσουν μνήμη και επεξεργασία στο ίδιο στοιχείο, μέσω «μεμριστόρ» και υλικών όπως το γραφένιο, το οποίο μπορεί να λειτουργήσει ταυτόχρονα ως μνήμη και λογική πύλη.
Η έμπνευση από τον ανθρώπινο εγκέφαλο
Η νευρομορφική υπολογιστική, εμπνευσμένη από τον εγκέφαλο που λειτουργεί με μόλις 20 watt, αναπτύσσεται μέσω τσιπ όπως το Loihi της Intel και το NorthPole της IBM, τα οποία συνδυάζουν υπολογισμό και μνήμη με σημαντική εξοικονόμηση ενέργειας. Παρότι οι περισσότερες προσεγγίσεις παραμένουν πειραματικές, οι ερευνητές πιστεύουν πως υβριδικές λύσεις με σημερινή τεχνολογία θα φέρουν άμεσα οφέλη.