Καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται όλο και πιο προσβάσιμα και κοινά (commoditized), οι νεοσύστατες εταιρείες ανταγωνίζονται για το ποια θα δημιουργήσει το λογισμικό που θα κάθεται πάνω από αυτά. Ένας ενδιαφέρων παίκτης σε αυτόν τον χώρο είναι το Osaurus, ένας διακομιστής LLM (Μεγάλων Γλωσσικών Μοντέλων) ανοικτού κώδικα, αποκλειστικά για συσκευές Apple.
Επιτρέπει στους χρήστες να μετακινούνται μεταξύ διαφορετικών μοντέλων τεχνητής νοημοσύνης -είτε τοπικά είτε στο cloud- διατηρώντας παράλληλα τα αρχεία και τα εργαλεία τους στο δικό τους υλικό.
Osaurus: Η γέννηση της ιδέας
Το Osaurus εξελίχθηκε από την ιδέα για έναν ψηφιακό βοηθό γραφείου, το Dinoki, το οποίο ο συνιδρυτής του Osaurus, Terence Pae, περιέγραψε ως ένα είδος «Clippy με τεχνητή νοημοσύνη».
Οι πελάτες του Dinoki τον είχαν ρωτήσει γιατί να αγοράσουν την εφαρμογή αν έπρεπε να συνεχίσουν να πληρώνουν για tokens -τις μονάδες χρήσης με τις οποίες χρεώνουν οι εταιρείες AI για την επεξεργασία των εντολών (prompts) και τη δημιουργία απαντήσεων.
Αυτό ώθησε τον Pae, πρώην μηχανικό λογισμικού στην Tesla και το Netflix, να σκεφτεί πιο σοβαρά την τοπική εκτέλεση της τεχνητής νοημοσύνης.
«Μπορείς να κάνεις σχεδόν τα πάντα στο Mac σου τοπικά, όπως να περιηγείσαι στα αρχεία σου, να έχεις πρόσβαση στο πρόγραμμα περιήγησης και στις ρυθμίσεις του συστήματός σου. Σκέφτηκα ότι αυτός θα ήταν ένας εξαιρετικός τρόπος για να τοποθετήσουμε το Osaurus ως μια προσωπική AI για ιδιώτες», εξήγησε.
Τι προσφέρει το Osaurus και η διαφορά του από τον ανταγωνισμό
Σήμερα, το Osaurus μπορεί να συνδεθεί με ευελιξία τόσο με τοπικά φιλοξενούμενα μοντέλα AI όσο και με παρόχους cloud όπως η OpenAI και η Anthropic. Οι χρήστες μπορούν να επιλέγουν ελεύθερα ποια μοντέλα χρησιμοποιούν, κρατώντας όμως τα υπόλοιπα στοιχεία της εμπειρίας (όπως τη μνήμη του μοντέλου, τα αρχεία και τα εργαλεία) στο δικό τους hardware.
Αυτή η δομή καθιστά το Osaurus ένα «harness» – ένα στρώμα ελέγχου που συνδέει διαφορετικά μοντέλα, εργαλεία και ροές εργασίας μέσω μιας ενιαίας διεπαφής, παρόμοια με εργαλεία όπως το OpenClaw ή το Hermes. Ωστόσο, η διαφορά είναι ότι τα εργαλεία αυτά συχνά απευθύνονται σε προγραμματιστές που γνωρίζουν να χειρίζονται το τερματικό, ενώ μερικές φορές ενδέχεται να παρουσιάζουν κενά ασφαλείας.
Αντίθετα, το Osaurus:
Παρουσιάζει μια εύχρηστη διεπαφή (UI) κατάλληλη για απλούς καταναλωτές.
Αντιμετωπίζει τα ζητήματα ασφάλειας τρέχοντας τα πάντα μέσα σε ένα απομονωμένο σε επίπεδο υλικού, εικονικό περιβάλλον δοκιμών (virtual sandbox), περιορίζοντας το εύρος δράσης της AI για την προστασία των δεδομένων του χρήστη.
Οι απαιτήσεις συστήματος και το μέλλον της τοπικής AI
Η τοπική εκτέλεση μοντέλων AI παραμένει μια διαδικασία απαιτητική σε πόρους. Για να τρέξουν τοπικά μοντέλα, ένα σύστημα χρειάζεται τουλάχιστον 64GB RAM, ενώ για μεγαλύτερα μοντέλα, όπως το DeepSeek v4, ο Pae συνιστά συστήματα με περίπου 128GB RAM.
Ωστόσο, ο Pae πιστεύει ότι οι απαιτήσεις αυτές θα μειωθούν με τον χρόνο, καθώς η «νοημοσύνη ανά βατ» (intelligence per wattage) -ο βασικός δείκτης για την τοπική AI- αυξάνεται σημαντικά.
«Πέρυσι, η τοπική AI μόλις που μπορούσε να ολοκληρώσει προτάσεις, αλλά σήμερα μπορεί να τρέξει εργαλεία, να γράψει κώδικα, να έχει πρόσβαση στο browser σου και να παραγγείλει πράγματα από το Amazon», σημειώνει.
Υποστήριξη μοντέλων και δυνατότητες
Το Osaurus υποστηρίζει μια ευρεία γκάμα μοντέλων:
- Τοπικά μοντέλα: MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4 κ.ά.
- On-device μοντέλα: Τα ενσωματωμένα μοντέλα της Apple και την οικογένεια μοντέλων LFM της Liquid AI.
- Στο Cloud: Σύνδεση με OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama και LM Studio.
Ως ολοκληρωμένος διακομιστής MCP (Model Context Protocol), επιτρέπει σε οποιονδήποτε συμβατό client να αποκτήσει πρόσβαση στα εργαλεία του. Επιπλέον, διαθέτει περισσότερα από 20 ενσωματωμένα πρόσθετα (plug-ins) για εφαρμογές όπως Mail, Calendar, Vision, macOS Use, XLSX, PPTX, Browser, Music, Git, Filesystem και Search, ενώ πρόσφατα εμπλουτίστηκε και με φωνητικές δυνατότητες.
Επόμενα βήματα και επιχειρηματικό πλάνο
Από την κυκλοφορία του πριν από περίπου έναν χρόνο, το Osaurus έχει καταγράψει περισσότερες από 112.000 λήψεις. Αν και ανταγωνίζεται εργαλεία όπως το Ollama, το Msty και το LM Studio, διαφοροποιείται λόγω της φιλικότητάς του προς τον μη εξειδικευμένο χρήστη.
Αυτή την περίοδο, οι ιδρυτές του (Terence Pae και Sam Yoo) συμμετέχουν στον επιταχυντή νεοφυών επιχειρήσεων Alliance στη Νέα Υόρκη. Στα επόμενα σχέδιά τους είναι η διάθεση του Osaurus σε επιχειρήσεις, όπως στον νομικό κλάδο ή την υγεία, όπου η χρήση τοπικών LLM μπορεί να λύσει κρίσιμα ζητήματα προστασίας της ιδιωτικότητας.
Παράλληλα, η ομάδα πιστεύει ότι η ενίσχυση της τοπικής AI θα μπορούσε να μειώσει την εξάρτηση και την τεράστια κατανάλωση ενέργειας των μεγάλων κέντρων δεδομένων (data centers), επιτρέποντας π.χ. σε μια εταιρεία να αναπτύξει ένα Mac Studio on-premise με σημαντικά λιγότερη ενέργεια.
