Η OpenAI κυκλοφόρησε το νέο της μοντέλο τεχνητής νοημοσύνης (AI), το GPT-4o Mini. Πρόκειται για ένα μικρό AI μοντέλο, το οποίο η εταιρεία χαρακτηρίζει ως το πιο οικονομικό μοντέλο της μέχρι σήμερα.
Παρόλο που η OpenAI δεν καθόρισε το μέγεθος των παραμέτρων του μοντέλου, ανέφερε ότι είναι ισάξιο με άλλα μικρά μοντέλα γλώσσας (SLM). Το GPT-4o Mini αντικαθιστά το GPT-3.5 Turbo στο ChatGPT για όλους τους χρήστες ως το προεπιλεγμένο AI μοντέλο. Θα είναι επίσης διαθέσιμο ως API για επιχειρήσεις και προγραμματιστές.
Επισήμως διαθέσιμο το GPT-4o Mini
Σε μια ανάρτηση στο ιστολόγιο της εταιρείας, ανακοινώθηκε η δημόσια κυκλοφορία του νέου AI μοντέλου. Ένα από τα κύρια χαρακτηριστικά του νέου AI μοντέλου είναι η οικονομικότητά του. Η εταιρεία λέει ότι είναι 60 τοις εκατό πιο φθηνό από το GPT-3.5 Turbo, που ήταν το προηγούμενο πιο φθηνό μικρό μοντέλο της. Σε πραγματικούς αριθμούς, η επεξεργασία ενός εκατομμυρίου εισερχόμενων tokens θα κοστίζει $0.15 (περίπου 12 ευρώ) και ανά εκατομμύριο εξερχόμενων tokens θα κοστίζει $0.60 (περίπου 50 ευρώ).
Χαμηλή καθυστέρηση και αποτελεσματικότητα
Επειδή το GPT-4o Mini είναι μικρό μοντέλο, προσφέρει επίσης χαμηλή καθυστέρηση (χρόνος που χρειάζεται για να εμφανιστεί η απάντηση), κάνοντάς το ένα από τα πιο αποδοτικά AI μοντέλα της εταιρείας. Αυτή τη στιγμή υποστηρίζει κείμενο και εικόνα μέσω του API, και η OpenAI λέει ότι θα υποστηρίζει κείμενο, εικόνα, βίντεο και ήχο ως εισερχόμενα και εξερχόμενα στο μέλλον.
Επιδόσεις και βαθμολογίες
Παρόλο που η εταιρεία δεν κοινοποίησε το μέγεθος των παραμέτρων του νέου SLM, αποκάλυψε ότι το GPT-4o Mini έχει παράθυρο περιεχομένου 128,000 tokens και μπορεί να υποστηρίξει έως 16,000 εξερχόμενα tokens ανά αίτημα (μέσω API). Η γνώση του κόβεται έως τον Οκτώβριο του 2023. Όσον αφορά την απόδοση, η OpenAI ανέφερε ότι το AI μοντέλο πέτυχε 82 τοις εκατό στο benchmark Massive Multitask Language Understanding (MMLU) και ξεπέρασε το πρώτο μοντέλο του GPT-4 στην ανεξάρτητη κατάταξη της Large Model Systems Organization (LMSYS).
Ασφάλεια και αξιολόγηση
Για λόγους ασφάλειας, η εταιρεία χρησιμοποίησε τόσο αυτοματοποιημένες όσο και ανθρώπινες αξιολογήσεις σύμφωνα με το Preparedness Framework της. Η εταιρεία δοκίμασε επίσης το AI μοντέλο με 70 εξωτερικούς ειδικούς από διάφορους κλάδους για να εντοπίσει πιθανούς κινδύνους.
Το GPT-4o Mini έχει διατεθεί ως το προεπιλεγμένο AI μοντέλο για τους δωρεάν χρήστες, Plus και Team του ChatGPT. Το AI μοντέλο θα επεκταθεί στους εταιρικούς χρήστες την επόμενη εβδομάδα. Επιπλέον, είναι διαθέσιμο ως μοντέλο κειμένου και εικόνας στα Assistants API, Chat Completions API και Batch API. Παραλλαγές του μοντέλου με ειδική εκπαίδευση θα κυκλοφορήσουν επίσης στο μέλλον.
Βίντεο
