Η Meta κυκλοφορεί το Muse Glimmer επαναπροσδιορίζοντας την τοπική Τεχνητή Νοημοσύνη

Η Meta Superintelligence Labs παρουσίασαν επίσημα το Muse Glimmer. Σχεδιασμένο ως ένα ανοιχτού κώδικα μοντέλο με 30 δισεκατομμύρια παραμέτρους, το συγκεκριμένο λογισμικό στοχεύει να φέρει την αυτόνομη επεξεργασία απευθείας στις προσωπικές συσκευές, χωρίς να απαιτείται αδιάλειπτη σύνδεση στο cloud. Με την διάθεσή του υπό την άδεια Apache 2.0, το μοντέλο υπογραμμίζει μια αυξανόμενη τάση προς την ιδιωτικότητα των χρηστών, τη σχεδόν μηδενική καθυστέρηση δικτύου και την πραγματική τεχνολογική ανεξαρτησία για τους προγραμματιστές που εργάζονται σε PC και Mac.

Η τοπική εκτέλεση μεγάλων νευρωνικών δικτύων αποτελούσε για καιρό μια σοβαρή πρόκληση για τους καταναλωτικούς υπολογιστές. Στην αρχική του μορφή, ένα σύστημα αυτού του μεγέθους θα απαιτούσε συνήθως πάνω από 55GB αποκλειστικής μνήμης, καθιστώντας το απρόσιτο για τους συνηθισμένους φορητούς και επιτραπέζιους υπολογιστές. Η Meta ξεπέρασε αυτό το εμπόδιο υλικού εφαρμόζοντας εξελιγμένες τεχνικές κβαντοποίησης, συμπιέζοντας τα βάρη του μοντέλου σε ακρίβεια 4-bit. Αυτή η στρατηγική βελτιστοποίηση μειώνει το αποτύπωμα μνήμης κάτω από τα 20GB, κάνοντας εφικτή την εκτέλεση ολόκληρου του συστήματος σε μηχανήματα εξοπλισμένα με 24GB ή 32GB ενοποιημένης μνήμης.

Η ταχύτητα επεξεργασίας παραμένει ένας καθοριστικός παράγοντας για όποιον αλληλεπιδρά με έναν τοπικό ψηφιακό βοηθό AI, όπου η παραδοσιακή παραγωγή κειμένου λέξη προς λέξη δημιουργεί συχνά εκνευριστικές καθυστερήσεις. Για να εξαλείψει αυτό το πρόβλημα, το Muse Glimmer ενσωματώνει ένα ελαφρύτερο συνοδευτικό μοντέλο που βασίζεται στην τεχνολογία DFlash για την επιτάχυνση της εικονικής αποκωδικοποίησης. Αντί να προβλέπει ένα μόνο token τη φορά, το βοηθητικό σύστημα προτείνει ολόκληρα μπλοκ από tokens τα οποία το κύριο μοντέλο επαληθεύει παράλληλα. Επίσημες δοκιμές δείχνουν ότι αυτή η μέθοδος αυξάνει την ταχύτητα παραγωγής κειμένου έως και 3,1 φορές σε υπολογιστικά συστήματα με Apple M4-Max, M5-Max ή κάρτες γραφικών υψηλών επιδόσεων όπως η RTX 5090.

Για τη δημιουργία μιας τόσο αποδοτικής αρχιτεκτονικής, οι ερευνητές της Meta χρησιμοποίησαν τεχνικές απόσταξης γνώσης από το μεγαλύτερο θεμελιώδες μοντέλο της εταιρείας, το Muse Spark. Η εκπαιδευτική διαδικασία εξελίχθηκε σε τρία διακριτά στάδια, ξεκινώντας από τη μεταφορά λογικής και φτάνοντας μέχρι την εκπαίδευση σε τεράστιους όγκους δεδομένων εκτεταμένου πλαισίου. Το τελικό στάδιο περιλάμβανε εποπτευόμενη μικρορύθμιση σε συνδυασμό με ενισχυτική μάθηση για τη βελτίωση των προγραμματιστικών δεξιοτήτων και τη διαχείριση σφαλμάτων. Τα αποτελέσματα των δοκιμών σε benchmarks όπως τα DeepSearch QA, MCP-Atlas και SWE-Bench αναδεικνύουν την ικανότητα του συστήματος να περιηγείται σε σύνθετους κώδικες, να συντάσσει ρουτίνες και να επιλύει απρόσμενα σφάλματα εκτέλεσης αυτόνομα χωρίς να καταρρέει.

Πέρα από την παραγωγή κειμένου και κώδικα, το Muse Glimmer διαθέτει έναν ειδικό κωδικοποιητή αντίληψης που του προσφέρει εγγενείς πολυτροπικές δυνατότητες. Το μοντέλο μπορεί να επεξεργαστεί σύνθετα έγγραφα, διαγράμματα, οθόνες διεπαφής χρήστη και πυκνές εικόνες ταυτόχρονα μέσα στην ίδια ροή συνομιλίας, ενώ υποστηρίζει περισσότερες από 100 γλώσσες παγκοσμίως. Τα βάρη του μοντέλου είναι ήδη διαθέσιμα για λήψη στο Hugging Face, προσφέροντας άμεση συμβατότητα με εργαλεία τοπικής ενορχήστρωσης όπως τα Ollama, LM Studio, Unsloth και MLX