Η Opera εισάγει τοπική πρόσβαση στα LLMs στον Opera One browser

Η Opera ανακοίνωσε επίσημα ότι θα εισαγάγει πειραματική υποστήριξη για 150 τοπικές παραλλαγές μεγάλων γλωσσικών μοντέλων LLM (Large Language Model) από περίπου 50 οικογένειες μοντέλων στο πρόγραμμα περιήγησης Opera One. Αυτή η κίνηση αποτελεί την πρώτη φορά που τα τοπικά LLM μπορούν να είναι εύκολα προσβάσιμα και να συντηρούνται από ένα μεγάλο πρόγραμμα περιήγησης χρησιμοποιώντας μια ενσωματωμένη λειτουργία. Τα τοπικά μοντέλα Τεχνητής Νοημοσύνης συμπληρώνουν την online AI υπηρεσία Aria της Opera.

Μεταξύ των υποστηριζόμενων τοπικών LLMs είναι:

• Llama από τη Meta
• Vicuna
• Gemma από την Google
• Mixtral από την Mistral AI
• Και πολλές άλλες οικογένειες

Η χρήση τοπικών μεγάλων γλωσσικών μοντέλων συνεπάγεται ότι τα δεδομένα των χρηστών αποθηκεύονται τοπικά στη συσκευή τους, επιτρέποντάς τους να χρησιμοποιούν τη δημιουργική τεχνητή νοημοσύνη χωρίς να χρειάζεται να τα μεταφέρουν σε έναν server. Το πρόγραμμα AI Feature Drops Program του Opera One επιτρέπει στους πρώτους χρήστες να δοκιμάσουν πειραματικές εκδόσεις των χαρακτηριστικών AI του προγράμματος περιήγησης, συμπεριλαμβανομένων των νέων τοπικών LLMs στη ροή προγραμματιστών.

Από σήμερα, οι χρήστες του Opera One Developer μπορούν να επιλέξουν με ποιο μοντέλο θα επεξεργάζονται την είσοδό τους. Για να δοκιμάσετε τα μοντέλα, αναβαθμίστε στην τελευταία έκδοση του Opera Developer και ενεργοποιήστε τη νέα λειτουργία. Αφού επιλέξουν ένα τοπικό LLM, αυτό θα μεταφορτωθεί στο σύστημά τους. Το τοπικό LLM, το οποίο συνήθως καταλαμβάνει 2-10 GB τοπικού αποθηκευτικού χώρου ανά παραλλαγή, θα αντικαταστήσει στη συνέχεια το Aria, το προεπιλεγμένο AI του προγράμματος περιήγησης της Opera, μέχρι ο χρήστης να ξεκινήσει έναν νέο διάλογο με το AI ή να ενεργοποιήσει ξανά το Aria.

Στις αρχές του 2023, η Opera παρουσίασε το Opera One, την AI-κεντρική ναυαρχίδα του προγράμματος περιήγησης που βασίζεται στις αρχές του Modular Design και σε μια νέα αρχιτεκτονική προγράμματος περιήγησης με πολυνηματικό compositor που επιτρέπει την ομαλότερη από ποτέ επεξεργασία στοιχείων UX. Το Opera One περιλαμβάνει το AI του προγράμματος περιήγησης Aria, το οποίο μπορεί να προσπελαστεί είτε από την πλευρική γραμμή του προγράμματος περιήγησης είτε από τη γραμμή εντολών του προγράμματος περιήγησης. Το Aria είναι επίσης προσβάσιμο στο Opera GX που εστιάζει στους παίκτες, καθώς και στο πρόγραμμα περιήγησης Opera για iOS και Android.