Come utilizzare i modelli di intelligenza artificiale locale su Opera One Developer

Mentre molti browser stanno integrando funzionalità di intelligenza artificiale nei propri browser, Opera è appena diventato il primo browser a integrare modelli di intelligenza artificiale locali. Opera sta aggiungendo il supporto sperimentale per oltre 150 varianti Local Large Language Model (LLM) da circa 50 diverse famiglie di modelli al proprio browser Opera One.

Poiché i modelli linguistici saranno locali, gli utenti non dovranno preoccuparsi che i loro dati vengano inviati al server LLM. È un modo privato e sicuro di utilizzare l’intelligenza artificiale.

Per utilizzare i modelli LLM locali, avrai bisogno di 2-10 GB di spazio sul tuo computer, a seconda della variante che utilizzerai. Alcuni dei LLM supportati includono Llama di Meta, Phi-2 di Microsoft, Gemma di Google, Vicuna, Mixtral di Mistral AI, ecc. Puoi utilizzare questi modelli linguistici invece di Aria AI di Opera e tornare ad Aria AI ogni volta che lo desideri. Volere.

La funzionalità è attualmente disponibile solo nel flusso degli sviluppatori di Opera One. Ecco come attivare e utilizzare i modelli IA locali in Opera One Developer.

Scarica Opera One sviluppatore

Se disponi già di Opera One Developer, salta questa sezione e passa direttamente all’utilizzo dei modelli LLM locali.

Vai a questo collegamento per scaricare Opera One Developer. Scorri verso il basso e fai clic su “Scarica ora” nel riquadro Sviluppatore di Opera One.

Apri il file una volta scaricato ed esegui il programma di installazione.
Fare clic su “Accetta e installa” e seguire le istruzioni visualizzate sullo schermo per installare il browser.

Imposta il modello AI locale

Una volta scaricato il browser, fai clic sull’icona “Aria AI” nella barra laterale sinistra.

Fare clic su “Continua” per procedere.

Se utilizzi Aria per la prima volta, dovrai creare un account Opera gratuito per utilizzarlo. Puoi utilizzare la tua email o il tuo account Apple, Facebook o Google per creare un account Opera.

Una volta creato il tuo account, potrai chattare con Aria.
Ora, nel pannello Aria, vedrai l’opzione “Scegli modello AI locale”. Cliccaci sopra.

Seleziona “Vai a Impostazioni” dal menu a discesa.

Assicurati che l’interruttore “Abilita AI locale nelle chat” sia abilitato.

Successivamente, scegli il modello che desideri scaricare per uso locale, facendo clic o cercandolo. Come accennato in precedenza, Opera ha implementato il supporto per circa 50 famiglie di modelli con diverse varianti, portando il totale a 150.

Quindi, per alcuni modelli, quando fai clic su alcuni modelli, come Gemma di Google, otterrai 4 varianti diverse. Scarica il modello che desideri utilizzare. Per questa guida, stiamo scaricando il modello 2B Text di Gemma. Fare clic sul pulsante “Scarica” a destra. Puoi vedere lo spazio richiesto dal modello sul tuo PC prima di scaricarlo.

Il download potrebbe richiedere del tempo, a seconda delle dimensioni del modello e della connessione Internet. Accanto puoi vedere lo stato di avanzamento del download.

Utilizzo del modello di intelligenza artificiale locale

Una volta scaricato il modello, fai clic sull’icona “Menu” nell’angolo in alto a sinistra del pannello.

Seleziona “Nuova chat” dal menu visualizzato.

Ancora una volta, fai clic sull’opzione “Scegli modello AI locale” in alto e seleziona il modello che hai appena scaricato, Gemma nel nostro caso, dal menu a discesa.

Ora passerai al modello AI locale di tua scelta. Digita il tuo messaggio nella barra dei messaggi e invialo all’IA per iniziare le interazioni locali.

Le tue chat con il modello IA locale saranno disponibili nella cronologia chat, proprio come lo sono le tue chat con Aria. Puoi anche rinominare le chat per una migliore organizzazione.
Allo stesso modo, puoi scaricare e utilizzare più modelli IA locali, ma ricorda che ciascuno richiede tra 2 e 10 GB di spazio sul tuo computer.
Per eliminare il modello dal tuo PC, accedi alle stesse impostazioni da cui abbiamo scaricato il modello in precedenza, ovvero Aria> Settings> Local AI Models> [Downloaded Model]. Quindi, fai clic sul pulsante “Elimina”.

Torna ad Aria

Per tornare ad Aria, avvia semplicemente una nuova chat con l’IA. Fai clic sull’icona “+” nell’angolo in alto a destra.

La nuova chat inizierà con Aria stessa.

È molto entusiasmante poter utilizzare i modelli di intelligenza artificiale locale sul browser Opera One, e non solo dal punto di vista della sicurezza e della privacy. Anche se nelle fasi iniziali è tutto molto semplice, i potenziali casi futuri sono piuttosto entusiasmanti. Un browser con un’intelligenza artificiale locale potrebbe significare che potrebbe utilizzare il tuo input storico con tutti i tuoi dati; quanto sarebbe emozionante! E il team di Opera sta esplorando questa possibilità.

Ma anche senza possibilità future, le IA locali rappresentano un’ottima mossa per gli utenti che si preoccupano che i propri dati e le chat con l’IA vengano archiviati sui suoi server. Ci sono alcuni ottimi LLM che potresti esplorare, come Llama per la codifica, Phi-2 per eccezionali capacità di ragionamento e Mixtral per attività come la generazione di testo, la risposta a domande, ecc.