Scaricare e ispezionare un modello
Scaricare e ispezionare un modello — AI locale con Ollama. Il tag fa parte dell’esperimento; Scaricare e visualizzare; Disco e memoria di esecuzione. Esercitazione pratica: Prove del laboratorio.
Versione demo. I materiali sono in fase di revisione editoriale.
Argomenti trattati
- Il tag fa parte dell’esperimento
- Scaricare e visualizzare
- Disco e memoria di esecuzione
Il tag fa parte dell’esperimento
L’esempio usa il tag esplicito llama3.2:1b come modello piccolo, senza prometterne la qualità. Verificane disponibilità e compatibilità. Se non è disponibile scegli un’alternativa locale documentata e sostituisci il nome in tutti gli esempi.
Annota sistema operativo, versione di Ollama, tag esatto, dimensione del download e attività. Un tag identifica un artefatto disponibile, senza garantire qualità o un requisito universale di memoria. Parti da testo inventato e innocuo. Leggi la licenza prima di distribuire pesi o usarli commercialmente. Separa il costo di installazione da quello del calcolo e registra l’hardware usato.
Scaricare e visualizzare
Scarica il modello, elenca quelli installati e ispeziona la voce scelta. Leggi licenza e parametri mostrati dallo strumento. Un download riuscito dimostra l’arrivo dell’artefatto; l’esecuzione va verificata con una richiesta di generazione.
La prima generazione carica pesi in memoria; l’elenco modelli legge l’inventario su disco. Se l’elenco funziona ma la generazione fallisce, conserva l’errore e controlla l’allocazione attiva. Riscaricare non è normalmente il primo rimedio alla memoria insufficiente.
Esegui l’esempio dopo il controllo precedente. I comandi contattano il servizio locale e non autorizzano l’apertura di una porta pubblica. Conserva risposta e codice di uscita prima di modificare parametri. Cambia una condizione alla volta per attribuire il risultato a una modifica precisa. Risposta vuota, errore HTTP e generazione lenta richiedono diagnosi diverse; conserva anche il tentativo fallito.
ollama pull llama3.2:1b
ollama list
ollama show llama3.2:1b
Disco e memoria di esecuzione
Esegui un prompt breve e controlla i modelli caricati da un secondo terminale. Dimensione su disco e memoria di esecuzione sono diverse. Se la memoria scarseggia ferma il modello; eliminare file estranei non riduce il contesto attivo.
Misura separatamente la prima richiesta e quella successiva con il modello già in memoria. Verifica la risposta rispetto ai fatti inventati forniti, oltre alla scorrevolezza del testo. Non usare documenti privati prima di verificare endpoint e registri. L’inferenza locale riduce un percorso di trasferimento, ma download, integrazioni, backup ed estensioni del browser richiedono comunque una verifica documentata.
ollama run llama3.2:1b "Reply with one short greeting."
ollama ps
ollama stop llama3.2:1b
Esercitazione pratica
Prove del laboratorio
Vai alla lezione