Lezione gratuita

Scaricare e ispezionare un modello

Scaricare e ispezionare un modello — AI locale con Ollama. Il tag fa parte dell’esperimento; Scaricare e visualizzare; Disco e memoria di esecuzione. Esercitazione pratica: Prove del laboratorio.

Versione demo. I materiali sono in fase di revisione editoriale.

Argomenti trattati

  • Il tag fa parte dell’esperimento
  • Scaricare e visualizzare
  • Disco e memoria di esecuzione

Il tag fa parte dell’esperimento

L’esempio usa il tag esplicito llama3.2:1b come modello piccolo, senza prometterne la qualità. Verificane disponibilità e compatibilità. Se non è disponibile scegli un’alternativa locale documentata e sostituisci il nome in tutti gli esempi.

Annota sistema operativo, versione di Ollama, tag esatto, dimensione del download e attività. Un tag identifica un artefatto disponibile, senza garantire qualità o un requisito universale di memoria. Parti da testo inventato e innocuo. Leggi la licenza prima di distribuire pesi o usarli commercialmente. Separa il costo di installazione da quello del calcolo e registra l’hardware usato.

Scaricare e visualizzare

Scarica il modello, elenca quelli installati e ispeziona la voce scelta. Leggi licenza e parametri mostrati dallo strumento. Un download riuscito dimostra l’arrivo dell’artefatto; l’esecuzione va verificata con una richiesta di generazione.

La prima generazione carica pesi in memoria; l’elenco modelli legge l’inventario su disco. Se l’elenco funziona ma la generazione fallisce, conserva l’errore e controlla l’allocazione attiva. Riscaricare non è normalmente il primo rimedio alla memoria insufficiente.

Esegui l’esempio dopo il controllo precedente. I comandi contattano il servizio locale e non autorizzano l’apertura di una porta pubblica. Conserva risposta e codice di uscita prima di modificare parametri. Cambia una condizione alla volta per attribuire il risultato a una modifica precisa. Risposta vuota, errore HTTP e generazione lenta richiedono diagnosi diverse; conserva anche il tentativo fallito.

ollama pull llama3.2:1b
ollama list
ollama show llama3.2:1b

Disco e memoria di esecuzione

Esegui un prompt breve e controlla i modelli caricati da un secondo terminale. Dimensione su disco e memoria di esecuzione sono diverse. Se la memoria scarseggia ferma il modello; eliminare file estranei non riduce il contesto attivo.

Misura separatamente la prima richiesta e quella successiva con il modello già in memoria. Verifica la risposta rispetto ai fatti inventati forniti, oltre alla scorrevolezza del testo. Non usare documenti privati prima di verificare endpoint e registri. L’inferenza locale riduce un percorso di trasferimento, ma download, integrazioni, backup ed estensioni del browser richiedono comunque una verifica documentata.

ollama run llama3.2:1b "Reply with one short greeting."
ollama ps
ollama stop llama3.2:1b

Esercitazione pratica

Prove del laboratorio

Vai alla lezione

Programma del corso

  1. Scegliere modello e confine privato
  2. Scaricare e ispezionare un modello
  3. Prima chiamata API e risposta
  4. Controllare contesto e limiti
  5. Confrontare modelli con piccoli test
  6. Recuperare e documentare l’avvio