Scegliere modello e confine privato
Scegliere modello e confine privato — AI locale con Ollama. Locale e cloud; Inventario prima di installare; Verificare l’ascolto. Esercitazione pratica: Prove del laboratorio.
Versione demo. I materiali sono in fase di revisione editoriale.
Argomenti trattati
- Locale e cloud
- Inventario prima di installare
- Verificare l’ascolto
Locale e cloud
Per riassumere un laboratorio inventato scegli un modello testuale locale. Controlla scheda, licenza, dimensione e capacità prima del download. Evita i tag cloud: un indirizzo localhost non dimostra da solo che ogni backend selezionato sia locale.
Annota sistema operativo, versione di Ollama, tag esatto, dimensione del download e attività. Un tag identifica un artefatto disponibile, senza garantire qualità o un requisito universale di memoria. Parti da testo inventato e innocuo. Leggi la licenza prima di distribuire pesi o usarli commercialmente. Separa il costo di installazione da quello del calcolo e registra l’hardware usato.
Inventario prima di installare
Su macOS usa l’app ufficiale, su Windows l’installer ufficiale; su Linux leggi prima le istruzioni ufficiali. Registra memoria e disco disponibili. Gli esempi shell usano sintassi POSIX; su Windows puoi usare WSL.
Indirizzo di ascolto e modello sono decisioni distinte. Un servizio loopback può inoltrare al cloud, mentre un modello locale può essere esposto pubblicamente. Registra quindi entrambe le condizioni e come le hai controllate, senza considerare una come prova dell’altra.
Esegui l’esempio dopo il controllo precedente. I comandi contattano il servizio locale e non autorizzano l’apertura di una porta pubblica. Conserva risposta e codice di uscita prima di modificare parametri. Cambia una condizione alla volta per attribuire il risultato a una modifica precisa. Risposta vuota, errore HTTP e generazione lenta richiedono diagnosi diverse; conserva anche il tentativo fallito.
uname -a
df -h
# After official installation:
ollama --version
Verificare l’ascolto
Mantieni il servizio su loopback. In una sessione Linux manuale usa il comando solo senza altri server Ollama attivi. Un indirizzo occupato richiede l’ispezione del processo esistente, non l’apertura di un’altra interfaccia.
Misura separatamente la prima richiesta e quella successiva con il modello già in memoria. Verifica la risposta rispetto ai fatti inventati forniti, oltre alla scorrevolezza del testo. Non usare documenti privati prima di verificare endpoint e registri. L’inferenza locale riduce un percorso di trasferimento, ma download, integrazioni, backup ed estensioni del browser richiedono comunque una verifica documentata.
OLLAMA_HOST=127.0.0.1:11434 ollama serve
Esercitazione pratica
Prove del laboratorio
Vai alla lezione