Lezione gratuita

Richiedere output locale vincolato

Richiedere output locale vincolato — LLM locali e JSON validato. Schema e istruzioni coerenti; Salvare extract.mjs; Conservare il candidato. Esercitazione pratica: Prove del laboratorio.

Versione demo. I materiali sono in fase di revisione editoriale.

Argomenti trattati

  • Schema e istruzioni coerenti
  • Salvare extract.mjs
  • Conservare il candidato

Schema e istruzioni coerenti

Chiedi solo fatti espliciti e null per valori assenti. Passa lo stesso schema a format e al prompt.

Il record didattico descrive un laboratorio con titolo, data e capienza facoltativa. Definisci il significato dei campi prima dell’estrazione. Un’informazione assente deve restare assente: anche un numero formalmente valido può essere inventato. Conserva la fonte originale accanto al candidato affinché una persona possa verificare i valori senza fidarsi della spiegazione del modello o del tono sicuro della risposta.

Salvare extract.mjs

Usa un modello locale scaricato. Salva schema.mjs ed esegui questo file con Node. Gestisci gli errori HTTP prima del messaggio.

Esistono due livelli JSON: response.json analizza l’involucro e JSON.parse la stringa del modello. Anche un errore HTTP può contenere JSON. Controlla quindi response.ok prima del parsing e conserva lo stato per diagnosticare la richiesta.

Lavora in una cartella separata e salva JavaScript in file .mjs da eseguire con Node. Mantieni schema e input identici nei confronti. La risposta HTTP è un involucro; il messaggio del modello è una seconda stringa da analizzare. Gestisci separatamente errori di parsing e validazione. Conserva le categorie nel rapporto per ricostruire la causa di uno scarto anche dopo esecuzioni successive.

import {schema} from './schema.mjs';
import {pathToFileURL} from 'node:url';
export async function extract(source='Clay workshop, 2027-03-12, six seats.'){const response=await fetch('http://127.0.0.1:11434/api/chat',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify({model:'llama3.2:1b',stream:false,format:schema,options:{temperature:0},messages:[{role:'user',content:'Extract explicit facts; missing = null. Schema: '+JSON.stringify(schema)+' Source: '+source}]})});
if(!response.ok) throw Error('HTTP '+response.status);
const envelope=await response.json();
const candidate=JSON.parse(envelope.message.content);
return candidate;}
if(process.argv[1]&&import.meta.url===pathToFileURL(process.argv[1]).href)console.log(await extract());

Conservare il candidato

L’output resta un candidato. Conserva fonte, messaggio grezzo e tag insieme. Il vincolo strutturale non dimostra correttezza fattuale.

Superare lo schema conferma soltanto la struttura consentita. L’accettazione richiede anche confronto con la fonte e regole applicative. Separa record accettati, scartati e da rivedere. Non correggere date, valute o nomi indovinando. Un tentativo automatico fallito è utile alla revisione se conserva fonte ed errore. Lo stato deve spiegare la decisione anziché nascondere l’incertezza dietro un JSON ordinato.

Esercitazione pratica

Prove del laboratorio

Vai alla lezione

Programma del corso

  1. Definire il contratto
  2. Richiedere output locale vincolato
  3. Usare un validatore di schema
  4. Verificare il significato
  5. Limitare tentativi e conservare errori
  6. Consegnare il progetto riproducibile