Безкоштовний урок

Запросити обмежений локальний вивід

Запросити обмежений локальний вивід — Локальні LLM і перевірений JSON. Схема та інструкція узгоджені; Зберегти extract.mjs; Зберегти кандидата. Практичне завдання: Докази лабораторної роботи.

Демо-версія. Матеріали проходять редакторську перевірку.

Що розглянемо

  • Схема та інструкція узгоджені
  • Зберегти extract.mjs
  • Зберегти кандидата

Схема та інструкція узгоджені

Попросіть витягати лише явні факти й ставити null для відсутніх значень. Передайте однакову схему у format і в тексті запиту.

Навчальний запис описує одну майстерню з назвою, датою та необов’язковою кількістю місць. Спершу визначте зміст кожного поля, потім доручайте моделі його заповнення. Відсутні відомості мають залишатися відсутніми: синтаксично правильне число теж може бути вигаданим. Зберігайте оригінал поруч із кандидатом, щоб редактор перевірив значення за джерелом, не покладаючись на пояснення моделі або впевнений тон її відповіді.

Зберегти extract.mjs

Використайте завантажену локальну модель. Збережіть schema.mjs і запустіть цей файл через Node. HTTP-помилку обробіть перед розбором повідомлення.

Тут два незалежні JSON-шари: response.json розбирає оболонку, JSON.parse — рядок моделі. HTTP-помилка теж може містити JSON, тому розбір не означає успіху. Спочатку перевіряйте response.ok і зберігайте статус для діагностики конкретного запиту.

Працюйте в окремому каталозі, зберігайте JavaScript у файлах .mjs і запускайте через Node. Для порівняння не змінюйте схему та навчальний вхід одночасно. HTTP-відповідь є оболонкою; повідомлення моделі — окремий рядок, який треба розібрати повторно. Окремо обробляйте помилки розбору та перевірки. Зберігайте їхні різні категорії у звіті, інакше причину відхилення кандидата буде неможливо відтворити після наступного запуску.

import {schema} from './schema.mjs';
import {pathToFileURL} from 'node:url';
export async function extract(source='Clay workshop, 2027-03-12, six seats.'){const response=await fetch('http://127.0.0.1:11434/api/chat',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify({model:'llama3.2:1b',stream:false,format:schema,options:{temperature:0},messages:[{role:'user',content:'Extract explicit facts; missing = null. Schema: '+JSON.stringify(schema)+' Source: '+source}]})});
if(!response.ok) throw Error('HTTP '+response.status);
const envelope=await response.json();
const candidate=JSON.parse(envelope.message.content);
return candidate;}
if(process.argv[1]&&import.meta.url===pathToFileURL(process.argv[1]).href)console.log(await extract());

Зберегти кандидата

Вивід поки є кандидатом. Разом збережіть джерело, сире повідомлення й тег моделі. Обмеження структури не доводить правильності фактів.

Успішна перевірка схеми підтверджує лише дозволену структуру кандидата. Для прийняття потрібно звірити значення з джерелом і застосувати правила проєкту. Розділяйте прийняті, відхилені та сумнівні записи. Не виправляйте дати, валюти чи імена здогадками. Невдала автоматична спроба може бути корисним матеріалом для редактора, якщо збережено оригінал і помилку. Статус перевірки має пояснювати рішення, а не приховувати невизначеність красивим JSON.

Практичне завдання

Докази лабораторної роботи

Перейти до навчання

Програма курсу

  1. Визначити контракт витягу
  2. Запросити обмежений локальний вивід
  3. Перевірити справжнім валідатором
  4. Перевірити зміст після структури
  5. Обмежити повтори й зберегти збої
  6. Передати відтворюваний витяг