Бесплатный урок

Запросить ограниченный локальный вывод

Запросить ограниченный локальный вывод — Локальные LLM и проверенный JSON. Схема и инструкция согласованы; Сохранить extract.mjs; Сохранить кандидата. Практическое задание: Доказательства лабораторной работы.

Демо-версия. Материалы проходят редакторскую проверку.

Что рассмотрим

  • Схема и инструкция согласованы
  • Сохранить extract.mjs
  • Сохранить кандидата

Схема и инструкция согласованы

Попросите извлекать только явные факты и ставить null для отсутствующих значений. Передайте одинаковую схему в format и в тексте запроса.

Учебная запись описывает одну мастерскую с названием, датой и необязательным количеством мест. Сначала определите смысл каждого поля, затем поручайте модели заполнение. Отсутствующие сведения должны оставаться отсутствующими: синтаксически правильное число тоже может быть вымышленным. Храните оригинал рядом с кандидатом, чтобы редактор проверил значение по источнику, не полагаясь на объяснение модели или уверенный тон её ответа.

Сохранить extract.mjs

Используйте загруженную локальную модель. Сохраните schema.mjs и запустите этот файл через Node. HTTP-ошибку обработайте до разбора сообщения.

Здесь два независимых JSON-слоя: response.json разбирает оболочку, JSON.parse — строку модели. HTTP-ошибка тоже может содержать JSON, поэтому разбор не означает успеха. Сначала проверяйте response.ok и сохраняйте статус для диагностики конкретного запроса.

Работайте в отдельном каталоге, сохраняйте JavaScript в файлах .mjs и запускайте через Node. Для сравнения не меняйте схему и учебный вход одновременно. HTTP-ответ является оболочкой; сообщение модели — отдельная строка для повторного разбора. Отдельно обрабатывайте ошибки разбора и проверки. Сохраняйте разные категории в отчёте, иначе причину отклонения кандидата будет невозможно воспроизвести после следующего запуска.

import {schema} from './schema.mjs';
import {pathToFileURL} from 'node:url';
export async function extract(source='Clay workshop, 2027-03-12, six seats.'){const response=await fetch('http://127.0.0.1:11434/api/chat',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify({model:'llama3.2:1b',stream:false,format:schema,options:{temperature:0},messages:[{role:'user',content:'Extract explicit facts; missing = null. Schema: '+JSON.stringify(schema)+' Source: '+source}]})});
if(!response.ok) throw Error('HTTP '+response.status);
const envelope=await response.json();
const candidate=JSON.parse(envelope.message.content);
return candidate;}
if(process.argv[1]&&import.meta.url===pathToFileURL(process.argv[1]).href)console.log(await extract());

Сохранить кандидата

Вывод пока является кандидатом. Вместе сохраните источник, сырое сообщение и тег модели. Ограничение структуры не доказывает правильность фактов.

Успешная проверка схемы подтверждает только разрешённую структуру кандидата. Для принятия нужно сверить значения с источником и применить правила проекта. Разделяйте принятые, отклонённые и сомнительные записи. Не исправляйте даты, валюты или имена догадками. Неудачная автоматическая попытка полезна редактору, если сохранены оригинал и ошибка. Статус проверки должен объяснять решение, а не скрывать неопределённость красивым JSON.

Практическое задание

Доказательства лабораторной работы

Перейти к обучению

Программа курса

  1. Определить контракт извлечения
  2. Запросить ограниченный локальный вывод
  3. Проверить настоящим валидатором
  4. Проверить смысл после структуры
  5. Ограничить повторы и сохранить сбои
  6. Передать воспроизводимое извлечение