Запросить ограниченный локальный вывод
Запросить ограниченный локальный вывод — Локальные LLM и проверенный JSON. Схема и инструкция согласованы; Сохранить extract.mjs; Сохранить кандидата. Практическое задание: Доказательства лабораторной работы.
Демо-версия. Материалы проходят редакторскую проверку.
Что рассмотрим
- Схема и инструкция согласованы
- Сохранить extract.mjs
- Сохранить кандидата
Схема и инструкция согласованы
Попросите извлекать только явные факты и ставить null для отсутствующих значений. Передайте одинаковую схему в format и в тексте запроса.
Учебная запись описывает одну мастерскую с названием, датой и необязательным количеством мест. Сначала определите смысл каждого поля, затем поручайте модели заполнение. Отсутствующие сведения должны оставаться отсутствующими: синтаксически правильное число тоже может быть вымышленным. Храните оригинал рядом с кандидатом, чтобы редактор проверил значение по источнику, не полагаясь на объяснение модели или уверенный тон её ответа.
Сохранить extract.mjs
Используйте загруженную локальную модель. Сохраните schema.mjs и запустите этот файл через Node. HTTP-ошибку обработайте до разбора сообщения.
Здесь два независимых JSON-слоя: response.json разбирает оболочку, JSON.parse — строку модели. HTTP-ошибка тоже может содержать JSON, поэтому разбор не означает успеха. Сначала проверяйте response.ok и сохраняйте статус для диагностики конкретного запроса.
Работайте в отдельном каталоге, сохраняйте JavaScript в файлах .mjs и запускайте через Node. Для сравнения не меняйте схему и учебный вход одновременно. HTTP-ответ является оболочкой; сообщение модели — отдельная строка для повторного разбора. Отдельно обрабатывайте ошибки разбора и проверки. Сохраняйте разные категории в отчёте, иначе причину отклонения кандидата будет невозможно воспроизвести после следующего запуска.
import {schema} from './schema.mjs';
import {pathToFileURL} from 'node:url';
export async function extract(source='Clay workshop, 2027-03-12, six seats.'){const response=await fetch('http://127.0.0.1:11434/api/chat',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify({model:'llama3.2:1b',stream:false,format:schema,options:{temperature:0},messages:[{role:'user',content:'Extract explicit facts; missing = null. Schema: '+JSON.stringify(schema)+' Source: '+source}]})});
if(!response.ok) throw Error('HTTP '+response.status);
const envelope=await response.json();
const candidate=JSON.parse(envelope.message.content);
return candidate;}
if(process.argv[1]&&import.meta.url===pathToFileURL(process.argv[1]).href)console.log(await extract());
Сохранить кандидата
Вывод пока является кандидатом. Вместе сохраните источник, сырое сообщение и тег модели. Ограничение структуры не доказывает правильность фактов.
Успешная проверка схемы подтверждает только разрешённую структуру кандидата. Для принятия нужно сверить значения с источником и применить правила проекта. Разделяйте принятые, отклонённые и сомнительные записи. Не исправляйте даты, валюты или имена догадками. Неудачная автоматическая попытка полезна редактору, если сохранены оригинал и ошибка. Статус проверки должен объяснять решение, а не скрывать неопределённость красивым JSON.
Практическое задание
Доказательства лабораторной работы
Перейти к обучению