Узкие инструменты и проверка аргументов
Узкие инструменты и проверка аргументов — Безопасность AI-агентов и prompt injection. Право на объект; Структурированные аргументы вместо командной строки; Разрешение с коротким сроком. Практическое задание: Узкие инструменты и проверка аргументов.
Демо-версия. Материалы проходят редакторскую проверку.
Что рассмотрим
- Право на объект
- Структурированные аргументы вместо командной строки
- Разрешение с коротким сроком
Право на объект
Разрешение читать документы не означает разрешение читать любой документ. В учебном хранилище пользователь A владеет contract-A, а пользователь B — payroll-B. Агент A может угадать второй ID из текста веб-страницы. Сервер должен проверять владельца при каждом read_document, а не полагаться на список в меню. Передавай идентичность пользователя из проверенной сессии, а не из аргумента модели. Затем ищи документ в разрешённом наборе и возвращай только нужные поля. Отказ не должен раскрывать содержимое чужого файла. Проверь положительный и отрицательный случаи одной парой запросов: contract-A доступен, payroll-B недоступен. Если проверить только правильный ID, ошибка изоляции останется незамеченной. Этот контроль работает и тогда, когда модель не распознала атаку.
Структурированные аргументы вместо командной строки
Инструмент run_command умеет гораздо больше, чем требуется для чтения PDF. Замени его операцией extract_text с fileId, максимальным числом страниц и ограничением времени. Диспетчер проверяет схему: неизвестные поля отклоняются, fileId должен быть разрешён, лимит — в установленном диапазоне. Не собирай строку shell из имени, полученного из документа. Для учебного вызова fileId=contract-A и maxPages=5 результатом будет текст максимум пяти страниц либо явное сообщение об обрезке. Если файл содержит 40 страниц, молча выдать первые пять за весь договор — фактическая ошибка. Сообщи модели границы извлечения и предложи пользователю продолжить чтение в разрешённых пределах. Узкий интерфейс одновременно уменьшает полномочия и делает ошибки предсказуемыми.
Разрешение с коротким сроком
Даже узкому инструменту нужны границы по времени и области. Для одного резюме предоставь чтение contract-A до завершения задачи, без записи и доступа к другим папкам. Завершение или отмена задачи закрывает доступ. Раздели учётные данные читателя и отправителя: утечка первых не должна автоматически разрешать отправку. В учебном протоколе запиши scope=document:contract-A:read и состояние task=active. Два повторных вызова после task=closed должны отклоняться, даже если старое сообщение модели содержит верный ID. Не считай истечение срока поводом выдать более широкий постоянный токен. Восстанови только нужное разрешение после новой авторизованной задачи. Такой тест обнаруживает остаточные полномочия, незаметные в обычной успешной сессии.
Практическое задание
Узкие инструменты и проверка аргументов
Перейти к обучению