Курсы
Безопасность AI-агентов и prompt injection

Безопасность AI-агентов и prompt injection

Построй проверяемую границу между материалами, которые агент читает, и действиями, которые ему разрешены. От карты доверия до враждебных fixtures и восстановления после инцидента.

Уроков: 618 тестовых вопросов18 карточек

Программа курса

Бесплатных уроков: 2
1Где заканчиваются данные и начинаются полномочияБесплатный урок2Узкие инструменты и проверка аргументовБесплатный урок3Согласование конкретного действия4Секреты, журналы и исходящие каналы5Враждебные PDF и веб-страницы как тестовые данные6Расследование и восстановление после инцидента

Чему вы научитесь

  • Отделять источник фактов от источника полномочий.
  • Проектировать узкие инструменты с проверкой владельца и срока доступа.
  • Связывать согласие с конкретной версией действия.
  • Проверять утечки, враждебные входы и восстановление без повторных отправок.

Частые вопросы

Как устроено обучение?

Уроков в курсе: 6. Вы изучаете объяснения, выполняете практические задания и проверяете понимание тестами. Темы уроков указаны в программе курса.

Что можно попробовать без оплаты?

Открытых уроков: 2. Они отмечены в программе курса. Читать открытые материалы можно до регистрации; аккаунт нужен для сохранения прогресса между устройствами.

На каких языках можно учиться?

На украинском, русском, английском и итальянском. У зарегистрированного пользователя смена языка сохраняет прогресс курса.

Демонстрационный курс. Материалы ещё требуют редакторской проверки.