Бесплатный урок

Загрузить и изучить модель

Загрузить и изучить модель — Локальный AI с Ollama. Тег является частью опыта; Загрузить и посмотреть; Диск и рабочая память. Практическое задание: Доказательства лабораторной работы.

Демо-версия. Материалы проходят редакторскую проверку.

Что рассмотрим

  • Тег является частью опыта
  • Загрузить и посмотреть
  • Диск и рабочая память

Тег является частью опыта

В примере используется конкретный тег llama3.2:1b как небольшая модель, без обещания качества. Проверьте доступность и пригодность для компьютера. Если тег недоступен, выберите документированную локальную замену и замените название во всех примерах.

Ведите заметку: операционная система, версия Ollama, точный тег модели, размер загрузки и задача. Тег обозначает доступный артефакт, но не гарантирует качество и не определяет универсальную потребность в памяти. Начинайте с вымышленного несекретного текста. Перед распространением весов или коммерческим использованием прочитайте лицензию модели. Отдельно фиксируйте расходы установки и вычислений, а также условия своего оборудования.

Загрузить и посмотреть

Загрузите модель, посмотрите список установленных и сведения выбранной записи. Прочитайте лицензию и параметры текущего инструмента. Успешная загрузка доказывает получение артефакта; выполнение проверяется отдельным запросом генерации.

Первая генерация загружает веса в рабочую память; список моделей показывает дисковый инвентарь. Если список работает, а генерация нет, сохраните ошибку и изучите активную загрузку. Повторное скачивание обычно не является первым исправлением нехватки памяти.

Выполняйте пример после успешной предыдущей проверки. Команды обращаются к локальному сервису и не означают разрешения открывать порт в сеть. Сохраните ответ и код завершения перед изменением параметров. Меняйте одно условие за раз, чтобы объяснить причину улучшения. Пустой ответ, HTTP-ошибка и медленная генерация требуют разной диагностики. Не стирайте неудачный результат: он нужен для сравнения после исправления.

ollama pull llama3.2:1b
ollama list
ollama show llama3.2:1b

Диск и рабочая память

Выполните короткий запрос и посмотрите загруженные в память модели из другого терминала. Размер файлов и рабочая память различаются. При нехватке памяти остановите модель перед другой попыткой; удаление посторонних файлов не уменьшает активный контекст.

Измеряйте первый запрос отдельно от повторного, когда модель уже загружена в память. Проверяйте ответ по данным вымышленным фактам, а не только по плавности текста. Не добавляйте приватные файлы до проверки адреса и журналирования. Локальное выполнение сокращает один путь передачи данных; загрузки, интеграции, резервные копии и расширения браузера всё равно требуют проверки. Сохраните конкретное доказательство полученного результата.

ollama run llama3.2:1b "Reply with one short greeting."
ollama ps
ollama stop llama3.2:1b

Практическое задание

Доказательства лабораторной работы

Перейти к обучению

Программа курса

  1. Выбрать модель и приватную границу
  2. Загрузить и изучить модель
  3. Первый API-запрос и его ответ
  4. Управлять контекстом и лимитами
  5. Сравнить модели на малом наборе
  6. Восстановить и описать запуск