Бесплатный урок

Выбрать модель и приватную границу

Выбрать модель и приватную границу — Локальный AI с Ollama. Локальная модель и облако; Проверка перед установкой; Проверить адрес прослушивания. Практическое задание: Доказательства лабораторной работы.

Демо-версия. Материалы проходят редакторскую проверку.

Что рассмотрим

  • Локальная модель и облако
  • Проверка перед установкой
  • Проверить адрес прослушивания

Локальная модель и облако

Для резюме вымышленной мастерской выберите локальную текстовую модель. До загрузки проверьте карточку, лицензию, размер и нужные возможности. Не используйте облачные теги: сам адрес localhost не доказывает локальность выбранного бэкенда.

Ведите заметку: операционная система, версия Ollama, точный тег модели, размер загрузки и задача. Тег обозначает доступный артефакт, но не гарантирует качество и не определяет универсальную потребность в памяти. Начинайте с вымышленного несекретного текста. Перед распространением весов или коммерческим использованием прочитайте лицензию модели. Отдельно фиксируйте расходы установки и вычислений, а также условия своего оборудования.

Проверка перед установкой

Для macOS возьмите официальное приложение, для Windows — официальный установщик, для Linux сначала прочитайте инструкцию установки. Заранее запишите доступные память и диск. Здесь используется POSIX-синтаксис; в Windows можно работать через WSL.

Адрес прослушивания и выбранная модель — два отдельных решения. Loopback-сервис может обращаться к облачной модели, а локальную модель можно случайно открыть публично. Поэтому запишите оба условия и конкретный способ проверки каждого, не подменяя одно другим.

Выполняйте пример после успешной предыдущей проверки. Команды обращаются к локальному сервису и не означают разрешения открывать порт в сеть. Сохраните ответ и код завершения перед изменением параметров. Меняйте одно условие за раз, чтобы объяснить причину улучшения. Пустой ответ, HTTP-ошибка и медленная генерация требуют разной диагностики. Не стирайте неудачный результат: он нужен для сравнения после исправления.

uname -a
df -h
# After official installation:
ollama --version

Проверить адрес прослушивания

Оставьте сервис на loopback. Команду для отдельного Linux-сеанса выполняйте, только если другого сервера Ollama нет. Ошибка занятого адреса означает необходимость проверить существующий процесс, а не открыть другой сетевой интерфейс.

Измеряйте первый запрос отдельно от повторного, когда модель уже загружена в память. Проверяйте ответ по данным вымышленным фактам, а не только по плавности текста. Не добавляйте приватные файлы до проверки адреса и журналирования. Локальное выполнение сокращает один путь передачи данных; загрузки, интеграции, резервные копии и расширения браузера всё равно требуют проверки. Сохраните конкретное доказательство полученного результата.

OLLAMA_HOST=127.0.0.1:11434 ollama serve

Практическое задание

Доказательства лабораторной работы

Перейти к обучению

Программа курса

  1. Выбрать модель и приватную границу
  2. Загрузить и изучить модель
  3. Первый API-запрос и его ответ
  4. Управлять контекстом и лимитами
  5. Сравнить модели на малом наборе
  6. Восстановить и описать запуск