Выбрать модель и приватную границу
Выбрать модель и приватную границу — Локальный AI с Ollama. Локальная модель и облако; Проверка перед установкой; Проверить адрес прослушивания. Практическое задание: Доказательства лабораторной работы.
Демо-версия. Материалы проходят редакторскую проверку.
Что рассмотрим
- Локальная модель и облако
- Проверка перед установкой
- Проверить адрес прослушивания
Локальная модель и облако
Для резюме вымышленной мастерской выберите локальную текстовую модель. До загрузки проверьте карточку, лицензию, размер и нужные возможности. Не используйте облачные теги: сам адрес localhost не доказывает локальность выбранного бэкенда.
Ведите заметку: операционная система, версия Ollama, точный тег модели, размер загрузки и задача. Тег обозначает доступный артефакт, но не гарантирует качество и не определяет универсальную потребность в памяти. Начинайте с вымышленного несекретного текста. Перед распространением весов или коммерческим использованием прочитайте лицензию модели. Отдельно фиксируйте расходы установки и вычислений, а также условия своего оборудования.
Проверка перед установкой
Для macOS возьмите официальное приложение, для Windows — официальный установщик, для Linux сначала прочитайте инструкцию установки. Заранее запишите доступные память и диск. Здесь используется POSIX-синтаксис; в Windows можно работать через WSL.
Адрес прослушивания и выбранная модель — два отдельных решения. Loopback-сервис может обращаться к облачной модели, а локальную модель можно случайно открыть публично. Поэтому запишите оба условия и конкретный способ проверки каждого, не подменяя одно другим.
Выполняйте пример после успешной предыдущей проверки. Команды обращаются к локальному сервису и не означают разрешения открывать порт в сеть. Сохраните ответ и код завершения перед изменением параметров. Меняйте одно условие за раз, чтобы объяснить причину улучшения. Пустой ответ, HTTP-ошибка и медленная генерация требуют разной диагностики. Не стирайте неудачный результат: он нужен для сравнения после исправления.
uname -a
df -h
# After official installation:
ollama --version
Проверить адрес прослушивания
Оставьте сервис на loopback. Команду для отдельного Linux-сеанса выполняйте, только если другого сервера Ollama нет. Ошибка занятого адреса означает необходимость проверить существующий процесс, а не открыть другой сетевой интерфейс.
Измеряйте первый запрос отдельно от повторного, когда модель уже загружена в память. Проверяйте ответ по данным вымышленным фактам, а не только по плавности текста. Не добавляйте приватные файлы до проверки адреса и журналирования. Локальное выполнение сокращает один путь передачи данных; загрузки, интеграции, резервные копии и расширения браузера всё равно требуют проверки. Сохраните конкретное доказательство полученного результата.
OLLAMA_HOST=127.0.0.1:11434 ollama serve
Практическое задание
Доказательства лабораторной работы
Перейти к обучению