Загрузить и изучить модель
Загрузить и изучить модель — Локальный AI с Ollama. Тег является частью опыта; Загрузить и посмотреть; Диск и рабочая память. Практическое задание: Доказательства лабораторной работы.
Демо-версия. Материалы проходят редакторскую проверку.
Что рассмотрим
- Тег является частью опыта
- Загрузить и посмотреть
- Диск и рабочая память
Тег является частью опыта
В примере используется конкретный тег llama3.2:1b как небольшая модель, без обещания качества. Проверьте доступность и пригодность для компьютера. Если тег недоступен, выберите документированную локальную замену и замените название во всех примерах.
Ведите заметку: операционная система, версия Ollama, точный тег модели, размер загрузки и задача. Тег обозначает доступный артефакт, но не гарантирует качество и не определяет универсальную потребность в памяти. Начинайте с вымышленного несекретного текста. Перед распространением весов или коммерческим использованием прочитайте лицензию модели. Отдельно фиксируйте расходы установки и вычислений, а также условия своего оборудования.
Загрузить и посмотреть
Загрузите модель, посмотрите список установленных и сведения выбранной записи. Прочитайте лицензию и параметры текущего инструмента. Успешная загрузка доказывает получение артефакта; выполнение проверяется отдельным запросом генерации.
Первая генерация загружает веса в рабочую память; список моделей показывает дисковый инвентарь. Если список работает, а генерация нет, сохраните ошибку и изучите активную загрузку. Повторное скачивание обычно не является первым исправлением нехватки памяти.
Выполняйте пример после успешной предыдущей проверки. Команды обращаются к локальному сервису и не означают разрешения открывать порт в сеть. Сохраните ответ и код завершения перед изменением параметров. Меняйте одно условие за раз, чтобы объяснить причину улучшения. Пустой ответ, HTTP-ошибка и медленная генерация требуют разной диагностики. Не стирайте неудачный результат: он нужен для сравнения после исправления.
ollama pull llama3.2:1b
ollama list
ollama show llama3.2:1b
Диск и рабочая память
Выполните короткий запрос и посмотрите загруженные в память модели из другого терминала. Размер файлов и рабочая память различаются. При нехватке памяти остановите модель перед другой попыткой; удаление посторонних файлов не уменьшает активный контекст.
Измеряйте первый запрос отдельно от повторного, когда модель уже загружена в память. Проверяйте ответ по данным вымышленным фактам, а не только по плавности текста. Не добавляйте приватные файлы до проверки адреса и журналирования. Локальное выполнение сокращает один путь передачи данных; загрузки, интеграции, резервные копии и расширения браузера всё равно требуют проверки. Сохраните конкретное доказательство полученного результата.
ollama run llama3.2:1b "Reply with one short greeting."
ollama ps
ollama stop llama3.2:1b
Практическое задание
Доказательства лабораторной работы
Перейти к обучению