Безкоштовний урок

Завантажити й оглянути модель

Завантажити й оглянути модель — Локальний AI з Ollama. Тег є частиною досліду; Завантажити й переглянути; Диск і робоча пам’ять. Практичне завдання: Докази лабораторної роботи.

Демо-версія. Матеріали проходять редакторську перевірку.

Що розглянемо

  • Тег є частиною досліду
  • Завантажити й переглянути
  • Диск і робоча пам’ять

Тег є частиною досліду

Приклад використовує конкретний тег llama3.2:1b як малу модель, без обіцянки якості. Перевірте його доступність і придатність для комп’ютера. Якщо тег недоступний, виберіть задокументовану локальну заміну й замініть назву в усіх прикладах.

Ведіть нотатку: операційна система, версія Ollama, точний тег моделі, обсяг завантаження та завдання. Тег позначає доступний артефакт, але не гарантує якості й не визначає універсальної потреби в пам’яті. Починайте з вигаданого несекретного тексту. Перед поширенням ваг або комерційним використанням прочитайте ліцензію моделі. Окремо фіксуйте витрати встановлення й обчислення та умови свого обладнання.

Завантажити й переглянути

Завантажте модель, перегляньте список установлених і деталі вибраного запису. Прочитайте ліцензію та параметри, які показує поточний інструмент. Успішне завантаження доводить отримання артефакту; виконання перевіряється окремим запитом генерації.

Перша генерація завантажує ваги в робочу пам’ять; список моделей показує дисковий інвентар. Якщо список працює, а генерація ні, збережіть помилку й огляньте активне завантаження. Повторне скачування зазвичай не є першим виправленням нестачі пам’яті.

Виконуйте приклад після успішної попередньої перевірки. Команди звертаються до локального сервісу й не означають дозволу відкривати порт у мережу. Збережіть відповідь та код завершення перед зміною параметрів. Змінюйте одну умову за раз, щоб пояснити причину покращення. Порожня відповідь, HTTP-помилка й повільна генерація потребують різної діагностики. Не стирайте невдалий результат: він потрібний для порівняння після виправлення.

ollama pull llama3.2:1b
ollama list
ollama show llama3.2:1b

Диск і робоча пам’ять

Виконайте короткий запит і перегляньте завантажені в пам’ять моделі з іншого термінала. Розмір файлів і робоча пам’ять різняться. При дефіциті пам’яті зупиніть модель перед іншою спробою; видалення сторонніх файлів не зменшує активний контекст.

Вимірюйте перший запит окремо від повторного, коли модель уже завантажена в пам’ять. Перевіряйте відповідь за поданими вигаданими фактами, а не лише за плавністю тексту. Не додавайте приватні файли до перевірки адреси й журналювання. Локальне виконання зменшує один шлях передавання даних; завантаження, інтеграції, резервні копії та розширення браузера все одно потребують перевірки. Збережіть конкретний доказ отриманого результату.

ollama run llama3.2:1b "Reply with one short greeting."
ollama ps
ollama stop llama3.2:1b

Практичне завдання

Докази лабораторної роботи

Перейти до навчання

Програма курсу

  1. Вибрати модель і приватну межу
  2. Завантажити й оглянути модель
  3. Перший API-запит і його відповідь
  4. Керувати контекстом і лімітами
  5. Порівняти моделі на малому наборі
  6. Відновити й описати запуск