Завантажити й оглянути модель
Завантажити й оглянути модель — Локальний AI з Ollama. Тег є частиною досліду; Завантажити й переглянути; Диск і робоча пам’ять. Практичне завдання: Докази лабораторної роботи.
Демо-версія. Матеріали проходять редакторську перевірку.
Що розглянемо
- Тег є частиною досліду
- Завантажити й переглянути
- Диск і робоча пам’ять
Тег є частиною досліду
Приклад використовує конкретний тег llama3.2:1b як малу модель, без обіцянки якості. Перевірте його доступність і придатність для комп’ютера. Якщо тег недоступний, виберіть задокументовану локальну заміну й замініть назву в усіх прикладах.
Ведіть нотатку: операційна система, версія Ollama, точний тег моделі, обсяг завантаження та завдання. Тег позначає доступний артефакт, але не гарантує якості й не визначає універсальної потреби в пам’яті. Починайте з вигаданого несекретного тексту. Перед поширенням ваг або комерційним використанням прочитайте ліцензію моделі. Окремо фіксуйте витрати встановлення й обчислення та умови свого обладнання.
Завантажити й переглянути
Завантажте модель, перегляньте список установлених і деталі вибраного запису. Прочитайте ліцензію та параметри, які показує поточний інструмент. Успішне завантаження доводить отримання артефакту; виконання перевіряється окремим запитом генерації.
Перша генерація завантажує ваги в робочу пам’ять; список моделей показує дисковий інвентар. Якщо список працює, а генерація ні, збережіть помилку й огляньте активне завантаження. Повторне скачування зазвичай не є першим виправленням нестачі пам’яті.
Виконуйте приклад після успішної попередньої перевірки. Команди звертаються до локального сервісу й не означають дозволу відкривати порт у мережу. Збережіть відповідь та код завершення перед зміною параметрів. Змінюйте одну умову за раз, щоб пояснити причину покращення. Порожня відповідь, HTTP-помилка й повільна генерація потребують різної діагностики. Не стирайте невдалий результат: він потрібний для порівняння після виправлення.
ollama pull llama3.2:1b
ollama list
ollama show llama3.2:1b
Диск і робоча пам’ять
Виконайте короткий запит і перегляньте завантажені в пам’ять моделі з іншого термінала. Розмір файлів і робоча пам’ять різняться. При дефіциті пам’яті зупиніть модель перед іншою спробою; видалення сторонніх файлів не зменшує активний контекст.
Вимірюйте перший запит окремо від повторного, коли модель уже завантажена в пам’ять. Перевіряйте відповідь за поданими вигаданими фактами, а не лише за плавністю тексту. Не додавайте приватні файли до перевірки адреси й журналювання. Локальне виконання зменшує один шлях передавання даних; завантаження, інтеграції, резервні копії та розширення браузера все одно потребують перевірки. Збережіть конкретний доказ отриманого результату.
ollama run llama3.2:1b "Reply with one short greeting."
ollama ps
ollama stop llama3.2:1b
Практичне завдання
Докази лабораторної роботи
Перейти до навчання