Безкоштовний урок

Вибрати модель і приватну межу

Вибрати модель і приватну межу — Локальний AI з Ollama. Локальна модель і хмара; Перевірка перед встановленням; Перевірити адресу прослуховування. Практичне завдання: Докази лабораторної роботи.

Демо-версія. Матеріали проходять редакторську перевірку.

Що розглянемо

  • Локальна модель і хмара
  • Перевірка перед встановленням
  • Перевірити адресу прослуховування

Локальна модель і хмара

Для підсумку вигаданої майстерні виберіть локальну текстову модель. До завантаження перевірте картку, ліцензію, розмір і потрібні можливості. У цій роботі не використовуйте хмарні теги: сама адреса localhost не доводить локальність обраного бекенду.

Ведіть нотатку: операційна система, версія Ollama, точний тег моделі, обсяг завантаження та завдання. Тег позначає доступний артефакт, але не гарантує якості й не визначає універсальної потреби в пам’яті. Починайте з вигаданого несекретного тексту. Перед поширенням ваг або комерційним використанням прочитайте ліцензію моделі. Окремо фіксуйте витрати встановлення й обчислення та умови свого обладнання.

Перевірка перед встановленням

Для macOS візьміть офіційний застосунок, для Windows — офіційний інсталятор, для Linux спершу прочитайте інструкцію встановлення. Перед цим запишіть доступну пам’ять і диск. Тут використано POSIX-команди; у Windows можна працювати через WSL.

Адреса прослуховування та вибрана модель — два окремі рішення. Loopback-сервіс може звертатися до хмарної моделі, а локальну модель можна випадково відкрити публічно. Тому запишіть обидві умови й конкретний спосіб перевірки кожної, не підміняючи одну іншою.

Виконуйте приклад після успішної попередньої перевірки. Команди звертаються до локального сервісу й не означають дозволу відкривати порт у мережу. Збережіть відповідь та код завершення перед зміною параметрів. Змінюйте одну умову за раз, щоб пояснити причину покращення. Порожня відповідь, HTTP-помилка й повільна генерація потребують різної діагностики. Не стирайте невдалий результат: він потрібний для порівняння після виправлення.

uname -a
df -h
# After official installation:
ollama --version

Перевірити адресу прослуховування

Залиште сервіс на loopback. Наведену команду для окремого Linux-сеансу виконуйте, лише якщо іншого сервера Ollama немає. Помилка зайнятої адреси означає потребу перевірити наявний процес, а не відкрити інший мережевий інтерфейс.

Вимірюйте перший запит окремо від повторного, коли модель уже завантажена в пам’ять. Перевіряйте відповідь за поданими вигаданими фактами, а не лише за плавністю тексту. Не додавайте приватні файли до перевірки адреси й журналювання. Локальне виконання зменшує один шлях передавання даних; завантаження, інтеграції, резервні копії та розширення браузера все одно потребують перевірки. Збережіть конкретний доказ отриманого результату.

OLLAMA_HOST=127.0.0.1:11434 ollama serve

Практичне завдання

Докази лабораторної роботи

Перейти до навчання

Програма курсу

  1. Вибрати модель і приватну межу
  2. Завантажити й оглянути модель
  3. Перший API-запит і його відповідь
  4. Керувати контекстом і лімітами
  5. Порівняти моделі на малому наборі
  6. Відновити й описати запуск