Вибрати модель і приватну межу
Вибрати модель і приватну межу — Локальний AI з Ollama. Локальна модель і хмара; Перевірка перед встановленням; Перевірити адресу прослуховування. Практичне завдання: Докази лабораторної роботи.
Демо-версія. Матеріали проходять редакторську перевірку.
Що розглянемо
- Локальна модель і хмара
- Перевірка перед встановленням
- Перевірити адресу прослуховування
Локальна модель і хмара
Для підсумку вигаданої майстерні виберіть локальну текстову модель. До завантаження перевірте картку, ліцензію, розмір і потрібні можливості. У цій роботі не використовуйте хмарні теги: сама адреса localhost не доводить локальність обраного бекенду.
Ведіть нотатку: операційна система, версія Ollama, точний тег моделі, обсяг завантаження та завдання. Тег позначає доступний артефакт, але не гарантує якості й не визначає універсальної потреби в пам’яті. Починайте з вигаданого несекретного тексту. Перед поширенням ваг або комерційним використанням прочитайте ліцензію моделі. Окремо фіксуйте витрати встановлення й обчислення та умови свого обладнання.
Перевірка перед встановленням
Для macOS візьміть офіційний застосунок, для Windows — офіційний інсталятор, для Linux спершу прочитайте інструкцію встановлення. Перед цим запишіть доступну пам’ять і диск. Тут використано POSIX-команди; у Windows можна працювати через WSL.
Адреса прослуховування та вибрана модель — два окремі рішення. Loopback-сервіс може звертатися до хмарної моделі, а локальну модель можна випадково відкрити публічно. Тому запишіть обидві умови й конкретний спосіб перевірки кожної, не підміняючи одну іншою.
Виконуйте приклад після успішної попередньої перевірки. Команди звертаються до локального сервісу й не означають дозволу відкривати порт у мережу. Збережіть відповідь та код завершення перед зміною параметрів. Змінюйте одну умову за раз, щоб пояснити причину покращення. Порожня відповідь, HTTP-помилка й повільна генерація потребують різної діагностики. Не стирайте невдалий результат: він потрібний для порівняння після виправлення.
uname -a
df -h
# After official installation:
ollama --version
Перевірити адресу прослуховування
Залиште сервіс на loopback. Наведену команду для окремого Linux-сеансу виконуйте, лише якщо іншого сервера Ollama немає. Помилка зайнятої адреси означає потребу перевірити наявний процес, а не відкрити інший мережевий інтерфейс.
Вимірюйте перший запит окремо від повторного, коли модель уже завантажена в пам’ять. Перевіряйте відповідь за поданими вигаданими фактами, а не лише за плавністю тексту. Не додавайте приватні файли до перевірки адреси й журналювання. Локальне виконання зменшує один шлях передавання даних; завантаження, інтеграції, резервні копії та розширення браузера все одно потребують перевірки. Збережіть конкретний доказ отриманого результату.
OLLAMA_HOST=127.0.0.1:11434 ollama serve
Практичне завдання
Докази лабораторної роботи
Перейти до навчання