Как установить Ollama на Ubuntu

Ollama — это удобный способ запускать локальные языковые модели прямо на сервере или домашней машине. Особенно часто его используют на VDS, где важно не зависеть от внешних API. В этой статье разберём установку на Ubuntu.

Подготовка сервера

Установка необходимых утилит

Дальше ставим curl и ca-certificates.

    sudo apt install curl ca-certificates -y
    Copy

curl нужен, чтобы скачать установочный скрипт Ollama.

Сертификаты важны для безопасного HTTPS-соединения.

Без них загрузка может завершиться ошибкой, особенно на минимальных образах Ubuntu.

Установка Ollama

Теперь переходим к самому Ollama.

    curl -fsSL https://ollama.com/install.sh | sh
    Copy

Этот шаг делает сразу всё: скачивает бинарник, настраивает сервис и пути.

Проверка установки

После установки важно убедиться, что сервис поднялся корректно.

    ollama --version
    Copy

Эта команда должна вернуть версию программы. Если ответа нет, значит сервис не стартовал или не добавился в PATH.

Первый запуск модели

Ollama удобен тем, что модель можно запустить одной командой. Например, попробуем phi3:mini.

    ollama run phi3:mini
    Copy

При первом запуске модель скачивается автоматически. Это может занять время, потому что файл достаточно большой.

Чем мощнее модель, тем больше ресурсов она требует. Если сервер слабый, то модель может не запуститься.

Введите свое сообщение и получите ответ.

Работа через системный сервис

После установки Ollama обычно уже работает как systemd-сервис. Проверить это можно так:

    systemctl status ollama
    Copy

Сервис нужен, чтобы модель работала в фоне и не зависела от SSH-сессии. Это особенно важно для серверного использования.

Если сервис не активен, его можно запустить вручную:

    sudo systemctl enable --now ollama
systemctl status ollama
    Copy

Доступ к API Ollama

Ollama поднимает локальный API на порту 11434. Это позволяет подключать его к своим приложениям.

Проверка:

    curl http://localhost:11434
    Copy

Если всё работает, вы получите ответ от сервера. Это значит, что можно начинать интеграцию с проектами.

Часто здесь возникает вопрос: «а можно ли открыть наружу?». Можно, но лучше делать это через прокси и ограничения доступа.

Настройка для внешнего доступа

Если вы планируете использовать Ollama с другого сервера, нужно открыть порт.

Обычно добавляют reverse proxy через Nginx.

Это даёт контроль, логирование и возможность ограничить доступ.

Типичные проблемы и что с ними делать

Иногда Ollama не запускается после установки. Чаще всего причины простые:

• не хватает памяти;
• не установлен curl;
• сервис не стартовал;
• конфликт портов.

В таких случаях лучше смотреть логи:

    journalctl -u ollama -f
    Copy

Логи обычно быстро показывают, где именно проблема.

Итог

Ollama на Ubuntu устанавливается достаточно быстро и без сложных настроек.

Это удобный инструмент для локальных AI-сервисов на VDS. Он хорошо вписывается в инфраструктуру, где важно контролировать всё самостоятельно.