Ollama и LM Studio — два самых популярных способа запускать открытые языковые модели прямо на своём компьютере. Этот справочник помогает выбрать между ними, если вы только начинаете с локальных моделей.
Что такое локальные модели и зачем они
Локальная модель — это LLM (большая языковая модель, «движок» вроде того, что стоит за ChatGPT), которая работает на вашем устройстве, а не на чужих серверах. Три причины запускать модели локально:
- Приватность. Запросы и файлы не покидают компьютер.
- Стоимость. Вы платите за собственное железо, без оплаты за токены.
- Офлайн. Скачанная модель работает без интернета.
Что для этого нужно:
- Память. Оперативная (RAM) или видеопамять (VRAM) — главный ресурс. Чем крупнее модель, тем больше памяти она требует.
- Формат GGUF. Стандартный формат файлов моделей для локального запуска. На Apple Silicon есть ещё формат MLX, оптимизированный под чипы Mac.
- Квантизация. Сжатие модели, чтобы она занимала меньше памяти. Пометки Q4 и Q8 в названии файла — это уровни сжатия.
Что такое Ollama
Ollama — рантайм для моделей, которым управляют из терминала. Команда ollama run <модель> скачивает модель и открывает чат прямо в консоли, а параллельно поднимается HTTP API на порту 11434 для скриптов, IDE и агентов. Официального графического приложения нет: для привычного окна чата ставят сторонний клиент вроде Open WebUI. Ядро Ollama распространяется с открытым исходным кодом.
Что такое LM Studio
LM Studio — десктопное приложение с графическим интерфейсом. Модели ищутся и скачиваются мышкой из встроенного каталога Hugging Face, диалог идёт в окне приложения, а локальный API-сервер запускается кнопкой на порту 1234. В версии Bionic приложение получило ИИ-агента для кода и документов. LM Studio проприетарное, но бесплатное для дома и работы.
Что у них общего
- Запуск открытых моделей формата GGUF локально и бесплатно.
- OpenAI-совместимый API: существующий код подключается сменой базового URL.
- Anthropic-совместимость: работают с инструментами под Anthropic, например Claude Code.
- Облачный режим для тяжёлых моделей, которые не помещаются в локальную память.
- Модели с Hugging Face и кроссплатформенность (macOS, Windows, Linux).
Чем отличаются
| Критерий | Ollama | LM Studio |
| Интерфейс | Терминал и API, GUI только через сторонние клиенты | Десктопное приложение с чатом и каталогом |
| Для кого | Разработчики, автоматизация, серверы | Новички и визуальный подбор моделей |
| Порт API | 11434 | 1234 |
| Источник моделей | Реестр ollama.com/library и импорт GGUF с Hugging Face | Встроенный поиск по Hugging Face |
| MLX на Apple Silicon | В предпросмотре | Нативно |
| Открытость | Открытый код (ядро) | Проприетарное |
| Облако | Подписка: Free, Pro $20/мес, Max $100/мес | Оплата по факту (cloud credits) |
| Свой агент | ollama launch для кодинг-агентов | Bionic (код, документы, голос) |
| Headless-сервер | ollama serve из коробки | Демон llmster |
| Платформы | macOS, Windows, Linux | macOS (Apple Silicon), Windows, Linux |
Плюсы и минусы
Ollama
Плюсы:
- Автоматизация: всё делается командами и легко встраивается в пайплайн.
- Открытый код и репутация стандарта для серверных сценариев.
- Команда
ollama launchподнимает кодинг-агенты (Codex, Claude Code, OpenCode) на локальных моделях. - Простой перенос на сервер: модель живёт на машине с GPU, клиенты подключаются по сети.
Минусы:
- Нет официального GUI: для окна чата нужен сторонний клиент.
- Выше порог входа, нужно быть на «ты» с терминалом.
- Поддержка MLX пока в предпросмотре.
LM Studio
Плюсы:
- Графический интерфейс: модель можно найти и скачать мышкой.
- Наглядный подбор: видно размеры, квантизации и совместимость с железом.
- Нативная поддержка MLX на Apple Silicon.
- Встроенный агент Bionic для работы с кодом и документами.
Минусы:
- Проприетарное, ядро закрыто.
- На Mac только Apple Silicon: Intel-Маки не поддерживаются.
- Для серверных задач менее привычно, чем Ollama, хотя есть headless-режим llmster.
Что выбрать новичку
Когда выбор неочевиден, LM Studio даёт более мягкий старт: приложение сразу показывает, какие модели тянет ваш компьютер. К Ollama удобно перейти позже, когда появится задача автоматизации.
Как использовать вместе
Оба инструмента отдают OpenAI-совместимый API, поэтому их несложно комбинировать.
- Один клиент на оба движка. Инструменты вроде Open WebUI, Cline или Codex подключаются и к порту 1234 (LM Studio), и к 11434 (Ollama) сменой базового URL.
- Разделение ролей. LM Studio на рабочем ноутбуке для подбора и визуального чата, Ollama на сервере или в фоне для автоматизации.
- Подбор в одном, продакшн в другом. Находите подходящую модель мышкой в LM Studio, а в скриптах гоняете её через Ollama.
ollama create.Пересекающиеся полезные сценарии
- Приватная работа с документами. Чувствительные данные остаются на устройстве.
- Локальный кодинг-агент. Ollama через
ollama launch, LM Studio через Bionic или собственный сервер. - Замена облачного API на локальный. Убрать плату за токены сменой базового URL.
- Прототипирование без счетов. Тестировать идеи на разных моделях бесплатно.
- Гибрид локального и облака. Рутина на локальной модели, тяжёлые задачи в облаке.
- RAG и эмбеддинги. Оба отдают embeddings-модели через API для поиска по своим данным.
Чеклист быстрого старта
Ссылки
- LM Studio — официальный сайт: lmstudio.ai
- LM Studio — документация: lmstudio.ai/docs
- Ollama — официальный сайт: ollama.com
- Ollama — документация: docs.ollama.com
- Каталог моделей Ollama: ollama.com/library
- Каталог моделей LM Studio: lmstudio.ai/models
По теме
Если вы выбираете инструмент под локальные модели и хотите собрать приватный контур под свои задачи или команду, с этого сравнения удобно начать.
Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov
Если хотите разобрать свою задачу — напишите мне Если хотите разобрать свою задачу — напишите мне.
Можно прийти с идеей, черновым контекстом или уже живой задачей. Помогу быстро понять, где реальный следующий шаг, а где лишний шум.
Обычно хватает 2–3 сообщений, чтобы понять, могу ли я здесь реально помочь и в каком формате лучше двигаться дальше.