pimenov.ai

База знаний

LM Studio — локальный запуск LLM и агент Bionic

LM Studio запускает открытые LLM локально на Mac, Windows и Linux: возможности, поддерживаемые модели, системные требования, тарифы и агент Bionic.

Опубликовано

LM Studio — десктопное приложение для запуска больших языковых моделей (LLM) прямо на вашем компьютере, без облака и подписок. В новой версии Bionic оно превращается в полноценного ИИ-агента для кода, документов и исследований.

💡
LLM (large language model) — большая языковая модель, «движок» вроде того, что стоит за ChatGPT. LM Studio держит такой движок локально: без интернета и без отправки данных на чужие серверы.

Что это такое

LM Studio — приложение от компании Element Labs для macOS, Windows и Linux. Оно находит и скачивает открытые модели с Hugging Face и запускает их на вашем железе: через графический чат, локальный API-сервер и командную строку.

Ключевая идея — приватность. Модель работает офлайн, ваши запросы и файлы не покидают устройство. Платите вы только за собственное железо, а не за токены.

📌
Локальный ChatGPT, который вы полностью контролируете: бесплатно, офлайн, на вашем компьютере.

Основные возможности

ВозможностьЧто даёт
Чат с моделямиГрафический интерфейс для диалога, как в ChatGPT
Загрузка моделейПоиск и скачивание GGUF- и MLX-моделей с Hugging Face внутри приложения
Локальный API-серверOpenAI- и Anthropic-совместимые эндпоинты на localhost
SDKГотовые библиотеки lmstudio-js и lmstudio-python
Командная строка (lms)Управление сервером и моделями из терминала
MCP-клиентПодключение MCP-серверов к локальным моделям
Несколько моделей сразуОдновременная загрузка нескольких LLM, можно смешивать llama.cpp и MLX
Vision-моделиРабота с изображениями через чат и API
Структурированный выводОтветы строго в формате JSON
Ускорение выводаSpeculative decoding и квантизация KV-кэша
Headless-режим (llmster)Запуск сервером без графического интерфейса — демон llmster для серверов и CI
Голосовая транскрипцияРаспознавание речи офлайн, прямо на устройстве
LM LinkДоступ к локальным моделям с других устройств по сквозному шифрованию
💡
GGUF и MLX — два формата запуска моделей. GGUF (движок llama.cpp) работает на всех платформах. MLX — фреймворк Apple, доступен только на Apple Silicon и часто быстрее раскрывает потенциал чипов Mac.

На каких компьютерах работает

ПлатформаТребованияНюансы
macOSApple Silicon (M1–M4), macOS 14.0+, от 16 ГБ RAMIntel-Маки не поддерживаются
Windowsx64 с поддержкой AVX2 или ARM64 (Snapdragon X Elite), от 16 ГБ RAM, от 4 ГБ VRAMПоддержка NVIDIA RTX (включая 50-серию) и AMD
Linuxx64 и ARM64, поставляется как AppImageТестируется в основном на Ubuntu
⚠️
На 8 ГБ RAM запускать можно, но только маленькие модели с коротким контекстом. Для комфортной работы нужно 16 ГБ и больше, а для тяжёлых моделей — 32 ГБ и выше.
🔴
Intel-Маки LM Studio не поддерживает. Нужен чип Apple Silicon (M1 или новее).
⚖️
На Apple Silicon память общая (unified memory) и работает и как RAM, и как VRAM. Поэтому Mac с 16 ГБ тянет модели, которым на ПК потребовалась бы отдельная видеокарта на 8 ГБ.

Сколько памяти нужно модели

Ориентир по размеру модели в квантизации Q4 — самом ходовом формате. Значения приблизительные, к ним нужно добавить запас на контекст и саму систему.

Размер моделиНужно памяти (RAM или VRAM)Для чего подходит
3–4B3–4 ГББыстрые ответы, простой чат, слабое железо
7–8B6–8 ГБУниверсальный вариант на каждый день
13–14B10–12 ГББолее качественные ответы и рассуждения
30–34B20–24 ГБСложные задачи и кодинг
70Bот 40 ГБМаксимум качества; нужен Mac на 64 ГБ+ или мощная видеокарта
💡
Квантизация (Q4, Q8) — сжатие модели, чтобы она занимала меньше памяти. Q4 экономит место почти без потери качества и подходит большинству; Q8 точнее, но тяжелее. В приложении эти пометки видны прямо в названии файла модели.

Доступные модели

Локальные модели

Любые открытые модели в форматах GGUF и MLX с Hugging Face: Qwen, Gemma, Llama, DeepSeek, GPT-OSS, GLM и другие. Скачиваются прямо в приложении, размер — от нескольких гигабайт.

Облачные open-source модели

Для задач, которые не тянет локальное железо, LM Studio подключает фронтир-модели с открытым кодом через свой облачный сервис:

  • GLM 5.2
  • Kimi K2.6
  • Kimi Code K2.7

Серверы в США, Zero Data Retention (ZDR) по умолчанию: данные не хранятся.

💡
ZDR (Zero Data Retention) — режим, при котором провайдер не сохраняет ваши запросы и ответы после обработки.

Финансовые условия

LM Studio бесплатен и для личного, и для коммерческого использования (с июля 2025 года). Платные только облачные вычисления.

ПланСтоимостьЧто входит
Free$0Агент Bionic, локальные LLM, голосовая транскрипция, веб-поиск с ZDR, LM Link до 5 устройств
Pay as you goОплата по факту (cloud credits)Облачные модели GLM 5.2, Kimi K2.6, Kimi Code K2.7 с ZDR
📌
Локальная работа полностью бесплатна. Деньги нужны только если вы осознанно уходите в облако за более мощными моделями.

LM Studio Bionic

Bionic (представлен 16 июля 2026) — ИИ-агент, построенный вокруг открытых моделей. Это следующий шаг LM Studio: от чата к реальной работе с кодом, файлами и документами. Для всех пользователей действует Zero Data Retention, а на ваших данных модели не обучаются.

📌
Bionic — отдельное приложение для Mac и Windows, а не обновление классического LM Studio. Разработчики называют его следующим поколением LM Studio: движок и модели те же, но интерфейс перестроен вокруг агентных задач, а не только чата.

Что умеет Bionic

  • Документы и файлы. Создаёт и редактирует docs, слайды, таблицы и PDF. В Work-проектах каждое изменение сохраняется автоматически через чекпоинты.
  • Код. Полноценный кодинг-агент: создаёт Code-проект на базе локальной папки, исследует и правит код, показывает инлайн-диффы и умеет агентно искать по кодовой базе.
  • Голос. Голосовой ввод работает поверх любых приложений, распознавание идёт офлайн на модели Voxtral от Mistral AI.
  • Выбор модели под задачу. Локальная модель, модель на другом устройстве через LM Link или облачная фронтир-модель (GLM, Kimi): переключается в пикере модели прямо в сессии.
  • Песочница. Файлы обрабатываются в изолированном окружении.

Где запускается

Bionic доступен для Mac и Windows, распространяется как отдельное приложение.

💡
Агент против чата. Обычный чат отвечает текстом. Агент выполняет задачи: правит файлы, пишет код, запускает инструменты и показывает результат работы по шагам.

Интеграция и подключение

LM Studio поднимает локальный сервер с OpenAI- и Anthropic-совместимым API. Большинство инструментов и библиотек, которые умеют работать с OpenAI, подключаются к вашей локальной модели сменой базового URL.

Запуск сервера и загрузка модели из терминала:

# Запустить локальный API-сервер
lms server start

# Скачать модель из терминала
lms get qwen3-8b

Запрос к локальной модели (эндпоинт по умолчанию — порт 1234):

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "local-model",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'

Способы подключения:

  • REST API — прямые HTTP-запросы к localhost.
  • SDK — lmstudio-js (JavaScript/TypeScript) и lmstudio-python.
  • OpenAI/Anthropic-совместимость — подмена базового URL в существующем коде.
  • MCP-клиент — подключение MCP-серверов к локальным моделям.
  • LM Link — использование локальных моделей с других устройств (ноутбук, сервер, облачная VM), сквозное шифрование.

Практические сценарии

  • Приватная обработка документов. Юридические, медицинские и финансовые данные не уходят в облако, модель работает локально.
  • Локальный кодинг-агент. Bionic исследует и правит проект на вашем диске, без отправки кода наружу.
  • Замена облачного API на локальный. Свой продукт или скрипт можно перевести на локальный сервер и убрать плату за токены.
  • Работа офлайн. В самолёте, в поездке, при нестабильном интернете модель остаётся доступной — главное скачать её заранее: поиск и загрузка моделей требуют интернета, сама генерация уже нет.
  • Прототипирование без счетов. Тестируйте идеи на разных моделях, не оплачивая каждый запрос.
  • Голосовой ввод. Диктовка поверх любых приложений с распознаванием на устройстве.
  • Гибрид локальное плюс облако. Рутина на локальной модели, тяжёлые задачи на облачных GLM или Kimi через credits.

Технические ограничения

  • Скорость ответа зависит от железа: слабый компьютер даёт долгие ответы.
  • Большие модели требуют много RAM и VRAM; на 8 ГБ доступны только компактные модели.
  • Без дискретной видеокарты (только CPU) генерация идёт медленно.
  • MLX-ускорение доступно только на Apple Silicon.
  • Intel-Маки не поддерживаются.
  • Облачные модели требуют интернета и оплаты через cloud credits.
⚖️
Компромисс простой. Локально: приватно и бесплатно, но упираетесь в своё железо. Облако: мощнее, но платно и требует сети.

Ссылки


По теме

Если вы присматриваетесь к локальным моделям и хотите собрать приватный контур под свои задачи и команду, с LM Studio удобно начать.

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov