NeuralDeep — российская AI-инфраструктура на локальных моделях

NeuralDeep — это российский AI-хаб, который держит весь стек на собственных GPU в РФ: чат с открытыми моделями, OpenAI-совместимое API, браузерный AI-IDE, сеть агентов, корпоративный поиск с RAG и каталог скиллов. Всё это работает прямо сейчас, у части продуктов есть бесплатный тариф, а тот же стек команда разворачивает on-premise в контуре заказчика.

Проект ведёт Валера Ковальский — Head of AI, автор Telegram-канала про LLM и инфраструктуру. Раньше большинство знало NeuralDeep по одному только каталогу скиллов, но это лишь одна из шести витрин куда более крупной платформы.

Что такое NeuralDeep

NeuralDeep (neuraldeep.ru) — это AI-инфраструктура, собранная на открытых моделях (gpt-oss-120b, Qwen3.6, BGE/E5-embeddings, Whisper) и развёрнутая на собственных серверах в России. Идея простая: дать доступ к топовым OSS-моделям без VPN, без зарубежных платёжек и без передачи данных за рубеж.

Платформа состоит из двух частей:

• Готовые продукты — ими можно пользоваться прямо сейчас на серверах NeuralDeep, у части есть бесплатный тариф.
• Внедрение в вашем контуре — тот же стек команда разворачивает on-premise: на ваших GPU, с вашими данными, под ваши процессы.

Всё ключевое выложено в open source — на GitHub у проекта более 1 100 звёзд.

Продукты платформы

Шесть витрин закрывают основные сценарии работы с LLM — от чата до сети агентов.

Модели и стек

Всё крутится на собственных GPU в РФ, без проксирования в зарубежные облака.

Подключение по API

Hub и API совместимы с форматом OpenAI, поэтому подключение сводится к замене base URL и ключа. Работает с opencode, Cursor, Cline, Python SDK и любым клиентом, который умеет в OpenAI API.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.neuraldeep.ru/v1",  # endpoint NeuralDeep вместо api.openai.com
    api_key="<ваш ключ из hub.neuraldeep.ru>",
)

response = client.chat.completions.create(
    model="gpt-oss-120b",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(response.choices[0].message.content)

Доступные эндпоинты — стандартные для OpenAI: /v1/chat/completions, /v1/embeddings, /v1/audio. Ключ выпускается в личном кабинете Hub.

Тарифы и развёртывание

Для внедрения в своём контуре команда предлагает четыре направления:

• LLM gateway на ваших GPU — self-hosted OpenAI-совместимый API, multi-tenant, с биллингом и observability. Срок развёртывания — 1–2 недели.
• Корпоративный RAG / поиск — embeddings + reranker + Qdrant или pg-vector, с подключением к Confluence, Bitrix и файловым шарам. Без утечек в облако.
• Кастомный AI-агент — под ваш стек: CRM, базу знаний, документооборот. На проверенных open-source кирпичах (Claude Code, Cursor, MCP).
• Audio / транскрипция on-prem — Whisper на ваших GPU, real-time через WebSocket и batch для архивов.

Open source

NeuralDeep выкладывает в open source инструменты, которыми пользуется сам (github.com/vakovalskii, 1 100+ звёзд).

Каталог скиллов skillsBD

skillsBD (neuraldeep.ru/skills) — open-source каталог скиллов и MCP-серверов для AI-агентов, заточенный под российские сервисы. Скилл — это папка с файлом SKILL.md, который учит агента, как выполнить задачу. Каталог закрывает нишу, которой нет в западных агрегаторах: скиллы для Яндекса, 1С, Битрикса и DaData там просто не найти.

Что внутри каталога

Ключевые скиллы

Как установить скилл

CLI работает через npx — глобальная установка не нужна. После установки скилл появляется в .claude/skills/ и сразу доступен агенту.

# Установить скилл
npx skillsbd add theYahia/dadata-mcp/dadata-skills

# Найти скиллы в каталоге
npx skillsbd search "яндекс"

# Посмотреть установленные
npx skillsbd list

Практические сценарии

• Заменить зарубежный LLM-провайдер. Перевести существующий проект на локальные модели в РФ, поменяв base URL и ключ — без VPN и зарубежных платёжек.
• Кодить на локальных моделях. Открыть репозиторий в браузерном Coder и работать с opencode-агентом без установки и без OpenAI/Anthropic.
• Собрать корпоративный поиск. Поднять RAG по внутренним документам через Search или развернуть его on-premise.
• Запустить сеть агентов. Через Drift поднять Telegram-бота и веб-клиент со скиллами и расписаниями на собственных моделях.
• Расширить агентов под RU-сервисы. Поставить скиллы из каталога skillsBD для Яндекса, 1С, Битрикса, Wildberries.
• Транскрибировать аудио on-prem. Расшифровывать совещания и звонки через Whisper, не отдавая записи в облако.

Полезные ссылки

• NeuralDeep: neuraldeep.ru — главная платформы, обзор всех продуктов
• Hub: hub.neuraldeep.ru — чат и LLM API, старт бесплатно
• API: api.neuraldeep.ru — OpenAI-совместимое API
• Каталог скиллов: neuraldeep.ru/skills — skillsBD, навыки и MCP для RU-комьюнити
• GitHub: github.com/vakovalskii — open-source проекты NeuralDeep
• Telegram: t.me/neuraldeep — канал Валеры Ковальского про LLM, агентов и инфраструктуру

По теме

• Статья: Как Codex стал моим техническим партнёром, а не просто чатиком для кода
• Блог: Notion — одна из немногих SaaS, которые реально переизобрели себя под ИИ
• База знаний: Skills и Plugins в Codex App: установка, использование и создание своих

Если соберётесь поднимать локальные модели у себя или в команде и захотите обсудить, с чего начать — пишите в Telegram @pimenov