pimenov.ai

База знаний

NeuralDeep — российская AI-инфраструктура на локальных моделях

NeuralDeep: российская AI-инфраструктура on-prem. Чат с OSS-моделями, OpenAI-совместимое API, браузерный IDE, сеть агентов, RAG-поиск и каталог скиллов.

Опубликовано Обновлено

NeuralDeep — платформа для работы с языковыми моделями на собственных GPU: OpenAI-совместимый API, AI-агент Drift, поиск и каталог инструментов для AI-агентов. Материал поможет понять состав платформы, подключить совместимый клиент и выбрать инструменты для российских сервисов.

📌
Для кого: разработчики, технические руководители и команды, которым нужны доступ к OpenAI-совместимому API, поиск или инструменты для AI-агентов. Данные проверены по официальным страницам NeuralDeep 7 сентября 2026 года. Практический запуск автором материала не подтверждён.

Что входит в NeuralDeep

NeuralDeep описывает себя как AI-хаб с собственной инфраструктурой (self-hosted) и OpenAI-совместимым доступом к большим языковым моделям (LLM) на собственных GPU. В актуальных официальных материалах отдельно представлены API, AI-агент Drift, поиск и каталог навыков, серверов Model Context Protocol (MCP) и командных инструментов (CLI).

КомпонентНазначениеГде смотреть
Hub и APIДоступ к моделям через OpenAI-совместимый APIДокументация API
DriftAI-агент, для которого опубликовано руководство по началу работыGetting started
ПоискПоиск, доступный в составе платформы; сценарии использования описаны в руководствеGetting started
skillsBDКаталог навыков, MCP-серверов и CLI-инструментов для глобальных и российских AI-агентовКаталог

В документации также заявлены разделы с моделями, тарифами и бенчмарками (результатами тестов). Эти параметры могут меняться, поэтому перед внедрением их следует проверять непосредственно в документации NeuralDeep.


Возможности API

На 7 сентября 2026 года официальная страница документации перечисляет пять групп API-задач:

  • чат с языковыми моделями;
  • создание векторных представлений текста (embeddings);
  • повторное ранжирование результатов поиска (rerank);
  • расшифровка аудио (transcribe);
  • обработка изображений (vision).

API заявлен как совместимый с форматом OpenAI. Это позволяет подключать клиенты, которые дают указать собственный базовый адрес API, ключ и имя модели. В официальной документации упомянуты примеры для Cursor, Codex, Cline и Continue.

⚖️
Совместимость формата упрощает перенос клиента, но не гарантирует полного совпадения моделей, лимитов и поддерживаемых параметров. Сверяйте их с актуальными разделами Models, Pricing и API docs.

Как подключить совместимый клиент

  1. Откройте документацию API.
  2. Возьмите из неё актуальный базовый адрес и имя доступной модели; способ аутентификации и получения ключа проверьте там же.
  3. В настройках клиента выберите OpenAI-совместимый провайдер или режим пользовательского API.
  4. Укажите базовый адрес и имя модели.
  5. Передайте ключ через защищённое поле клиента или переменную окружения. Не сохраняйте его в репозитории.
  6. Отправьте короткий тестовый запрос.

Общий шаблон для Python-клиента выглядит так:

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ["NEURALDEEP_BASE_URL"],
    api_key=os.environ["NEURALDEEP_API_KEY"],
)

response = client.chat.completions.create(
    model=os.environ["NEURALDEEP_MODEL"],
    messages=[{"role": "user", "content": "Ответь одним словом: работает?"}],
)

print(response.choices[0].message.content)

Перед запуском задайте значения из актуальной документации:

export NEURALDEEP_BASE_URL="<актуальный базовый адрес>"
export NEURALDEEP_API_KEY="<ваш ключ>"
export NEURALDEEP_MODEL="<доступная модель>"
python app.py

Как проверить результат

Подключение можно считать успешным, если клиент получает ответ без ошибки авторизации, а объект ответа содержит сообщение модели. Дополнительно проверьте:

  • совпадает ли выбранная модель со списком доступных моделей;
  • поддерживает ли она нужный сценарий: чат, embeddings, rerank, аудио или vision;
  • укладывается ли запрос в текущие лимиты тарифа;
  • не записывает ли клиент ключ в логи или конфигурацию репозитория.

Если сервер возвращает ошибку авторизации, сначала перепроверьте ключ и базовый адрес. При ошибке модели возьмите её точный идентификатор из актуального списка Models.


Каталог skillsBD

skillsBD — каталог навыков, MCP-серверов и командных инструментов (CLI) для AI-агентов. Он ориентирован в том числе на российские сервисы: Яндекс, Битрикс, 1С, GigaChat и Wildberries.

По снимку официального каталога, полученному 7 сентября 2026 года, в нём представлено 126 позиций:

РазделКоличествоЧто входит
Навыки58Папки с инструкциями для выполнения конкретных задач агентом
MCP34Серверы Model Context Protocol для подключения внешних инструментов и данных
CLI34Командные инструменты и AI-агенты
Российские56Позиции с отметкой RU

Каталог показывает совместимость с Claude Code, Cursor, Copilot, Windsurf, Cline, Codex, Gemini, Roo, Goose, OpenCode и Trae. Отдельно перечислены российские агенты GigaCode, Koda, SourceCraft, Kodify, Amvera и Polide.

Среди представленных позиций есть инструменты для 1С, Яндекс Wordstat, Метрики и Вебмастера, Битрикс24, Wildberries, GigaChat, DaData и других сервисов. Состав каталога меняется, поэтому искать нужный инструмент лучше на актуальной странице skillsBD.

Как работать с CLI skillsBD

Официальный журнал изменений подтверждает наличие команд add, search, list и remove. Синтаксис аргументов сверяйте с карточкой инструмента и текущей справкой CLI. Базовый сценарий выглядит так:

# Найти подходящий инструмент
npx skillsbd search "яндекс"

# Установить выбранный навык
npx skillsbd add <идентификатор из карточки>

# Посмотреть установленные навыки
npx skillsbd list

# Удалить навык
npx skillsbd remove <идентификатор из карточки>

Точный идентификатор для установки копируйте из карточки нужного инструмента.

⚠️
Перед установкой изучите содержимое репозитория и SKILL.md. Навык содержит инструкции, которые агент будет выполнять или учитывать. Сам каталог сообщает, что собран вручную, а отображаемые установки ещё не означают проверку безопасности инструмента.

В журнале изменений описаны модерация новых добавлений, аудит репозиториев и закрытие перечисленных там проблем безопасности платформы. Это полезные сигналы, но они не заменяют проверку конкретного стороннего навыка, MCP-сервера или CLI-пакета перед запуском.

Как проверить установленный навык

После установки:

  1. Выполните npx skillsbd list и убедитесь, что инструмент появился в списке.
  2. Найдите установленный SKILL.md и прочитайте его до первого запуска агента.
  3. Проверьте команды, сетевые адреса, требуемые права и работу с секретами.
  4. Не передавайте инструменту рабочие ключи, пока не проверите его в изолированной среде.
  5. Запустите безопасный тест без операций записи и убедитесь, что агент использует навык только для заявленной задачи.

Полезные сценарии

Перенести существующий OpenAI-совместимый клиент

Задача: подключить приложение или coding agent к NeuralDeep.

Что требуется: клиент с настройкой пользовательского базового адреса, ключ и точное имя модели из документации.

Действие: замените параметры подключения и отправьте короткий тестовый запрос.

Проверяемый результат: клиент получает ответ модели без ошибки авторизации.

Ограничение: отдельные параметры и возможности моделей могут отличаться. Проверьте их до переноса рабочего трафика.

Добавить российский сервис в AI-агента

Задача: дать агенту инструкции или инструменты для работы с 1С, Яндексом, Битрикс24, Wildberries либо другим представленным сервисом.

Что требуется: совместимый агент и выбранная карточка в skillsBD.

Действие: изучите репозиторий и SKILL.md, установите инструмент по идентификатору из каталога, затем выполните безопасный тест.

Проверяемый результат: инструмент виден в списке установленных, а агент корректно распознаёт предусмотренную задачу.

Ограничение: каталог включает сторонние проекты. Проверяйте код, разрешения и обработку учётных данных самостоятельно.

Собрать поиск или агентный сценарий

Задача: использовать поиск или Drift в составе платформы.

Что требуется: доступ к NeuralDeep и актуальное руководство по выбранному компоненту.

Действие: пройдите соответствующий сценарий на странице Getting started, затем выполните тестовый запрос без конфиденциальных данных.

Проверяемый результат: поиск возвращает ответ на контрольный запрос либо Drift выполняет предусмотренный сценарий.

Ограничение: доступность функций и условия подписки могут меняться. Проверьте текущие тарифы и лимиты перед рабочим внедрением.


Ограничения и вопросы перед внедрением

Официальные снимки подтверждают общую архитектуру и состав каталога, но не дают достаточно данных, чтобы зафиксировать в этом руководстве актуальные цены, полный список моделей, точные лимиты или гарантии хранения данных. Эти параметры следует проверять отдельно.

Перед передачей рабочих данных уточните:

  • где физически обрабатываются и хранятся запросы;
  • каков срок хранения журналов и можно ли его изменить;
  • какие модели и контекстные окна доступны на вашем тарифе;
  • какие ограничения действуют для каждого API-метода;
  • предусмотрены ли соглашение об уровне сервиса, мониторинг и экспорт журналов;
  • какие компоненты можно развернуть в собственном контуре.

Не делайте вывод о соответствии внутренним требованиям безопасности только из формулировки «собственные GPU». Для такого решения нужны договорные условия, техническая документация и проверка вашей службы безопасности.


Официальные ссылки

Если вы оцениваете NeuralDeep для команды, начните с одного некритичного сценария: проверьте API или выбранный навык на тестовых данных, затем отдельно разберите лимиты, безопасность и условия эксплуатации.


Следующий шаг

Если после проверки API вы планируете использовать AI-агента в разработке, полезно перейти к Как Codex стал моим техническим партнёром, а не просто чатиком для кода.

Связанные материалы

Обсуждение такого внедрения особенно полезно командам, которые выбирают API и инструменты для AI-агентов и хотят сначала проверить их на тестовых данных.

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov