gigastt — локальный сервер распознавания русской речи на GigaAM v3

gigastt — сервер распознавания русской речи, который работает целиком на вашей машине. Один бинарник на Rust запускает открытую модель GigaAM v3 через ONNX Runtime: без облака, без API-ключей, без Python в рантайме.

Что это такое

gigastt — обёртка вокруг модели GigaAM v3 от SberDevices, превращающая её в готовый сервис. Внутри бинарника лежит вся цепочка: декодирование аудио, мел-спектрограмма, Conformer-энкодер, RNN-T-декодер, токенизатор и постобработка с пунктуацией.

Наружу это выходит тремя способами: CLI для файлов, HTTP-сервер с REST и WebSocket, а также библиотека gigastt-core и C-ABI FFI для встраивания в приложение, включая Android.

Проект открыт под MIT, автор — Evgeny Khodzitsky. Репозиторий создан 9 апреля 2026 года и развивается быстро: 668 коммитов и 39 версий на crates.io, актуальная ветка — 2.x (gigastt-core = "2.14").

Три сущности, которые легко перепутать

В разговорах слово «GigaSTT» прилетает сразу к трём разным вещам. Разница принципиальная.

Основные возможности

Точность и производительность

Замеры сделаны автором проекта на Apple M1, CPU, INT8, по 1000 сэмплов на домен (чистая начитка — 992), с 95-процентными бутстрап-интервалами. Независимых проверок этих цифр пока нет.

Сравнение с альтернативами

Когда брать другой инструмент. На чистой студийной начитке Vosk немного точнее, и по скорости он тоже впереди. Если нужны десятки языков, смотрите в сторону Whisper или Vosk. Если аудио разрешено отправлять в облако и не хочется держать сервер, проще подключить SaluteSpeech с его фримиум-тарифом на 100 минут в месяц.

Сильная сторона gigastt проявляется на грязном звуке: дальнее поле, телефон, YouTube. Плюс упаковка, где стриминг, диаризация и пунктуация уже лежат в одном бинарнике.

Установка

# Homebrew: macOS arm64 и Linux x86_64
brew tap ekhodzitsky/gigastt https://github.com/ekhodzitsky/gigastt
brew install gigastt

# Из crates.io: нужен protoc в PATH
brew install protobuf        # на Linux: apt install protobuf-compiler
cargo install gigastt

# Готовый образ из GHCR (CPU, amd64 и arm64)
docker pull ghcr.io/ekhodzitsky/gigastt:latest
docker run -p 9876:9876 ghcr.io/ekhodzitsky/gigastt:latest

Модель скачивается при первом запуске (~850 МБ) и квантуется в INT8 до ~225 МБ. Чтобы не ждать этого в проде, соберите образ с зашитой моделью: docker build --build-arg GIGASTT_BAKE_MODEL=1 -t gigastt:baked .

Первые команды

# Один файл
gigastt transcribe recording.wav

# Целая папка: на выходе txt и json на каждый файл
gigastt transcribe-batch samples/ out/

# Следить за папкой и расшифровывать всё, что туда падает
gigastt watch inbox/ out/ --move-to inbox/done/

# Поднять сервер: WebSocket, REST и SSE на одном порту
gigastt serve

Подключение по API

REST

curl -X POST http://127.0.0.1:9876/v1/transcribe \
  -H "Content-Type: application/octet-stream" \
  --data-binary @recording.wav
# В ответе JSON: текст, тайминги по словам и уровень уверенности

WebSocket

Клиент подключается к ws://127.0.0.1:9876/v1/ws, шлёт бинарные кадры PCM16 и получает промежуточные и финальные результаты.

Клиент                              Сервер
  |------------ connect -------------->|
  |<----------- ready -----------------|  {type:"ready", version:"1.0"}
  |------------ configure ------------>|  {type:"configure", sample_rate:16000}
  |------------ PCM16 ---------------->|
  |<----------- partial ---------------|  {type:"partial", text:"привет"}
  |<----------- final -----------------|  {type:"final", text:"Привет, как дела?"}

Частота дискретизации передаётся в сообщении configure, внутри всё приводится к 16 кГц. В репозитории лежат типизированные клиенты протокола 1.0 для Go и TypeScript (@gigastt/client) с переподключением по retry_after_ms.

Если сервер не нужен, движок встраивается прямо в приложение: npm install gigastt, pip install gigastt или крейт gigastt-core без серверных зависимостей.

Железо и ускорение

Требования: Rust 1.88+, protoc в PATH, macOS 14+ (Apple Silicon) или Linux x86_64, около 1.5 ГБ диска. Ускоритель выбирается на этапе компиляции: бинарник несёт тот провайдер, с которым его собрали. На ANE энкодер идёт примерно в 15.6 раза быстрее, сквозной прогон в прогретом состоянии — около 10 раз относительно CPU-сборки, с небольшим расхождением в точности.

Безопасность и запуск в продакшене

Сервер по умолчанию слушает только петлевой интерфейс и отказывается подниматься на внешнем адресе без явного --bind-all. Кросс-доменные запросы из браузера тоже закрыты, пока вы не добавите источник через --allow-origin.

Что ещё встроено: ограничение частоты запросов по IP, лимиты на размер кадра WebSocket и тела REST-запроса, таймаут простоя, отдача Retry-After при переполнении пула, корректное завершение с дозакрытием активных сессий, метрики Prometheus на отдельном порту и горячая перезагрузка модели, доступная только с петлевого интерфейса.

Практические сценарии

1. Расшифровка интервью и созвонов внутри контура. Записи клиентских разговоров не покидают машину, что снимает вопросы про персональные данные и коммерческую тайну.
2. Обработка звонков контакт-центра. Стереозапись разбирается по каналам: левый становится speaker_0, правый speaker_1, дальше текст уходит в аналитику диалогов.
3. Голосовой ввод в собственном приложении. Через WebSocket и partial-результаты собирается диктовка с откликом меньше секунды.
4. Конвейер «папка на входе, текст на выходе». Команда watch подхватывает новые файлы и складывает расшифровки рядом, дальше их забирает автоматизация.
5. Субтитры. Экспорт в SRT и VTT с таймингами по словам закрывает задачу без отдельного инструмента.
6. Замена облачного Whisper API. OpenAI-совместимый эндпоинт позволяет переключить существующий код на локальный сервер сменой базового URL.

Стоимость и лицензии

Сам движок бесплатен и распространяется по MIT, веса GigaAM v3 тоже MIT, поэтому коммерческое использование допустимо. Расходы сводятся к железу: около 1.5 ГБ диска и 400–800 МБ памяти на инстанс.

Чеклист «что делать, если…»

Ссылки

• Репозиторий: github.com/ekhodzitsky/gigastt
• Пакет и версии: crates.io/crates/gigastt
• Документация API и бенчмарков: docs в репозитории
• Воркбук со сценариями: ekhodzitsky.github.io/gigastt
• Модель GigaAM: github.com/salute-developers/GigaAM
• Веса на Hugging Face: huggingface.co/ai-sage/GigaAM-v3
• Облачная альтернатива SaluteSpeech: developers.sber.ru/docs/ru/salutespeech/overview

По теме

• Статья: Не диктовка, а диалог: новый голосовой режим Codex
• Блог: ChatGPT Voice приехал в десктоп — теперь голосом можно рулить агентами
• База знаний: Silero Models — open-source модели речи на русском (TTS, STT, VAD)

Если вы работаете с записями разговоров и упираетесь в требования по хранению данных, локальный STT часто снимает вопрос ещё до того, как он дойдёт до службы безопасности.

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov