Русская STT без GPU: GigaAM v3 вместо faster-whisper (WER 3.5% vs 15.5%) #211

New issue

Closed

opened 2026-07-21 19:27:13 +00:00 by ekhodzitsky · 1 comment

ekhodzitsky commented

2026-07-21 19:27:13 +00:00

(Migrated from github.com)

Привет!

Увидел, что voicy переехал с Google Speech на faster-whisper с CUDA-воркерами. Есть вариант убрать GPU-зависимость для русского трафика и заодно сильно поднять точность.

Я делаю gigastt — self-hosted сервер распознавания русской речи на GigaAM v3 (SberDevices), MIT: https://github.com/ekhodzitsky/gigastt

Замеры на одном и том же харнесе, 1000 сэмплов на домен, CPU:

WER, чистая речь (golos_crowd): 3.55% против 15.53% у faster-whisper Large v3. На YouTube-речи: 10.91% против 15.45%
RTF ~0.10 на обычном CPU (M1) — faster-whisper на CPU медленнее реального времени
Модель на диске ~225 MB (INT8), холодный старт <1 сек, RSS ~400 MB на сессию
OGG/Opus — нативно (формат голосовых Telegram), плюс WAV/MP3/FLAC/M4A
REST /v1/transcribe + WebSocket-стриминг, Docker-образ из коробки
Пунктуация и ITN (числа, регистр) восстанавливаются поверх основной модели встроенной RuPunct-моделью

Методология и честные оговорки (в т.ч. про пересечение Golos с обучением GigaAM): https://github.com/ekhodzitsky/gigastt/blob/main/docs/benchmarks.md

Про языки: основной движок — русский, но есть и мультиязычные головы GigaAM Multilingual (ru/en/kk/ky/uz; на английском 4.63% WER на LibriSpeech test-clean). Так что речь не о полной замене whisper на всех языках, а о бэкенде для русского трафика — который у voicy, насколько понимаю, основной.

Если интересно — готов сам сделать адаптер под voicy-recognition и прислать PR.

Привет! Увидел, что voicy переехал с Google Speech на faster-whisper с CUDA-воркерами. Есть вариант убрать GPU-зависимость для русского трафика и заодно сильно поднять точность. Я делаю gigastt — self-hosted сервер распознавания русской речи на GigaAM v3 (SberDevices), MIT: https://github.com/ekhodzitsky/gigastt Замеры на одном и том же харнесе, 1000 сэмплов на домен, CPU: - WER, чистая речь (golos_crowd): **3.55%** против **15.53%** у faster-whisper Large v3. На YouTube-речи: 10.91% против 15.45% - RTF ~0.10 на обычном CPU (M1) — faster-whisper на CPU медленнее реального времени - Модель на диске ~225 MB (INT8), холодный старт <1 сек, RSS ~400 MB на сессию - OGG/Opus — нативно (формат голосовых Telegram), плюс WAV/MP3/FLAC/M4A - REST `/v1/transcribe` + WebSocket-стриминг, Docker-образ из коробки - Пунктуация и ITN (числа, регистр) восстанавливаются поверх основной модели встроенной RuPunct-моделью Методология и честные оговорки (в т.ч. про пересечение Golos с обучением GigaAM): https://github.com/ekhodzitsky/gigastt/blob/main/docs/benchmarks.md Про языки: основной движок — русский, но есть и мультиязычные головы GigaAM Multilingual (ru/en/kk/ky/uz; на английском 4.63% WER на LibriSpeech test-clean). Так что речь не о полной замене whisper на всех языках, а о бэкенде для русского трафика — который у voicy, насколько понимаю, основной. Если интересно — готов сам сделать адаптер под voicy-recognition и прислать PR.

backmeupplz commented

2026-07-24 23:34:52 +00:00

(Migrated from github.com)

да фиг его знает, у меня войси все фигачит через виспер и больше нет переключалки языка, поэтому вряд ли получится

но пасяб

да фиг его знает, у меня войси все фигачит через виспер и больше нет переключалки языка, поэтому вряд ли получится но пасяб