
ASR
Whisper
Whisper本番運用:リアルタイム二言語切替の失敗と成功、そして実動アーキテクチャ
VoicePingがカスタマイズしたWhisper V2モデルを活用し、単一WebSocketストリーム内で自動・低遅延の言語切替を実現するバイリンガルモードをどのように設計したか。
Akira Noda - VoicePing
2 min
22件の記事

VoicePingがカスタマイズしたWhisper V2モデルを活用し、単一WebSocketストリーム内で自動・低遅延の言語切替を実現するバイリンガルモードをどのように設計したか。

NeMo MSDDとPyannote 3.1を6つの実運用シナリオで比較評価した技術レポートです。

PythonのWebSocketプロキシをGoでリライトし、ロックフリーのコネクションプーリングとイベント駆動型リコンシリエーションを実装した技術レポートです。

AsyncLLMEngineと適切なContinuous Batching設定により、vLLM推論スループットを82%向上させた方法
FastAPI + マルチプロセッシング構成における、GPU効率化を妨げるアーキテクチャ上のボトルネックの特定と分析

顔分析、姿勢推定、感情検出のための動画前処理パイプラインの構築に関する研究レポートです。