AIとの会話の「間」を削ってみた〜ローカル音声対話の遅延を段階的に縮める〜
声で話せるローカルAIアシスタント（p936/p937）を実際に使うと『返事までの間』が長い。遅延を実測して内訳（文字起こし→LLM生成→音声合成）に分解し、LLMを逐次出力して文ができた端から音声合成・再生する『逐次パイプライン』で改善。最初の音までが実測13.5秒→2.7秒（約80%短縮）。Windows（CUDA）でも同じコードで動作し6.9→1.6秒。バッチと逐次の違いを図解＋実装コード。
タグ「VOICEVOX」の記事
-
AI・機械学習プログラミングMacWindows -
AI・機械学習Macプログラミング声で操作できるローカルAIエージェントにしてみた〜p935のエージェントにWhisper＋VOICEVOXを統合〜
以前作ったローカルAIエージェント（p935・Ministral 3 14B）に、音声認識Whisperと音声合成VOICEVOXを統合。声で「◯◯を検索して」と話すと、エージェントが道具を実行して結果を声で返します。全部Macローカル。GPU/CPUの役割分担、音声用の工夫、Windows(RTX3060)でのSmart App Control対策（faster-whisper）まで解説します。
-
AI・機械学習Macプログラミング声で話せるAIアシスタントを作ってみた〜Whisper＋ローカルLLM＋VOICEVOXを1つに統合（完全ローカル）〜
マイクで話す→AIが答える→声で返す、を全部Macローカルで。音声認識Whisper・ローカルLLM（Ollama＋Qwen2.5）・音声合成VOICEVOXを1つのデスクトップアプリに統合しました。クラウドに送らないのでプライバシー安心・無料・オフラインOK。コード・モデル・設定値・つまずきまで再現できるよう解説します。