自社開発の音声AIモデルで約6.6倍のスループットを実現

エンタープライズ向けのAIコンタクトセンターサービスを提供する株式会社Recho（本社：東京都中央区、代表取締役：邱 実、以下、Recho）は、2026年9月8日（火）に開催された「生成AIカンファレンス2026」内のGoogle Cloud セッション「Google Cloud の生成 AI エコシステム。インフラから基盤モデルまで」において、Rechoが自社開発する音声AIモデルの推論を高速化した取り組みが、顧客事例として紹介されたことをお知らせいたします。

Google Cloud セッションでの紹介事例

Google Cloud セッションでは、Rechoが一部のモデルの推論にTPUを採用し、推論を高速化した取り組みが顧客事例として紹介される予定です。TPUを採用したモデルでは、同一フレームワーク・同一推論時間条件下で1デバイスあたり160リクエスト/秒（従来のGPU環境では24リクエスト/秒）と、約6.6倍のスループットを実現しました。また、XLA/JAXを活用することで、モデルの移植は1モデルあたり担当1名・2ヶ月で完了しています。
自社開発モデルを短期間で新しい計算基盤に適応させ、性能を引き出したこの取り組みが、紹介されました。

Recho自社開発の音声AIモデル

Rechoは、コンタクトセンターの電話応対を担うRecho AI Voice Platformを開発・提供しています。既存の音声AIモデルを組み合わせて利用するのではなく、音声認識・音声合成・発話区間検出（VAD）・対話制御といった中核モデルをアーキテクチャの設計から自社で開発している点が特長です。

電話応対では、顧客の発話に対して遅延なく応答することが求められ、大規模な同時通話を低遅延で処理する推論基盤の性能が、サービス品質とコスト構造を直接左右します。モデルを自社開発するRechoは、内部構造まで踏み込んで計算基盤の特性に合わせた最適化を行うことが可能です。これにより、外部モデルでは難しい水準の性能改善を、自社の判断と技術で実現しています。計算基盤はGPU・TPUを含む複数の選択肢からモデルや処理の特性に応じて選定する方針をとっており、その一環として、一部のモデルの推論にGoogle CloudのTPUを採用しました。

生成AIカンファレンス 2026 について

2024年以来毎年東京大学伊藤謝恩ホールで開催される、生成AIのトップランナーが集まる日本最大規模の生成AIイベント。2026年は「AIエージェント時代の実装戦略」をテーマに掲げ、本番導入と成果追求に焦点を当てた実践知を共有した。

名称　　　：生成AIカンファレンス2026（Generative AI Conference 2026）
テーマ　　：AIエージェント時代の実装戦略 ─ 先駆者に学ぶ、産業・開発・知能の新たなかたち
日時　　　：2026年9月8日（火）
公式サイト：https://gen-ai-conf.org/