音声を文字に変えるAIを大量に運用すると、GPUの使用料が大きな負担になります。AWSは2026年11月13日、音声認識サービスのAssemblyAIが、EC2 Spot InstancesでGPU推論の計算費用を70%削減した事例を公開しました。推論は、学習済みのAIモデルに音声などを入力し、認識結果を得る処理です。削減率は、オンデマンド利用時の費用と比較した値です。
AWSが紹介したのは、AssemblyAIの運用実績であり、音声認識APIの利用料金が一律70%下がったという話ではありません。安価な計算資源の利用に加え、突然の停止にも対応できる処理設計を組み合わせています。
AssemblyAIの「70%削減」はGPU推論の計算費用であり、音声認識APIの料金全体ではない
AssemblyAIは、音響モデルや言語モデルなどを使う音声認識の推論を、GPU上で実行しています。利用量が増えても待ち時間を抑えつつ、GPU費用を管理する必要があります。AWSによると、AssemblyAIはGPU搭載のSpot Instancesを本番環境に採用し、オンデマンド価格に対して推論計算費用を約70%抑えました。
この「70%」は、AWSが紹介した顧客事例での削減率です。API利用者が払う料金の値下げ率でも、ストレージ・通信・監視・開発人件費を含む総費用の削減率でもありません。
節約額は、リージョン、GPUの種類、処理量、Spotの確保状況によって変わります。リージョンは、AWSのシステムを配置する地域です。AWSの記事は特定企業の構成を紹介したもので、他社でも70%の削減率を再現できると保証するものではありません。
EC2 Spot Instancesは中断通知から原則2分で停止するため、処理の再開手順が必要
EC2 Spot Instancesは、AWSで余っている計算資源を利用できる仕組みです。通常のオンデマンド起動より費用を抑えられますが、AWSが計算資源を必要とすると、利用中のインスタンスが中断されます。インスタンスは、処理を実行する仮想サーバーです。
一般的なSpot中断通知は、停止の約2分前に届きます。運用する側は、その短時間に処理を安全に終了し、別の実行先へ仕事を渡せるようにする必要があります。対応できなければ、音声ファイルの処理漏れや待ち時間の増加につながります。通知を検知するだけでなく、処理状況をインスタンスの外で管理することも重要です。
AssemblyAIは、停止の可能性を前提にタスクを管理し、必要に応じてオンデマンドの計算資源も組み合わせています。安さだけを見てGPUを1種類に固定すると、その機種が確保しにくくなった際に推論の実行先が不足します。別の機種も利用できるよう、予備の選択肢が必要です。
AssemblyAIはECS・SQS・複数GPU機種を組み合わせ、Spot中断時に処理を引き継ぐ
AssemblyAIの構成には、Amazon ECSのキャパシティープロバイダー、Amazon SQSのキュー、複数のGPUインスタンスファミリーが使われています。ECSはコンテナーを実行・管理するサービスで、キャパシティープロバイダーは実行先の計算資源を管理します。SQSのキューには、処理待ちの仕事を入れておきます。
GPUはg4dn、g5、g6など複数の種類を候補にしています。特定のインスタンス種別や、リージョン内の設備群であるアベイラビリティーゾーンで空きが不足しても、別の候補で処理できる構成です。
音声ファイルの処理依頼をキューに入れておくと、実行担当のワーカーが停止しても、仕事の状況を追跡しやすくなります。AWSの記事では、EC2の中断イベントをAmazon EventBridgeで受け取り、AWS Lambdaなどで処理中のタスクをキューへ戻す設計も紹介されています。
開発者は、処理中の仕事をほかのワーカーに見せない時間(可視性タイムアウト)、リトライ回数、失敗時のデッドレターキューをまとめて設計する必要があります。設計が不十分だと、同じ仕事の同時実行や、処理の停止が起こる可能性があります。再試行できない仕事や失敗が続く仕事は、失敗した依頼を分けて保管するデッドレターキューで確認します。再実行による二重処理を防ぐため、処理IDを使った重複排除なども重要です。
AssemblyAIはリージョンごとにECS・SQSを分離し、音声データの所在地要件に対応する
音声には、名前、連絡先、会話内容などの機微な情報が含まれます。医療・金融・法務分野の顧客を持つサービスでは、どの国・地域で処理するかが契約条件になる場合もあります。AWSの記事は、推論の構成をリージョンごとに独立させ、各リージョンにSQS、ECS、GPU群を置く方式を紹介しています。
ただし、計算基盤をリージョンごとに分けるだけで、データの所在地を保証できるわけではありません。運用する側は、入力音声、文字起こし結果、ログ、バックアップが指定地域内に保存されるか確認する必要があります。リージョン間でデータが転送されないかも確認してください。Spotの実行先を確保しながら、顧客とのデータ処理上の約束を守ることが、設計上の課題です。
バッチ文字起こしはSpot GPUと相性がよいが、リアルタイム音声認識では遅延を別に検証する
ファイル単位の文字起こしのように、仕事を区切ってやり直せる処理はSpot運用に適しています。一方、通話中に結果を返すリアルタイム文字起こしでは、停止後にタスクを再実行するだけでは、遅延や会話の途切れを解消できない可能性があります。開発者は、遅延の目標、再処理に使える時間、許容できる欠損の範囲を先に定める必要があります。
実運用では、GPU費用に加え、中断率、再処理率、SQSに仕事が滞留する時間、文字起こし完了までの時間、オンデマンドへ切り替える割合を継続的に測定してください。安いGPUの空きを長時間待ち、利用者の納期に遅れるようでは、費用対効果が下がります。AssemblyAIの事例は、安価なGPUとサービスの信頼性を両立するための具体的な構成例として参考になります。




