Amazon Bedrockの推論コストを左右する4つのリクエスト設定
推論コストはリクエスト単位の選択でも変わる
Amazon Bedrockの推論費用は、モデルやプロンプトを変えなくても、リクエストごとの設定によって変動する。記事が扱うのは、プロンプトキャッシュの有効期間、サービスティア、推論努力量(reasoning effort)、出力上限のmaxTokensの4項目だ。入力・出力トークンは処理したモデルとティアの料金で課金され、キャッシュの読み書きには別カウンターが適用される。推論トークンも出力トークンとして数えられるため、設定変更の評価にはトークン量だけでなく、品質やタスク完了率の確認が欠かせない。
プロンプトキャッシュでは、TTLを長くすれば常に安くなるわけではない。記事が示すAnthropic Claude Sonnet 5とAnthropic Claude Opus 5の料金では、5分キャッシュへの書き込みは入力料金の1.25倍、1時間書き込みは2倍、キャッシュ読み出しは0.1倍。毎回同じプレフィックスが再利用され、各読み出しでTTLが更新される前提では、5分キャッシュは5分以内の最初の再利用で元が取れる。一方、5分を超える間隔で同じプレフィックスが届く場合は、毎回書き直しが発生するため、1時間キャッシュは1時間内の2回目のリクエストから有利になる。キャッシュなしと比べて1時間キャッシュが得になる目安は、1時間に3リクエストだ。
キャッシュの有効性はプレフィックスの安定性にも左右される。システム指示やツール定義など、キャッシュ対象の前半部分が変わるとキャッシュミスとなり、新しい書き込みが発生する。チェックポイントはツール、システム、メッセージの順で評価されるため、先行するセクションの変更は後続部分も無効化し得る。記事のClaude Sonnet 5での6回の試験では、システムプロンプトとツール定義をそれぞれ一度変更したところ、どちらもキャッシュ読み出しがゼロとなり、新しい書き込みが発生した。
ティアと推論努力量は、単価だけでなく処理特性も変える
対話応答ほどの低遅延を要求しないバックグラウンド処理では、対応モデルに対してFlexティアを選ぶことでコストを抑えられる可能性がある。記事のAmazon Nova 2 Lite試験では、defaultとFlexを各200回、交互に送信した。両ティアで入出力トークン数は同じで、400リクエストすべてが要求したティアで処理された。中央値のレイテンシ差は測定ノイズと区別できなかった一方、記事執筆時点のus-west-2の公表料金ではFlexがStandardの半額で、請求額にも反映された。ただし対応状況はモデルごとに異なる。非対応モデルへの指定はStandardへ自動フォールバックせず、ValidationExceptionになる。Standardへの再試行を実装する場合は、非対応ティアのエラーに限定し、アプリケーション側の再試行回数も制限する必要がある。
適応型思考を使うモデルでは、reasoning effortも出力トークン量を大きく左右する。記事によると、Claude Sonnet 5とClaude Opus 5は、thinkingフィールドを省略してもhighが既定であり、Claude Haiku 5.5はmediumが既定だ。Sonnet 4.6からSonnet 5へアプリケーションを変更せず移行すると、思考トークンが新たに課金対象となり、maxTokensが思考と応答テキストの合計を制限するケースがある。努力量はthinkingではなくoutput_configで指定する。
Claude Opus 5のツール呼び出しエージェントを使った試験では、3つのタスクを各努力量で8回ずつ実行し、全24回で正答した。中央値の出力トークン数はlowで936、mediumで1,484(low比+59%)、highで2,521(+169%)、xhighで2,964(+217%)、maxで3,762(+302%)だった。一方、コード生成タスクではlowが676、highが743で、差は実行ごとの変動範囲内だった。したがって、努力量を下げれば常に品質を損なわず節約できるわけではない。タスクの性質に応じて出力トークンと合格率をともに測定する必要がある。
maxTokensは費用の上限だが、出力の適切さは保証しない
maxTokensは、異常に長い出力やループに対するアプリケーション側の出力上限として利用できる。ただし、これは安全制御ではない。記事は本番の生成AIワークロードでAmazon Bedrock Guardrailsを利用し、コンテンツフィルタリングやプロンプト攻撃検知などの責任あるAI対策を組み合わせるよう述べている。
クォータ上、リクエスト開始時には入力トークン数に加えてmaxTokensが差し引かれる。このため、必要以上に大きな上限は同時実行可能数を減らす要因になる。記事のClaude Sonnet 5試験では、通常出力5件の最大が103トークンだったため、余裕を持たせた例として上限を155に設定した。同じ意図的に冗長なプロンプトを2,048上限と155上限で実行すると、生成トークンはそれぞれ2,048と155となり、後者は1,893トークンを抑制した。ただし、どちらもmax_tokensで停止しており、上限設定によって回答が打ち切られた。特に複数ターンやエージェント処理では、途中の切り詰めが後続ステップを壊す可能性がある。
本番ではタスク種別ごとに出力分布を取り、P95またはP99を基準に余裕を加えて上限を決める。P95はコスト露出をより強く制限する一方、長い正常出力が切れるリスクが高まる。P99は長い出力を許容しやすい反面、上限も高くなる。適応型思考を使う場合は思考トークンも上限に含まれるため、thinkingを有効にした条件で分布を測る。stopReasonがmax_tokensになったリクエストは、上限を引き上げる前にプロンプトとタスク要件を確認する。
開発者・エンジニア視点での考察
-
設定をモデル能力レジストリとして管理する。 キャッシュTTL、サービスティア、reasoning effort、
maxTokensの扱いはモデル、モデルバージョン、リージョン、APIによって異なる。ルーティングやモデル更新に伴う実行時エラーを減らすため、対応能力を記録し、送信前にリクエストを検証する。応答の解決済みサービスティアやキャッシュ読み書きカウンターも、期待値との照合に使う。 -
費用の判定は設定変更ごとに分離し、品質指標と一緒に行う。 一度に複数設定を変更すると、節約の原因や品質低下の責任箇所を特定しにくい。1項目ずつ変え、トークン量・費用だけでなく、タスク合格率、完了率、切り詰め停止、レイテンシも比較する。特にキャッシュはTTL別の読み書きトークン、reasoning effortはリクエスト単位の出力トークンを追跡すると、期待した経済効果を検証しやすい。
-
キャッシュをテナント境界と混同しない。 記事ではキャッシュエントリーはテナント単位ではなくアカウントとリージョンにスコープされるとしている。マルチテナント環境では、プロンプト構築前にテナント認可を行い、キャッシュ可能なプレフィックスにテナント固有のSHA-256ハッシュを付加してエントリーを分割する。規制要件上、強いデータ境界が必要な場合は、ハッシュによる分割だけに依存せず、テナントごとにAWSアカウントを分ける選択肢を検討する。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。


