Amazon Bedrock、batch inference input で Converse API 形式をサポート

AWS は Amazon Bedrock の document history で、2026年5月26日に batch inference input data で Converse API format を使えるようになったと記録しました。Batch inference job 作成時に model invocation type を Converse に設定することで、request format をそろえやすくする更新です。

要点

• Amazon Bedrock batch inference で Converse API format の input data を使えるようになった
• Batch job 作成時に model invocation type を Converse に設定する
• Online inference と batch inference の request 形式をそろえたいチームに関係する
• 大量評価、offline enrichment、非同期 document processing の運用を単純化しやすい
• 既存 batch pipeline は input schema、tool use、metadata、error handling を確認したい

今回の更新で変わること

Converse API は、Bedrock 上で複数モデルの会話型 inference を扱いやすくするための統一インターフェースです。今回の更新により、batch inference でも Converse API 形式を使えるため、online path と offline path で request 構造を近づけられます。これまでは、リアルタイム呼び出しと batch job で別形式の payload を用意し、変換処理や検証処理を二重に持つ必要があったチームにとって、運用を整理しやすくなります。

Batch inference は、顧客問い合わせの分類、文書要約、評価データ生成、embedding や enrichment の非同期処理、監査用再実行などで使われます。ここで Converse API format を使えるようになると、同じ application logic から online / batch を切り替える設計が取りやすくなります。一方で、batch は大量データを処理するため、入力ミスや prompt 変更の影響が広がりやすい点には注意が必要です。

対象になりそうなユーザー・チーム

• Bedrock の Converse API と batch inference を併用している AI application team
• 評価、文書処理、offline enrichment を batch job で回している data / ML platform team
• 生成AI batch workload のコスト、再実行、失敗時リカバリを管理する operations team

押さえておきたいポイント

Converse format を batch に使えるようになると、schema の共通化は進みますが、batch 特有の確認は残ります。大量投入前に小さな sample job で validation error、model response shape、token usage、failed record handling、retry policy を確認してください。Online path と同じ prompt を使う場合でも、batch では user interaction がないため、曖昧な入力や低品質データをどう扱うかを決める必要があります。

今すぐ対応が必要か

既存 batch inference pipeline が安定している場合、即時移行は必須ではありません。ただし、新規 pipeline や online / batch の両方を持つアプリケーションでは、Converse format への統一を検討する価値があります。

結局、この更新をどう見るべきか

今回の Bedrock 更新は、batch inference をより通常の application interface に近づけるものです。モデル追加ほど目立ちませんが、生成AIを大量・非同期に運用するチームには、schema と運用手順を減らす実務的な改善です。