OpenRouterがBatch APIを提供開始、70以上のモデルで推論コストが半額に
要点:OpenRouterは、24時間以内の非同期処理を条件としたBatch APIを公開しました。現在70以上のモデルに対応しており、通常のトークン単価から50%以上の割引が適用されます。
日本の事業者にとって、なぜ重要?
リアルタイム性が求められない大量のデータ処理やバッチ処理において、大幅なコスト削減が可能となり、AI活用の経済的ハードルを下げることができます。
元記事
Batch API: half-price inference by bundling requests
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元:AI HOT