OpenRouterがプロンプトキャッシュとスティッキールーティングを導入、AIエージェントのコストを削減
OpenRouterがプロンプトキャッシュとスティッキールーティング機能を導入し、多輪対話やエージェント利用時のトークンコストを大幅に削減しました。キャッシュ利用時の読み取り価格は通常入力の0.1倍から0.5倍に抑えられます。
日本の事業者にとって、なぜ重要？
AIエージェントの運用において、長文のコンテキストを繰り返し使用する場合のコストを劇的に下げられるため、実用化のハードルを大きく引き下げる施策です。
元記事
The Cheapest Token Is a Cached One： Prompt Caching + Sticky Routing
元記事を読む選定・発見元
このニュースの選定情報と中国語の掲載内容を確認できます。
AI HOTの掲載ページを見るこのニュースを事業に活かす