月之暗面が新アーキテクチャ「Kimi Linear」を発表、推論効率と性能を両立
月之暗面(Moonshot AI)が発表した混合線形アテンションアーキテクチャ「Kimi Linear」は、短・長文脈および強化学習の全タスクで従来のアテンション機構を上回る性能を記録しました。KVキャッシュ使用量を最大75%削減し、100万トークンの文脈下でデコードスループットを最大6倍に向上させています。
推論コストの削減と長文脈処理の高速化を実現する技術であり、AIモデルの運用効率化や低コストな大規模AI活用を目指す事業者にとって重要な技術的進歩です。