月之暗面の3兆パラメータ級モデル Kimi K3 が SGLang と Miles で即日サポート開始
要点:月之暗面が公開した3兆パラメータ級のオープンソースモデル「Kimi K3」に対し、推論エンジンSGLangと学習フレームワークMilesが即日対応しました。K3は独自の混合アーキテクチャを採用しており、SGLang環境下では高い推論速度を実現しています。
日本の事業者にとって、なぜ重要?
超大規模モデルの推論効率が向上することで、高コストなLLM運用がより現実的になる可能性があります。日本国内の事業者にとっても、最新の高性能モデルを効率的に活用するための技術的選択肢が広がります。
元記事
Blog SGLang and Miles Add Day-0 Support for Kimi K3 We are excited to announce Day-0 support for Kimi K3 in SGLang and Miles. K3 is the first open-source model in the 3-trillion-parameter class, and its hybrid architecture departs from convention in al… SGLang Team
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元:AI HOT