アントグループが軽量モデル「Ling-3.0-tiny」をオープンソース化、1.3Bの低負荷で実務利用へ
要点:アントグループは、総パラメータ数7.9Bながら推論時に1.3Bのみをアクティブ化する混合モデル「Ling-3.0-tiny」を公開しました。BF16、FP8、INT4の3つの形式で提供され、効率的な運用が可能です。
日本の事業者にとって、なぜ重要?
推論コストを抑えつつ実務レベルの性能を目指す軽量モデルの選択肢として、オンプレミスやエッジ環境でのAI活用を検討する事業者にとって注目すべき技術です。
元記事
Ling-3.0-tiny 正式开源:让 1.3B 激活参数,进入真实任务
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元:AI HOT