Inception Labsが超高速推論モデルMercury 2を発表
要点：Inception Labsは、NVIDIA H100上で毎秒1000トークン以上の生成が可能な推論拡散言語モデルMercury 2を発表しました。300トークンの推論を約300ミリ秒で完了し、リアルタイムの音声対話に適した速度を実現しています。
日本の事業者にとって、なぜ重要？
音声対話型AIの遅延を大幅に短縮できる可能性があり、顧客対応やリアルタイムのAIアシスタント開発におけるユーザー体験の向上が期待されます。
元記事
Mercury 2: the first reasoning model fast enough to pick up the phone
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元：AI HOT