Inception Labsが検索特化型モデルMercury 2を発表、秒間1000トークン超の高速推論を実現

要点：Inception Labsは検索パイプライン向けの高速モデルMercury 2を公開しました。拡散式並列デコードにより、既存の軽量モデルと比較して大幅な高速化と低コストな運用を実現しています。