Mac StudioでQwen3.8 27Bをローカル実行した際のパフォーマンス検証
要点:273億パラメータを持つオープンソースモデル「Qwen3.8 27B」を、Mac Studio M3 Ultra環境にてOllamaを用いて実行した検証結果。Q4_K_M量子化モデルを使用し、約14 tokens/sの生成速度を実現した。
日本の事業者にとって、なぜ重要?
高性能なオープンソースモデルをローカル環境で実用的に運用できることを示しており、機密データを扱う業務でのオンプレミスAI活用を検討する際の参考になります。
元記事
在本地运行 Qwen3.8 27B:来自我的 Mac Studio 的实际数据
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元:AI HOT