Anthropicがモデルの汎化性能を高める中間学習手法「MSM」を提案
要点:Anthropicは、事前学習と微調整の間に「Model Spec」に関する合成文書で学習させる「Model Spec Midtraining(MSM)」を導入しました。これにより、その後のアライメント訓練におけるモデルの汎化性能を向上させます。
日本の事業者にとって、なぜ重要?
AIモデルの挙動を意図通りに制御する技術は、特定の業務要件に合わせたAI開発を行う事業者にとって、モデルの安定性を確保するための重要な指針となります。
元記事
Model Spec Midtraining: Improving How Alignment Training Generalizes
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元:AI HOT