英国AI安全研究所とAnthropicが大規模なデータポイズニング攻撃に関する研究を発表

要点：わずか250件の文書でモデルの学習データを汚染できることが判明し、攻撃の成功に必要なデータ量はモデル規模に比例しないことが明らかになりました。これは従来の想定よりもデータポイズニング攻撃が容易であることを示しています。