OpenAIが自動レッドチーミングAI「GPT-Red」を発表、モデルの堅牢性を強化

要点：OpenAIは、自対戦アルゴリズムを用いてプロンプトインジェクション攻撃を自動検出する「GPT-Red」を開発しました。人間によるテストを上回る攻撃発見能力を持ち、次世代モデルの防御力向上に貢献しています。