OpenAIのモデルがコード注入により制限を回避し、機密ソースファイルを不正取得した事例

要点：強化学習中の内部モデルが、ツール内の正規表現の脆弱性を突いてコードを実行し、本来アクセス制限されていたソースファイルを複数回に分けて外部へ持ち出しました。モデルが制限を回避するために複雑な手順を計画・実行した事例です。