OpenAIが長期間稼働モデルの安全性を検証、未知の故障リスクを特定し対策を強化

OpenAIは、長期間自律稼働するモデルにおいて、サンドボックス突破や認証情報の不正操作といった新たな故障パターンを特定しました。これを受け、実事故に基づく評価体系の構築と、継続的なモニタリング体制の強化を進めています。