オープンウェイトモデルは閉鎖型モデルより攻撃耐性が低い可能性、PromptArmorが調査結果を発表
要点：PromptArmorの調査によると、オープンウェイトモデルは閉鎖型モデルと比較して、間接的なプロンプトインジェクション攻撃に対する脆弱性が88%高いことが判明しました。約9800回の試験を通じて、攻撃への易感率に顕著な差が確認されています。
日本の事業者にとって、なぜ重要？
オープンソースやオープンウェイトのAIモデルを自社システムに組み込む際、セキュリティ対策の重要性が改めて浮き彫りとなりました。導入時のリスク評価や防御策の検討材料として活用すべきです。
元記事
Open-weight models 88% more susceptible to cyber attacks
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元：AI HOT