RAGを用いたLLM推薦システムにおけるWebコンテンツ汚染の影響と脆弱性

要点：検索拡張生成（RAG）を活用した推薦システムが、悪意あるWebコンテンツにより虚偽の製品を推奨してしまう脆弱性が明らかになりました。新評価基准「FORGE」を用いた検証では、わずか1ページの汚染で最大27%の確率で誤った推奨が発生することが確認されています。