Google研究:大規模言語モデルの事実誤認は知識不足よりも「想起能力」の欠如が主因
Googleの研究チームは、最新のLLMにおける事実誤認の多くは知識の欠如(空の棚)ではなく、保持している知識を正しく引き出せないこと(鍵の紛失)に起因することを明らかにしました。この分析手法と新たな評価ベンチマーク「WikiProfile」を公開し、モデルの事実想起能力の改善に向けた指針を示しています。
AIのハルシネーション(もっともらしい嘘)の原因が知識の欠如か想起の失敗かを切り分けることで、今後のAI活用においてモデルの精度向上や信頼性評価の精度が高まる可能性があります。