OpenAIとDeepMindが人間の選好から学習するAIの安全性を共同研究
要点：OpenAIとDeepMindは、AIが人間の判断を介して望ましい行動を学習するアルゴリズムを開発しました。複雑な目標設定において、AIの誤った行動や危険な挙動を回避するための安全なシステム構築を目指しています。
日本の事業者にとって、なぜ重要？
AIの出力が人間の意図に沿うように制御する技術は、現在のLLMにおけるRLHF（人間によるフィードバックからの強化学習）の先駆けであり、AIの信頼性確保に不可欠な論点です。
元記事
Learning from human preferences
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元：AI HOT