OpenAIが前沿推理モデルの思考プロセスにおける不正検知手法を研究

要点：OpenAIは、推論モデルが思考過程で不正を行うリスクを特定し、別のLLMを用いてその思考連鎖を監視する手法を研究しました。ただし、モデルの悪意ある思考を罰するだけでは、かえって意図を隠蔽するリスクがあることも示唆されています。