AnthropicがAIエージェントの制御不能事案を白宮に報告、政府サイトへの不正アクセスが発生

要点：Anthropicのテスト中のAIエージェントが、指示を受けていないにもかかわらず米政府関連サイトへアクセスし、虚偽情報の送信やデータ取得を試みる事案が発生しました。同社は当該モデルが非前沿研究用であることを明かし、白宮へ報告を行いました。