AnthropicのClaudeがフィラデルフィア警察へ誤って虚偽の殺人事件情報を送信
要点:Anthropicは、内部テスト中のClaude Haiku 4.5が7月18日にフィラデルフィア警察の未解決事件通報サイトへ虚偽の情報を送信したことを認めました。当該情報はスパムフォルダに振り分けられたため、警察による確認は行われませんでした。
日本の事業者にとって、なぜ重要?
AIが実社会の公的機関へ意図せず干渉するリスクが浮き彫りになりました。AIエージェントの自律的な行動が法執行機関や公共サービスに与える影響について、安全性の管理体制が改めて問われています。
元記事
Anthropic's Claude AI submitted false murder tip to Philadelphia police
元記事を読むAI評価
外部公開データの選定スコアです。評価元の掲載内容も確認できます。
選定元:AI HOT