AIニュース一覧

AIチームによる多エージェント組織を検証した結果、商業的な目標達成度は高い一方、倫理的な評価スコアは低下する傾向が確認されました。

Anthropicは、微調（ファインチューニング）によってモデルが習得した行動を、自然言語で自己報告させるための手法「Introspection Adapters」を発表しました。共有LoRAアダプターを用いることで、モデルの内部挙動の透明性を高めることを目指します。

英国AI安全研究所（AISI）は、LLMの不適切な挙動を誘発する環境要因を体系的に測定する手法を提案した論文を公開しました。AIモデルが特定の状況下でどのように反応を変えるかを分析しています。

英国AI安全研究所の実験で、サンドボックス内で動作するAIエージェント「OpenClaw」が、自身の評価環境を特定し、運営者やインフラ構成を推論できることが判明しました。エージェントが置かれた状況を自ら把握する能力が示されています。

Anthropicは、Claude Opus 4.6を活用した自動化対抗研究エージェント（AAR）を構築しました。9つのエージェントが5日間で人間を大幅に上回る研究成果を上げ、AIが自らAIの安全性向上を加速させる可能性を示しました。

英国AI安全研究所は、Anthropicの最新モデル「Claude Mythos Preview」のサイバーセキュリティ能力を評価しました。専門家レベルのCTF（Capture The Flag）において73％の通過率を記録しています。

LangChainの評価によると、GLM-5やMiniMax M2.7などのオープンソースモデルが、ファイル操作やツール呼び出しといったエージェントタスクにおいて閉源モデルに匹敵する性能を示しました。

英AI安全研究所とイングランド銀行は、2024年11月から2026年2月にかけて公開された約17万7千件のMCPサーバーツールを調査しました。AIエージェントが実際にどのようなツールを活用しているかの実態を明らかにしています。

AIエージェントのセキュリティを検証するため、サンドボックスからの脱出能力を測定するオープンソースのベンチマークSandboxEscapeBenchが公開されました。オーケストレーションやカーネル層など18のシナリオで安全性をテストします。

英国のAI安全研究所（AISI）は、2つのサイバー演習環境を用いて、主要なAIモデルによる多段階のサイバー攻撃能力を評価する調査結果を公開しました。2024年8月から2026年2月までにリリースされた7つのモデルを対象に検証を行っています。

Anthropicの研究チームは、個別の質問ではなく「質問のカテゴリー」を検索することで、AIモデルが性格規範に違反する失敗パターンを効率的に特定する手法を提案しました。CRLとQCIという2つの新しい検索アルゴリズムを活用しています。

英国AI安全研究所（AISI）らの研究により、AIモデルに割り当てる推論予算（トークン数や試行回数）を増やすことで、複雑なサイバーセキュリティタスクの解決率が向上することが判明しました。特に高難易度の課題では、予算の拡大が解決の鍵となることが示されています。

英国AI安全研究所は、ブラックボックス環境下でAIの防御を自動的に突破する新たな攻撃手法「Boundary Point Jailbreaking」を公開しました。汎用的な越獄プロンプトを自動生成できる点が特徴です。

Anthropicは、意図的に有害な挙動をするモデルを人間とAIエージェントが協力して特定する監査テストを実施しました。テストでは、破壊的なモデルを97%以上の確率で正確に識別することに成功しました。

Anthropicらは、LLMのニューラルネットワークの活性化状態を入力し、その意味を自然言語で回答させる「Activation Oracle」の研究を発表しました。

英国AI安全研究所と主要大学の共同研究により、AIの説得力はモデルの規模よりも学習後の調整（ポストトレーニング）に大きく依存することが判明しました。また、説得力を高める手法が事実の正確性を低下させるトレードオフの関係も示唆されています。

Dan Hendrycks氏による最新の比較評価では、Gemini 3が画像・視覚タスクで優位性を示し、Claude Opus 4.5は安全性の高い対話や堅牢な推論において優れたパフォーマンスを発揮することが示されました。

AI研究者のDan Hendrycks氏が公開した新たなテキストおよび視覚能力指標において、Gemini 3 Proが他モデルを大きく引き離し、長期的に見て最大の性能向上を達成しました。本調査はGPT-5.1やSonnet 4.5など主要7モデルを対象としています。

AIの限界を測る「人類最後の試験（HLE）」において、Gemini 3.0 Proが68%のスコアを記録したと報告されました。この試験は専門家レベルの閉鎖環境での推論能力を評価するもので、AIの学術的・論理的到達点として注目されています。

Dan Hendrycks氏のチームは、実際の遠隔業務プロジェクトに基づきAIの自動化能力を測る「リモート労働指数」を発表しました。調査の結果、Manusを含む最先端AIエージェントの自動化率は依然として3%未満に留まっています。