2026-02-20 ケンブリッジ大学
ケンブリッジ大学の研究者らは、主要なAIエージェントの安全性と透明性を評価する「AI Agent Index」を作成し、現在のAIエージェントの多くで安全情報の公開が著しく不足していることを明らかにした。研究では米国や中国を中心とした30の先進的AIエージェントを調査した結果、エージェント固有の安全評価やリスク分析をまとめた「システムカード」を公開しているのはわずか4件に過ぎなかった。また30のうち25は内部安全テスト結果を公開しておらず、23は第三者評価のデータも示していなかった。AIエージェントは旅行予約や業務自動化など日常的な作業を自律的に実行する能力を持つが、その能力に比べて安全性やリスク管理の透明性が大きく遅れていることが指摘されている。研究チームは、エージェントの行動や自律性に関する評価の公開と標準化が、AIの安全利用と政策形成のために不可欠だと強調している。

For 198 out of 1,350 fields, no public information was found. Missing information is concentrated in ‘Ecosystem Interaction’ and ‘Safety’ categories. Only 4 agents provide agent-specific system cards.
<関連情報>


