1602ソフトウェア工学 攻撃者がAIエージェントに規則違反を誘導する手法を解明（How attackers persuade AI agents to break the rules）
2026-08-19 スイス連邦工科大学ローザンヌ校(EPFL)EPFL（スイス連邦工科大学ローザンヌ校）の研究チームは、AIエージェントが単一の悪意ある指示ではなく、複数回の一見無害な対話を通じて誘導されるリスクを体系的に検証する自動テス...
敵対的攻撃
1602ソフトウェア工学 
1603情報システム・データ工学 ディープフェイク検出技術の脆弱性を発見（Deepfake detection methods vulnerable to attack）
2026-03-25 エディンバラ大学University of Edinburghの研究によると、現在のディープフェイク検出技術は攻撃に対して脆弱であることが明らかになった。研究では、検出AIに対してわずかな画像改変（敵対的攻撃）を加える...
1603情報システム・データ工学 AIの画像認識を操作する新たな攻撃手法を開発（New Attack Can Make AI ‘See’ Whatever You Want）
2025-07-01 ノースカロライナ州立大学（NCState）Photo credit: Kevin Ku.ノースカロライナ州立大学の研究チームは、AI画像認識システムを標的にした新たな攻撃手法「RisingAttacK」を開発しました。...