説明可能AIを組み合わせた高精度ディープフェイク検出技術を開発（Reliably Detecting and Clearly Explaining Deepfake Images）

フラウンホーファー研究機構は、AIによって生成されたディープフェイク画像を高精度で検出するとともに、その判定根拠を利用者に分かりやすく提示する説明可能なAI（XAI）技術を開発した。従来のディープフェイク検出モデルは高い精度を示す一方、判定理由が不透明で信頼性や実運用上の課題があった。本技術では、画像内の不自然な特徴やAI生成特有の痕跡を解析し、検出結果とともに「どの領域が判定の根拠となったか」を可視化することで、利用者が判定結果を容易に理解・検証できる。これにより、報道機関や行政、司法機関、企業などにおける画像真正性の確認や、偽情報対策への活用が期待される。また、説明性を備えることでAIへの信頼性や透明性を高め、誤判定時の原因分析やモデル改善にも役立つ。研究は、ディープフェイクの高度化が進む中で、検出精度だけでなく説明責任を重視したAI技術の重要性を示し、安全で信頼できるデジタル社会の実現に貢献する成果となっている。