偽動画の生成元AIを識別する新技術を開発(New tool identifies the sources of fake videos)

2026-07-24 カリフォルニア大学リバーサイド校(UCR)

米国カリフォルニア大学リバーサイド校(UCR)の研究チームは、AI生成動画がどの生成モデルで作成されたかを特定する新しい映像フォレンジック技術「SAGA(Source Attribution of Generative AI Videos)」を開発した。従来の手法が動画の真偽判定に重点を置いていたのに対し、SAGAはAI動画生成器がフレームや時間的変化に残す固有の「指紋」を解析し、生成元を識別する。空間情報と時間情報を組み合わせて解析するほか、「Temporal Attention Signatures(T-Sigs)」により生成モデルごとの特徴を可視化する。19種類のAI動画生成モデルで評価した結果、動画が本物かAI生成かだけでなく、テキストから生成されたか画像から生成されたか、モデルのバージョンや開発組織まで高精度で識別できた。本技術は、偽情報の拡散経路の追跡、規制当局による透明性確保、生成AIの悪用対策などに役立つことが期待されており、AI時代のデジタルフォレンジック基盤として重要な成果である。

<関連情報>

SAGA:生成AI動画のソース帰属 SAGA: Source Attribution of Generative AI Videos

Rohit Kundu, Vishal Mohanty, Hao Xiong, Shan Jia, Athula Balachandran, Amit K. Roy-Chowdhury
arxiv  last revised 2 Apr 2026 (this version, v2)
DOI:https://doi.org/10.48550/arXiv.2511.12834

偽動画の生成元AIを識別する新技術を開発(New tool identifies the sources of fake videos)

Abstract

The proliferation of generative AI has led to hyper-realistic synthetic videos, escalating misuse risks and outstripping binary real/fake detectors. We introduce SAGA (Source Attribution of Generative AI videos), the first comprehensive framework to address the urgent need for AI-generated video source attribution at a large scale. Unlike traditional detection, SAGA identifies the specific generative model used. It uniquely provides multi-granular attribution across five levels: authenticity, generation task (e.g., T2V/I2V), model version, development team, and the precise generator, offering far richer forensic insights. Our novel video transformer architecture, leveraging features from a robust vision foundation model, effectively captures spatio-temporal artifacts. Critically, we introduce a data-efficient pretrain-and-attribute strategy, enabling SAGA to achieve state-of-the-art attribution using only 0.5\% of source-labeled data per class, matching fully supervised performance. Furthermore, we propose Temporal Attention Signatures (T-Sigs), a novel interpretability method that visualizes learned temporal differences, offering the first explanation for why different video generators are distinguishable. Extensive experiments on public datasets, including cross-domain scenarios, demonstrate that SAGA sets a new benchmark for synthetic video provenance, providing crucial, interpretable insights for forensic and regulatory applications.

1603情報システム・データ工学
ad
ad
Follow
ad
タイトルとURLをコピーしました