ディープフェイク会議をリアルタイムで検知する警告システムを開発 （When the Fake Boss Calls: A Real-Time Warning System for Fake Videoconferences）

フラウンホーファー通信・情報処理・エルゴノミクス研究所（Fraunhofer FKIE）は、AIによるディープフェイクを利用したビデオ会議詐欺をリアルタイムで検知・警告するシステムを開発した。近年、生成AIの進歩により映像や音声を巧妙に偽装した会議が容易になり、企業のなりすましや機密情報の窃取、金融詐欺などのリスクが高まっている。新システムは、ビデオ会議中に映像・音声・通信データをリアルタイムで解析し、不自然な顔の動きや口唇同期のずれ、音声の特徴、デジタル改ざんの痕跡など複数の指標を統合してディープフェイクの可能性を判定する。疑わしい挙動を検出すると利用者へ即座に警告を表示し、詐欺や情報漏えいの防止を支援する。クラウドへの映像送信を必要としない設計を採用することで、プライバシー保護と低遅延を両立できる点も特徴である。本技術はオンライン会議の安全性向上に加え、行政機関や企業、重要インフラなど高いセキュリティが求められる分野への応用が期待されている。