可視光・赤外線画像の融合による物体検出精度の向上(Dual Input Fusion Improves Visible Infrared Object Detection)

2026-10-12 中国科学院(CAS)

中国科学院長春光学精密機械物理研究所の研究チームは、可視光画像と赤外線画像を統合し、物体検出の精度を高めるAIフレームワークを開発した。研究成果は学術誌 Pattern Recognition に掲載された。可視光画像は物体の色や輪郭、細かな質感を捉える一方、赤外線画像は暗所でも物体の輪郭を把握しやすい。提案手法では、ウェーブレット注意機構によって両画像の相補的な特徴を選択し、状態空間モデル「Mamba」を用いた二入力処理で、それぞれの情報を区別しながら統合する。さらに、可視光・赤外線・融合画像の3系統から得られた検出結果を照合し、最終的な判定を調整する。ドローン搭載車両画像データセット「DroneVehicle」では、標準的な評価条件で平均適合率(mAP)81.74%を達成し、LLVIPやAligned FLIRでも競争力のある性能を示した。夜間や遮蔽のある環境での見落としや誤検出の低減が期待される。一方、モデルの計算負荷が大きく、計算資源の限られた機器でのリアルタイム処理には軽量化が必要である。

<関連情報>

 

ハイブリッドレベルのデュアル入力マンバ融合に基づく可視光・赤外線リモートセンシング画像融合による物体検出 Visible–infrared remote sensing image fusion for object detection based on hybrid-level dual-input Mamba fusion

Zhengqun Ren, Huan Liu, Guangli Ben, Qisheng Hao, Boxiao Wang, Yongcheng Wang
Pattern Recognition  Available online 10 September 2026
DOI:https://doi.org/10.1016/j.patcog.2026.114893

Highlights

  • A hybrid visible–infrared fusion framework for robust remote-sensing detection.
  • Adaptive complementary interaction in spatial, frequency, and state spaces.
  • Efficient long-range cross-modal representation with state-space modeling.
  • Stable decision fusion under low light, occlusion, and background clutter.

Abstract

Existing visible–infrared fusion detectors often struggle to balance cross modal complementarity, redundancy, and conflict. Most multimodal Mamba methods pre-fuse the two modalities before state space modeling, causing complementary and conflicting cues to be jointly encoded and obscuring their sources and reliability during state evolution. To address this issue, we propose hybrid-level dual-input Mamba fusion framework (HDMF) for UAV based vehicle detection. At the feature level, dual-branch SimAM–wavelet attention (DSWA) identifies regions with significant cross modal differences and performs complementary or modality specific enhancement to suppress noise amplification and spurious responses. Binary fusion Mamba (BFMamba) then treats visible, infrared, and explicit interaction features as independent inputs to the state equations, enabling cross modal fusion to directly guide hidden state evolution while modeling long range dependencies with linear complexity. At the decision level, the tri-branch aware decision fusion head (TDFH) combines illumination priors and cross branch consistency to fuse predictions from visible, infrared, and fused branches, mitigating residual modal mismatch and prediction inconsistency. HDMF achieves COCO style mAP@0.5:0.95 scores of 56.62%, 69.82%, and 48.11% on DroneVehicle, LLVIP, and FLIR, respectively.

1602ソフトウェア工学
ad
ad
Follow
ad
タイトルとURLをコピーしました