人とAIの安全な協調を支えるAIセーフティ基盤を構築しました ―設計・評価・運用の一貫したガイドラインと評価・実証基盤を整備―

NEDO、産業技術総合研究所（産総研）、Citadel AI、コーピー、琉球大学は共同で、人とAIが安全に協調するための「AIセーフティ基盤」を構築し、設計・評価・運用を一貫して支援するガイドラインや評価プロトコルを公開した。成果は、生成AIやマルチモーダルAIの社会実装拡大を背景に、安全性を体系的に管理する共通基盤を整備することを目的としている。研究では、画像とテキストを扱うマルチモーダルAI向け品質管理ガイドライン、企業向け生成AI運用ガイド、ISO/IEC 42001に基づく安全性評価プロトコルなどを策定した。さらに、医療画像診断を想定したHuman-AI Teaming研究では、人とAIの判断不一致時の安全な意思決定プロセスを整理し、日常生活領域では見守りAIの評価・検証基盤も構築した。実データと仮想環境を組み合わせた検証環境により、転倒検知など現実的な安全性評価が可能となる。研究チームは、これらの成果がAIセーフティの標準化や、安心してAIを利用できる社会基盤形成につながると期待している。