複雑なブラックボックス型AIを判断基準が明確なAIに変換するAI単純化技術を開発

2021-12-24

お客さまに寄り添った信頼できるAIの実現に貢献

お客さまに寄り添った信頼できるAIの実現に貢献

2021-12-24 株式会社日立製作所

図1-1 AI単純化技術の概要

図1-2 想定アプリケーション

日立は、従来のブラックボックス型AIを判断基準が明確なAIに変換するAI単純化技術を開発しました。従来のブラックボックス型AIは、予測精度を高めるために複雑な数式で構成されており判断基準が不明確であるため、未知のデータに対して意図しない予測結果を導く不安やリスクがありました。一方、本技術を用いたAIは、あらゆる入力に対して人が理解できる単純な予測式を創出することにより、明確な判断基準の下で予測結果を提示します。さらに、お客さまの経験や知識に基づき予測式を調整できるため、予測精度を維持・向上しながら安心してAIを利用することが可能となり、お客さまに寄り添った信頼できるAI^*1の実現に貢献します。
本技術の一部は、日立グループにおける製品出荷前の自動検査ラインに適用され、熟練者不足の解消や検査速度の向上効果が確認されました。今後日立は、製造・金融・インフラ制御などさまざまな領域で、信頼できるAIの実装とそれを通じた社会全体のデジタルトランスフォーメーション(以下、DX)加速に貢献していきます。

なお、本技術開発は日立のAI倫理原則^*2の実践項目に定める透明性・説明責任重視に従った取り組みの一環です。

背景および取り組んだ課題

近年、メタバース等に代表されるデジタル化の加速度的な進展、深刻化する地球環境の悪化や新型感染症の拡大など、企業を取り巻く環境は急速に変化してきています。このような中で、お客さまの迅速なDX実現を支援するために、日立は信頼できるAIの実装に向けた研究開発に取り組んできました。
これまで、深層学習等の技術の進歩によりAIの予測精度は向上しましたが、AIには精度だけでなく、説明性、透明性、品質、公平性など、信頼できるAIとして複数の要件が求められます。特に、予測精度を高めるため多くの変数や複雑な数式により構成されたブラックボックス型AIはお客さまがその内容を理解困難なため、AIを安心して業務に適用できないという説明性の問題が指摘されました。このような中、日立はAIの判断基準を多角的に分析し、人に分かりやすく説明するeXplainable AI(以下、XAI)の技術を開発し、お客さまのさまざまな業務に適用いただきその有用性を検証してきました^*3。その結果、AIの予測精度が高く、その判断基準をお客さまに説明できた場合でも、限られた条件下でお客さまが想定できない予測結果をAIが出力する場合、お客さまはAIを信頼･保証できず、対策に多くの時間を取られてしまうことが分かりました。
そこで日立は、これまでさまざまな領域のお客さまのDX支援で培ってきた知見を活かし、XAIの新たな方式として、複雑なブラックボックス型AIを判断基準が明確なAIに変換するAI単純化技術を開発しました。

発表する論文、学会、イベントなど

本成果の一部は、2021年12月4日～7日にオンラインで開催されたIEEE SSCI 2021で発表されました。

開発した技術の詳細

1. ブラックボックス型AI変換技術

深層学習モデルや勾配ブースティング木^*4など、予測精度が高い一方で内容が複雑なブラックボックス型AIを、判断基準が明確なAI（単純な予測式）に変換する技術を開発しました。まず、従来のXAI分析技術により、AIへのさまざまな入力データに対し、要因(特徴量)が予測値に及ぼす影響の強さ(貢献度)を算出します。次に、特徴量が変化しても予測値への貢献度が一定である入力データの領域をクラスタリング技術により抽出します。抽出された入力データ領域ではその特徴量は予測値に影響を与えないため、その領域で判断基準を単純化できることを期待してAIを単純な予測式に変換します。このような処理を全ての入力データ領域で繰り返し、全領域をお客さまが理解可能な単純な予測式に変換します。

図2 ブラックボックス型AI変換技術

2. 信頼性向上のための単純さ調整技術

必要な予測精度が得られるように、お客さまの経験や知識に基づきAIと対話・協調しながら、お客さま自身で予測式を調整する技術を開発しました。上記の技術１で得られた単純な予測式に対して本技術を用いることで境界値や各領域における予測式を調整することができます。

図3 判断基準が明確なAI (調整前)の例

A. 上記の技術1で説明したAIの入力データ領域を分割する際の境界値を、お客さまの知識に合わせて調整可能です。例えば、図3-Aに示すように「耐震基準が2000年に変更されたので、1998年ではなく2000年の前後で判断基準が替わるようにしたい」という調整が可能です。このように境界値をお客さまの知識と整合させることで、データが少ない領域での予測精度を向上させることができます。

図3-A 調整方法1 (お客さまの知識で境界値を調整)

B. お客さまは、各領域における予測式として、業務内容に合わせた式の形を指定可能です。お客さまが予測精度より予測式の単純さを優先する場合は、より単純な形の式を指定できます。図3-Bに示す例のように「予測式:y=築年数×0.5+土地の傾き×5+「木造なら+3」+「地域Aなら+2」+…が複雑であるため、変数を3つ以下にしたい」というような指定が可能です。