2019-05-28 産業技術総合研究所
ポイント
- AIを活用し、児童相談所の虐待相談対応を支援する業務システムを開発
- AIが過去事例の分析から虐待の重篤度や再発率などを予測し、児童相談所の迅速な意思決定を支援
- 2019年6月下旬より、三重県で本システムの実証実験を開始
概要
国立研究開発法人 産業技術総合研究所【理事長 中鉢 良治】（以下「産総研」という）人工知能研究センター【研究センター長 辻井 潤一】確率モデリング研究チーム 髙岡 昂太 研究員らは、児童相談所による虐待対応を人工知能（AI）により支援する児童虐待対応支援システムを開発した。2019年6月下旬より、このシステムを用いた実証実験を三重県で開始する。
開発した業務支援システムは、タブレット端末用アプリ「AiCAN（Assistance of intelligence for Child Abuse and Neglect）」、セキュリティーが確保された状態でデータを保存・共有できるクラウドデータベース、産総研で開発した確率モデリングなどのデータ分析用 AIで構成される。このシステムでは、児童相談所において紙で扱っていた虐待に関する6年分の情報をデジタル化し、機械学習や確率モデリングなどのAIでリアルタイムに解析を行うことができる。新規相談を受けた際は、当該事案について新たに入力された児童のデータに対し、既存データの解析結果に基づき虐待の重篤度や将来的な再発率などの予測が即座に提示され、過去の知見を活用した児童相談所の迅速な意思決定を支援できる。また、アプリを通して訪問先などでも情報を記録でき、児童相談所内及び関係機関とのデータ共有や蓄積の迅速化・効率化を実現した。
なお、このシステムは国立研究開発法人 新エネルギー・産業技術総合開発機構【理事長 石塚 博昭】（以下「NEDO」という）の委託事業「次世代人工知能・ロボット中核技術開発／次世代人工知能技術分野／人間と相互理解できる次世代人工知能技術の研究開発」の成果を活用して得られた。
タブレット端末用アプリ「AiCAN」の画面イメージ
開発の社会的背景
近年、児童虐待は増加の一途をたどり、大きな社会問題となっている。2000年には児童虐待防止法が成立したにもかかわらず、2017年度の児童虐待相談対応件数は133,778件と、1999年度の約12倍に増加している1。その一方で、児童相談所で働く職員、中でも児童福祉司が極端に不足している状況にあり、増加する業務への対応が困難になっている現状が指摘されている。
児童相談所では一般的に図1のような流れで虐待相談に対応しているが、これらの業務では、セキュリティー面での配慮から紙を使った情報管理が中心で、職員間や関連機関間での情報共有には電話やメール、ファックスなどが使われてきた。そのため、調査内容を記録するには児童相談所に戻らねばならず、情報共有は互いに電話をかけたり、不在の時は電話をかけなおしたりといった付加的な業務が発生している。限られた児童福祉司によって、増え続ける虐待相談に対応していく上で、情報管理・共有方法の改善は喫緊の課題である。
また、虐待通告受理時には多くの情報が不明であり、保護者が事実とは異なる申告をしたり、子どもが不安から何も話さなかったりすることもある。そのため、虐待の重篤度、将来的な再発率、一時保護の必要性などを考慮した意思決定を迅速に行うことは専門家にとっても難しい。
AIは、膨大な数の過去事例に照らし合わせて、これまでに発生した典型的なケースであれば、高い精度で未来を予測できるようになってきている。そのため、虐待相談対応においてもAIを用いて過去の事例から未来の示唆を得ることは意思決定の際に有効な判断材料となるものと期待される。特に、児童福祉司の約4割が勤務3年未満2という児童相談所の現状を踏まえれば、過去の知見が意思決定に生かせることの意義は人材育成の視点でも大きいと考えられる。
図1 児童相談所における児童虐待の対応フロー
1 厚生労働省資料「平成29年度 児童相談所での児童虐待相談対応件数＜速報値＞」
https://www.mhlw.go.jp/content/11901000/000348313.pdf [参照元へ戻る]
2 厚生労働省資料「児童福祉司の概要等について」
https://www.mhlw.go.jp/file/05-Shingikai-11901000-Koyoukintoujidoukateikyoku-Soumuka/11.pdf [参照元へ戻る]
研究の経緯
三重県は、2012年度に発生した2件の虐待死亡事例をきっかけに、2013年度より児童相談所の虐待リスクアセスメント事業を開始した。リスクアセスメント事業に関わっていた髙岡研究員が産総研に着任したことをきっかけに、産総研は、2017年3月に、AIによるリアルタイム分析を導入したシステムによるリスクアセスメントと意思決定の支援を目指して研究開発チームを結成した。児童相談所における実証実験とその後の実用化を目指して、三重県と協働し、三重県の各児童相談所で2013年～2018年の6年間に対応した約6,000件の児童虐待対応データの分析と、それらを活用するプラットフォームの開発に取り組んできた。
なお、本研究開発では、業務支援システムの開発はNEDO委託事業による支援を受けた。また、タブレット端末用アプリに組み込まれている所要対応日数を予測するアルゴリズムの開発は、厚生労働省2018年度調査研究事業による支援を受けた。
研究開発の内容
産総研が培ってきたデータ分析用 AI 技術や、それらの社会実装に関する豊富な経験を生かし、三重県内の児童相談所の業務フローにおける情報の流れや児童相談所による意思決定の背景にある知見、現場との密接な連携実績に基づいて今回の開発を行った。三重県が、県内の児童相談所で蓄積してきた約6,000件の紙媒体で記録されてきた情報のうち、児童の年齢や性別などの基本情報と虐待リスクのアセスメントデータをデジタルデータ化した。今回産総研は、このデジタルデータを用いて、虐待の重篤度、将来的な再発率、一時保護の必要性、対応終結までに要する日数といった指標を瞬時に予測し提示する機能などをもつ業務支援システムを開発した。このシステムは、児童相談所向けのタブレット端末用アプリ「AiCAN」、クラウドデータベース、確率モデリングなどのデータ分析用 AIで構成されている。
業務支援システムの構成を図2に示す。AiCANから入力された児童の基本情報やリスクアセスメントの各項目（例：首から上に傷アザがある）などのデータは、Web APIを通して、安全なネットワーク上のクラウドサーバーにあるデータベースに保存される。データベースに保存されたデータを元に、データ分析用AIサーバーにある産総研が開発した確率モデリング・シミュレーションモジュールPLASMA（Probabilistic Latent Structure Modeling API）や統計解析ソフトウェア Rにより解析やシミュレーションを行い、予測結果を即時にAiCANに返す（図3）。なお、入力されたデータは他の事例での予測に用いられ、入力データが増えることでより精緻な予測ができるようになる。
図2 開発した業務支援システムの構成
図3 虐待の総合リスクや類似事例を表示する「AiCAN」の画面イメージ
（注：実際の事例のデータではありません）
◆システムの機能
本システムは、「情報入力や共有を円滑にすること」と、「意思決定を支援すること」を目的に、次のような機能をもつ。
＜情報入力や共有を円滑にする機能＞
- 児童相談所以外の場所からも、安全に情報を登録できる機能
- 児童相談所以外の場所でも、決裁手続きを進め、児童福祉司とその他の職員との間で情報共有できる機能や相談できるチャット機能
＜意思決定を支援する機能＞
- 年齢や性別などの基本情報と虐待リスクのアセスメントデータをアプリで入力すると、虐待の重篤度（アプリでは「虐待の見過ごし防止度」と表示）、一時保護の必要性（アプリでは「総合リスク」と表示）、再発率（アプリでは「再発確率」と表示）などの指標を瞬時に予測し提示する機能
- 過去の類似事例を検索、参照できる機能
＜その他の機能＞
- 担当児童福祉司を決める参考指標として、対応終結までの日数を予測する機能
◆システムの特徴
虐待相談対応には極めて慎重な意思決定が必要であり、単に予測精度が高いだけではなく、予測の根拠なども対応者が明確に把握していなければならない。そのため、今回のシステムでは、目的に合わせて、予測精度の高い機械学習技術と説明可能性の高い確率モデリング技術の両方を併せて用いた。対応が終結するまでの日数予測には、勾配ブースティングなどの予測精度の高い機械学習アルゴリズムを用いている。また、虐待の重篤度と再発率の予測は、それぞれ根拠を明確にできる確率モデリング手法である確率潜在意味分析とベイジアンネットワークによる確率的因果推論を用いている。
これらの複数の手法を組み合わせて虐待の重篤度や将来的な再発率、一時保護の必要性を予測することで、児童相談所が求められる慎重かつ的確な意思決定を行えるような業務支援システムが初めて実現した。
AIは、人間では処理しきれない大量のデータを分析し、将来起きることを客観的に予測することができる。その一方で、発生頻度が極端に低い事例や過去一度も発生していない事例を予測することは難しい。そのことも踏まえて、最終的な意思決定は、人間が、データにはできない経験や最新の動向なども踏まえて行う必要がある。今回のシステムも、「最終的な意思決定は人間が行う」という原則での使用を前提としている。
また、児童虐待相談対応では非常に機微な情報を取り扱うため、今回開発したシステムではネットワーク通信での工夫や、システムのハッキング、端末の紛失・覗き見などのインシデントへの備えなど、情報セキュリティー対策を手厚く行っている。ネットワーク通信時は、閉域ネットワークを通じたSSL接続（暗号化）を用いており、システムで用いる各デバイスはインターネットには繋がらない。また閉域ネットワークに接続できるデバイスも指定された端末だけとなっている。AiCANで入力した情報は端末本体には保存されないようになっており、仮にタブレット端末を紛失しても、入力された情報が漏洩しないようになっている。その他、AiCAN上に表示される情報の一部を伏字にするなどにより、覗き見対策も行っている。
今後の予定
今後は三重県の2つの児童相談所での実証実験を通じて、虐待相談対応業務の効率化が進むのか、また過去の知見をAIを用いながら活用することで、意思決定の仕方や内容に改善があるのかを検証する。それにより、今回開発したこれまでにない新しいシステムが、児童虐待事案に対する支援の質の向上にどの程度寄与できるかを検討する。
実証実験終了後は、虐待対応AIの能力向上や他の自治体との情報共有データベースの導入など、より質の高い業務支援を目指したプラットフォーム開発と社会実装の拡大的展開のための事業化を目指す。
用語の説明
- ◆確率モデリング
- データから、そのデータによく適合する確率分布を推定する技術。推定した確率分布を用いて、一部の変数の値が観測された場合の他の変数の値を予測することなどができる。代表的な手法の一つに、ベイジアンネットワークがある。
- ◆リスクアセスメント
- リスクアセスメントとは一般に、リスクの特定・分析や、リスクの度合いを評価するプロセスを指す。ここでは、児童虐待でのリスクアセスメントを指す。児童の安全が疑われる状況では、家庭訪問や関係機関への聞き取りを通じ、児童の置かれた状況の調査を行う。どんな観点で何を把握するかをあらかじめ設定し、その指標に沿って事実を把握し、危険度を見積もる。
- ◆Web API
- あるサーバーで取り扱っているデータを、ネットワークを通じて取り込む仕組みのこと。
- ◆勾配ブースティング
- データから変数間の関係を学習する機械学習技術の一つ。簡単な予測器を、予測の残差を減らすように組み合わせる（ブースティング）ことで、予測性能を向上させる。さまざまな予測問題に対して良い性能を示している。
- ◆確率潜在意味分析
- データの所属するグループの情報を潜在変数とする確率分布モデルによって、データから潜在的なクラスター構造を推定する確率モデリング手法の一つ。推定されたクラスター構造を解釈することにより学習結果を説明しやすい。
- ◆ベイジアンネットワークによる確率的因果推論
- ベイジアンネットワークとは、因果関係を、各変数の関係を条件付き確率で図（グラフィカルモデル）として示す方法のことである。ベイジアンネットワークのモデル構築が完了すると、各項目の条件付き確率の事後確率最大推定という手法により、複雑な変数間の確率的な因果構造を元に、目的変数をシミュレーションできるようになる。確率的な因果であって、各ケースにおける因果構造とは異なるが、目の前のケースで事実かどうか不確実な状況であっても、過去の蓄積された事例の傾向や特徴を元に、目の前のケースにどのような対応をしたら、どのような結果になりうるのかを確率的に推定することに役立つ。
