反実仮想説明に基づくアクションの最適順序を
推薦する新たなAI技術を開発

インターンシップからスタートした研究テーマがAAAI-21に採択!

2021年2月4日

English

近年、様々な業務での判断支援のために人工知能(以下、AI)の活用が進んでいます。富士通研究所では、現場での知識発見を加速する機械学習技術、FUJITSU AI Technology Wide Learning (以下、Wide Learning™)の開発を進め、予測だけでなく、その予測結果に基づいて次に何を実施すべきかを提示するアクション推薦の技術開発に取り組んできました。今回、AI領域で注目されている「もし体重がもう少し少なかったら健康だっただろうに」という反実仮想と呼ばれる考え方を活用したアクション推薦に関する最新技術を開発しました。例えばAIが不健康と判定した結果から「筋肉量を1kg増加し、体重を1kgを増加すれば健康になれる」といったアクションを示すことを可能にします。
本技術は北海道大学(以下、北大)有村博紀教授、金森憲太朗さん(博士後期課程1年)と共同で研究を行い、AI分野の難関国際会議であるAAAI-21に採択されました。

左上から、金森 憲太朗(北大)、高木 拓也(富士通研)、小林 健 (富士通研、東工大)<br>左下から、池 祐一(富士通研)、上村 健人(富士通研)、有村 博紀(北大)左上から、金森 憲太朗(北大)、高木 拓也(富士通研)、小林 健 (富士通研、東工大)
左下から、池 祐一(富士通研)、上村 健人(富士通研)、有村 博紀(北大)

AAAI-21の概要

技術の特徴

反実仮想説明(Counterfactual Explanation, CE)はAIモデル説明法・アクション推薦手法のひとつで、図1のようにAIモデルの予測結果を変えるのに必要な属性値の変更量(摂動ベクトル)を求める技術です。摂動ベクトルが与えられると、ユーザーはそれを所望する結果を得るための「アクション」として解釈できます。例えば、AIモデルが「不健康」だと予測したユーザーを「健康」と予測するために必要な摂動ベクトルをユーザーが健康になるためのアクションとして推薦します。

図 1 予測結果を変更する属性の変更量a*を計算図 1 予測結果を変更する属性の変更量a*を計算

実際には、摂動ベクトルのように変更する属性値の集合とその変更量のみを推薦するだけでは、ユーザーがアクションを実行するには不十分なことがよくあります。なぜなら、属性間に因果関係などの非対称的な相互作用がある場合、アクションの実施に必要なコストは属性値の変更順序に依存するためです。そのため、ユーザーへのアクションとしては適切な属性値の変更順序を推薦する必要があります。この課題を解決するために、今回、属性値の最適な変更順序も推薦できる新しいアクション抽出手法として順序付き反実仮想説明(Ordered Counterfactual Explanation)を開発し、国際会議AAAI-21に採択されました。

本技術では、まずはじめに属性間の因果関係を見つけられる因果探索などの技術を用いて、データから因果グラフなどの形で属性間の相互作用を推定します。推定した属性の相互作用に基づいて、アクションとその変更順序を評価する新しい目的関数を導入します。この目的関数は、過去に行った属性値の変更が他の属性値にどれだけ影響を与えるかを記憶し、それに基づいて実際にユーザーが動かさなければいけない変更量を計算することでアクション全体を評価します(図2)。この目的関数を最小化する混合整数最適化問題を解くことで、最適なアクションを抽出します。実際のデータセットで数値実験を行い、先にアクションを決定した後で順序を決定するナイーブな手法よりもコストが最大2倍以上少なく済む適切な順序のアクションを取得したことを確認しました。

図 2 特徴量間の相互作用を考慮して最適なアクションを決定図 2 特徴量間の相互作用を考慮して最適なアクションを決定

富士通研究所 開発者コメント

・人工知能研究所 AIコアテクノロジPJ 高木 拓也 研究員

「本技術は線形モデル、決定木アンサンブルモデル、深層学習モデルなどの様々な分類器上で活用が可能です。特に、データからルールを発見する富士通研究所が開発したAI技術Wide Learning™と組み合わせることでよりリッチなアクションを推薦できることが期待できます。今後は、ものづくりの歩留まり改善のための製造プロセスの修正やプロモーション施策の優先順位の決定など、様々なビジネス現場の実データを用いて実証実験を進めていく予定です」

分野横断のチームビルディング

富士通研究所では、研究目的の達成に向けて、異分野コラボレーションや産学連携を通して研究を進めています。本技術の開発においても、最適化や因果推論など異なる専門のメンバでチームを作り、互いの強みを活かすことで、より強固な技術へと発展させていきました。

・北海道大学 情報知識ネットワーク研究室 有村 博紀 教授

「私はこのチームにおいて統括的な立場で参加させていただきました。富士通研究所の若手のみなさんと私の研究室の金森さんは、それぞれ、機械学習・最適化・離散アルゴリズム・数学と異なる研究背景をもっていますが、「新しい人工知能技術を作りたい」という気持ちでまとまって、和気あいあいと相性の良いチームだったと思います。今年はコロナ対応の制約の多い状況でオンラインでの議論が中心でしたが、若手の皆さんを中心に研究アイデアの作成から論文執筆までチームで助け合い、それぞれの研究アイデアをつみかさねていった点が、今回の成果につながったように思います」

富士通研究所のインターンシップ プログラム

本技術の開発者の一人である金森さんは、2019年度のインターンシップに参加しました。インターンシップ期間中に、金森さんと富士通研究所の研究員との議論を行い、本技術の種となるアイデアが生まれました。

・北海道大学 大学院 情報科学院 金森 憲太朗 さん

「インターンシップでは、開発した技術を論文化することを目標として、かなり自由に研究に取り組ませていただきました。滞在中はメンターの高木さんをはじめとする研究員の方々と議論を重ね、最終的にIJCAI採択という形で締めくくることができました。インターンシップ終了後も、オンラインで共同研究を継続させていただき、今回のAAAI採択という結果に繋げることができました。数理最適化や因果探索など、様々な専門分野を持つ研究員の方々と共同研究を行えたことは、研究者を志す私にとって非常に得難い経験となりました」



本技術の先行技術は、金森さんのインターンシップを通じて開発され、同じくAI分野の主要会議であるIJCAI-20にも採択されています。

富士通研究所は、これからも産学連携やインターンシップの活動を通して、大学の先生や学生と共に、社会に役立つ世界トップレベルの研究成果をあげていきます。


本件に関するお問合せ

fj-widelearning@dl.jp.fujitsu.com

EEA (European Economic Area) 加盟国所在の方は以下からお問い合わせください。
Ask Fujitsu
Tel: +44-12-3579-7711
http://www.fujitsu.com/uk/contact/index.html

Fujitsu, London Office
Address :22 Baker Street
London United Kingdom
W1U 3BW

このページをシェア

  • facebook
  • twitter
  • LinkedIn
  • LINE
  • Weibo

Recommend

 
 

Connect with Fujitsu Research

LinkedIn
Twitter
YouTube
ページの先頭へ