富士通研究所が注力して取り組むテクノロジー領域の一つに「人工知能（AI：Artificial Intelligence）」があります。そのAIに関する技術の研究開発を担当しているのが「人工知能研究所」です。ここでは今、「人に信頼され、社会を発展させるAI」を目指した取り組みが進められており、世界初の最先端技術が続々と登場しています。それらの技術は人工知能の発展にどのようなブレイクスルーを起こせるのか。その可能性と技術的特徴について、人工知能研究所に所属する3名の研究員に話を聞きました。
2019年4月5日 掲載
丸橋 弘治
Maruhashi, Koji
人工知能研究所 機械学習技術PJ 主任研究員
大堀 耕太郎
Ohori, Kotaro
人工知能研究所 発見数理技術PJ 主任研究員
中澤 克仁
Nakazawa, Katsuhito
人工知能研究所 ナレッジテクノロジーPJ 主任研究員
ここ数年、従来の機械学習技術と一線を画す「Deep Learning」が原動力となって、AIが爆発的に普及しつつあります。さらに高度化したAIを利用し、ビジネスに適用するサービスも急増しています。一方で、AIの実社会・ビジネスへの適用に向けて、性能面だけではない様々な課題も顕在化してきています。政府においても、AIの利活用に対して「AI活用の7原則」の国際ルール化が提唱されており、その中には「説明責任」や「公平性」「透明性」といった課題も含まれています。
富士通研究所では1980年代からAIの研究開発に地道に取り組んできましたが、いよいよ本格化したAI技術の研究開発を加速させるために、専門の研究開発組織として「人工知能研究所」を設置しました。ここでは30年以上にわたって積み上げてきたAIに関する知見とノウハウを応用しながら、100名以上の研究者がAIに内在する課題の解決を目指した最先端技術の研究開発に取り組んでいます。そんな人工知能研究所が今、最重要テーマとして掲げているのが「人に信頼され、社会を発展させるAI」の実現です。
AI活用は「画像・音声の認識（知の獲得）」から「業務の判断支援（知の創出）」へDeep Learning技術を使って学習するAIには、特徴量（学習データの特徴を数値化したもの）を自動的に抽出し、AI自身がデータを認識・分類して知識を獲得できるという優位性があります。しかし、膨大なデータを学習して自律的に導き出した回答については、「なぜAIがそういう判断を下したのか」という理由を説明することが難しいのです。そのため、専門家がAIの回答を改めて検証しなければなりません。
このようなAIは「ブラックボックス型AI」と呼ばれ、信頼性や納得性が要求されるミッションクリティカルなビジネス分野には適用しにくいという課題があります。この課題を解決するために、富士通研究所内に設けられた人工知能研究所が取り組んでいるのが人間の信頼を担保できる「説明可能なAI」の研究開発です。その研究成果として登場したのが「Deep Tensor」「Wide Learning」というAI自身で判断理由を説明できる業界初の最新技術です。これらと「Knowledge Graph」を組み合わせることで、学習データには現れない周辺知識をも使用したより深い説明を実現します。
富士通研究所 人工知能研究所が開発した最新テクノロジーとは、どのような技術なのでしょうか。それぞれの研究開発を専門とする研究員は次のように説明します。
同研究所にてDeep Tensorの研究開発チームを率いる丸橋弘治主任研究員 によると、Deep TensorとはDeep Learningの技術を拡張し、Deep Learningの不得意な部分を補う技術だといいます。
「Deep Learningが得意なのは、画像のような固定長・固定構造のデータの学習です。グラフデータ（※注）に代表されるようにデータ量が固定でない、あるいは変数が極端に多いデータを学習して高精度に分類するのは、Deep Learningは得意ではありません。また、そのようなデータに対応するための特殊なDeep Learningもいくつか開発されていますが、典型的な「ブラックボックス型AI」であるために予測理由を説明することが困難でした。そこで私たちはそのようなデータを『テンソル』と呼ばれる統一的な表現に変換して、重要な特徴を抽出する新技術を開発しました。この統一的表現によりデータが単純化されるため、予測理由となる推定因子を提示することが可能になります。また分類誤差を減らすために、Deep Learningの誤差逆伝搬法を拡張して統一的表現 を最適化する新技術も取り入れました。これがDeep Tensorです」 （丸橋）
※注：ここでいうグラフは、数学の一分野であるグラフ理論の「グラフ」のこと。「頂点」と「辺」の集合からなり、例えば人、モノ、コトのつながりを抽象的に表現したものを指す
未知の知の獲得、学習精度の大幅な向上を実現人工知能研究所では、2015年からDeep Tensorの研究開発に取り組んでおり、すでに様々な分野への応用に向けた評価実験が進められているといいます。
「Deep Tensorの適用が期待される分野の一つに、ネットワーク侵入検知などセキュリティ分野があります。膨大なログの時系列データの中から攻撃が含まれているかどうか、IPアドレスやポートの関係から予測するというものです。また、一般企業の勤怠管理や健康管理、金融機関の融資リスク判定、医薬品業界における創薬といった分野に有効であることが実証されています」（丸橋）
Deep Tensorはグラフデータを学習して、推定結果とその理由となる推定因子を提示する技術ですが、この推定結果に対する裏付けとなる根拠を構成する技術がKnowledge Graphです。ナレッジテクノロジープロジェクトの中澤克仁主任研究員によると、Knowledge Graphとは、多種多様な知識データ（各種文献・論文、オープンデータ、Web情報など）を意味付けした上で結合させ、グラフ形式に構成した巨大な知識ベースだといいます。
「Knowledge Graphの根拠構成技術は、ナレッジグラフを用いてDeep Tensorの推定に影響した因子を推定結果と関連付けし、Deep Tensorがなぜその推定結果に至ったかという根拠を示します。ある推定因子に対して、ナレッジグラフ上で関連性をたどっていくと複数の知識データにまたがる一連の根拠が分かるという仕組みです」（中澤）
Deep TensorとKnowledge Graphの組み合わせによる事例は、ゲノム医療における専門家の調査作業の効率化を想定して検証が行われたといいます。この検証の結果、生物情報学分野における公開データベースや医療文献データベースを用いた学習データとKnowledge Graphを利用し、関係性が部分的にしか知られていない事象の裏付けとなる根拠を探し出し、紐付けることが可能であることが実証できました。
「このようにDeep TensorとKnowledge Graphを組み合わせると、AIが判断結果に至った論理的根拠を説明できるようになります。これが『説明可能なAI』であり、この技術によって、ブラックボックス型AIを適用することが難しかった医療分野、金融分野などでもAIを活用し、人とAIが協調しながら社会の課題解決を目指せるようになります」（中澤）
説明可能なAIとは、言い換えると「説明責任を果たせるAI」のことです。AIがどのような経緯でその結果を導き出したのか、人がプロセスを理解できるようにするとともに誤っていたら修正できる。これによって人はAIによる新たな発見や洞察に対しても信頼するようになるのです。
さらにもう一つの新技術であるWide Learningは、Deep Learningとは異なる系列でのAIの進化により生まれたものです。近年、AIの社会実装が進む中で、AIの活用領域は、「画像・音声の認識」などから「業務の判断支援」などへと移行・拡大しています。「画像・音声の認識」は、Deep Learningが強い領域であり、また学習データの生成・収集も比較的容易なため、膨大な学習データを与えて精度を高めていました。しかし、業務判断支援等の分野では、精度の高い学習モデル構築のために必要な量の学習データを用意できなかったり、集めたデータの内容に偏りがあったり、と量・質の両面から学習データ確保が大きな課題となります。また、AIの判断の結果が経営に直結するケースも多いため、AIの判断の透明性確保が不可欠となっています。これらの課題を解決するために開発したのが、Wide Learningです。
研究開発チームのリーダーである大堀耕太郎主任研究員はWide Learningについて、学習データからもれなく重要な知識を発見し、高い精度で判断を行う透明性を兼ね備えた新しいAI技術だと紹介します。
「Wide Learningは、データ項目同士をすべて組み合わせ、その膨大な組み合わせパターンの中から入出力の関係として成立する可能性のある仮説を「もれなく」抽出します。この抽出された仮説は、一つ一つが業務にとって重要な知識のまとまりであり、「ナレッジチャンク」と呼んでいます。大量に得られたナレッジチャンクをすべて用いて判断することで、データに偏りがあったとしても従来のAIよりも見逃しの少ない判断が下せるようになります。新商品の購買や機械の故障など判断したい対象のデータが少ない現場でも、AIの活用による新たな価値を生むことが期待できます」（大堀）
マーケティングデータを利用して行われたWide Learningの検証では、Deep Learningと比較して正解データを当てる精度が10～20％も向上したといいます。
機械学習のブレイクスルー Wide Learning「Wide Learningのベースにあるナレッジチャンクは論理的な表現形式を持っており、AIの判断理由を説明することが可能です。また、単に説明ができるだけではなく、ナレッジチャンクの分析により、業務における新たな発見も期待できます。実際、専門家も気づかなかった知識を見つけ出し、業務の判断支援へとつながっている事例もあります」（大堀）
すべてのモノがつながる時代、国家レベルでSociety5.0（注1）の実現に向けた取り組みが始まっています。様々な情報がつながるSociety 5.0の世界では、AIは、知識を生み出すことで人の創造性を高め、あらゆる分野にまたがる社会課題の解決を実現するための必須の技術です。富士通研究所 人工知能研究所が開発したDeep Tensor、Wide Learning、Knowledge Graphの技術を組み合わせて実現される説明可能なAIは、AIの適用範囲をさらに拡大するために決して欠かすことのできない技術と言えるでしょう。今後、これらは富士通のAI技術「FUJITSU Human Centric AI Zinrai」を支える技術として社会実装され、世の中のあらゆる領域に貢献できると期待されます。富士通研究所はこれからも社会が要請する先進的なAI技術の開発・発展に取り組んでいきます。
