信頼と新しい価値の創出で人と協調するAIへ

AIの普及で顕在化する信頼性の問題

いまやAI（人工知能）という言葉を聞かない日がないほど同技術の普及は進んでいます。大量のデータによって学習され人間の意思決定を支援する技術として、AIはもはや欠かせないものとなりました。AIが担う役割は、現在のところ何かを判別したり予測したりすることが中心ですが、今後は自らが発見して人間に次のアクションを提案するなど、より高度な意思決定のサポートが可能になると予想しています。

しかし、そこに向かうためには、解決するべき課題があります。信頼性の問題です。現在のAIは膨大な量のデータを使って判断をしますが、「なぜそのように判断したのか」といった根拠を示すことは不得意です。例えば銀行の貸付の与信審査で、どうしてその判断が出てきたのかの説明ができなければユーザーはAIを信頼できません。これがAIのブラックボックス問題です。今後社会の様々な場面で使われるためには、このようなブラックボックスを排除し、説明性を高めていく必要があります。加えて、学習するデータの偏りによってAIが提示する答えにバイアス（偏見）がかかってしまう倫理的な問題もあります。

さらに、AIの品質の問題があります。AIはデータを学習して判定・識別のモデルを生成しますが、現場で用いられるデータの分布が学習時のものから変わっていれば、当然ながらAIは正しく判定できません。このように、AIの運用時にAIの精度が学習時から劣化してしまう可能性があります。例えば、金融の信用リスク評価を例に取ると、学習時から大きく経済状況が変化したり、為替や物価の変動、規制の変化が発生したりすれば信用評価のモデルも陳腐化してしまいます。

2つの観点からAIの可能性をさらに広げる

このようなAIの課題に対して、富士通の人工知能研究所では、AIが社会実装される際のリスクや障壁を取り除き、「信頼されるAI」を提供するための研究開発と、AIによる社会変革・ビジネス変革を目指し、「新しい価値を創出するAI」の研究開発、この両輪で研究を進めています。

「信頼されるAI」

「信頼されるAI」では、ブラックボックス問題を解決して人間と協調できるAIの実現を目指します。具体的には、「説明可能なAI」「AIの品質」「AI倫理」の大きく3つがあります。

説明可能なAIでは、AIが提示する判定結果の理由を説明するAI技術の研究開発を行っています。具体的には、人やモノのつながり（グラフ構造）を学習する「Deep Tensor」、データ項目どうしの膨大な組み合わせを網羅的に学習して仮説を提示する「Wide Learning」の2つの機械学習技術を開発しています。これに、膨大な文献・論文などの知識をグラフ構造にしたデータベースである「Knowledge Graph」を組み合わせることで、AIがどのような仕組みで判断したか、判断した要因は何かを示すだけでなく、それがなぜ正しいかを人の知識も使い根拠として説明できる説明可能なAIを実現していきます。

AIの品質では、「High Durability Learning（HDL）」を開発しています。これは、AIが用いるデータ群の形状の変化をとらえ、正解データを用いずに精度劣化監視や自動修復を可能にする世界初の技術です。これにより、データの分布が変化してもそれによる精度の劣化を最小限に抑えるとともに、AIの再学習にかかるコストや労力を大幅に低減できるようになります。

なお、AI倫理についてはAI倫理研究センターを立ち上げています。社外とのグローバルな学際研究をすすめてAI倫理のあり方および新規技術を創出するとともに、各種コンソーシアム・政策提言団体での活動を通してルール策定やガイドライン作成に参画しています。

「新しい価値を創出するAI」

「新しい価値を創出するAI」は、そのための最先端技術の研究開発において「発見するAI」「自律学習AI」「モデル融合AI」が主なものになります。

発見するAIは、理由を説明するだけではなく、因果まで発見してくれるAIです。現状では、AIが提示した情報から人間が分析をしながら新しい事実や気づきを発見することが一般的ですが、こうした気づきの部分もAIがサポートするようになります。

自律学習AIは、人と同じように様々な経験を通して学び、成長するAIを実現するための先進的な研究テーマです。現在のAIのように大量のデータからそれらの間の表層的な関係を学ぶのではなく、データを生み出している社会の仕組みを段階的に理解し、これまで経験したことない状況でも人の助けを借りずに対応できるAIを目指します。

モデル融合AIは、デジタル空間上に生成した実社会のモデルから複雑な現象をシミュレーションした上で、そこに出てきた様々なシナリオを分析して、社会課題の解決のための適切な施策の決定を支援するAIです。ここでは、世界最高水準を誇るスーパーコンピュータ「富岳」（注１）も活用されています。

注：理化学研究所と富士通株式会社が共同で開発し、2021年3月に共用を開始したスーパーコンピュータ「富岳」は、世界のスーパーコンピュータに関するランキングの、①「TOP500」、②「HPCG（High Performance Conjugate Gradient）」、③「HPL-AI」、④「Graph500」のすべてにおいて第1位を獲得

医療や社会課題の解決を支援するAI事例

すでに多方面で成果を上げている上述した最新のAI技術の事例をいくつか紹介します。

多くの取り組みを進めている医療分野の例として、ゲノム医療の分野があります。ゲノム医療で期待できるのが説明可能なAIと発見するAIです。遺伝子データから、どのようなゲノムの変異がどの癌につながるのかを判別するだけでなく、ナレッジグラフを組み合わせ、最新の研究成果と結びつけることで医学的に裏付けされた根拠を説明できます。実際に、東京大学医科学研究所と行った実証実験では、医師による急性骨髄性白血病の治療方針の検討作業を半分に減らす効果が確認されています。

社会課題の解決につながるAIの開発として、例えば、富岳とAIを使った津波災害対策が挙げられます。事前に富岳で大量のシミュレーションを行い、これをAIが学習することで、実際に災害が発生した際に、3メートルの解像度での浸水予測を汎用PCでもわずか数秒で導き出します。様々な津波のケースに対し、どうやって避難するのかをシミュレーションしながら、最適な避難行動を決めることができます。

人と協調するAIへ

技術は人に寄り添うものであるという考えのもと、富士通の人工知能研究所は社会に広く利用できるためのAIの研究開発を進めています。日本、米国、中国、欧州にある拠点で多様なバックグラウンドを持つ約170人の研究員が所属しており、グローバルで一体となった取り組みを進めています。社外との連携では、国内外のトップクラスの研究機関との連携も積極的に進めており、例えば、時系列のAIによる異常検出に寄与する要因を特定できるトポロジカルデータ分析（TDA）は、フランス国立情報学自動制御研究所（INRIA）と共同で研究を進めています。心電図データへ適用することで心機能異常の早期検出などが期待されます。また、老朽化橋梁の点検・補修などに活用することで、損傷の初期段階の推定による点検・補修の早期計画が可能になり、橋梁維持管理業務の高度化に貢献できます。

AIの技術は、今後ますます、あらゆる業種に適用され、社会の様々な局面で使われていくようになることは間違いありません。医療ではより個別最適化されたサービスが進み、また、人に依存した作業が多い行政サービスの多くも自動化されていくでしょう。自動化が進めば人々の働き方や生活のスタイルが変わり、人間に求められるタスクもより創造的な領域になります。

富士通の人工知能研究所は、自然災害や健康などのリスクを最小化して安心して暮らせる社会、また人が快適で豊かな生活を実現できる社会を目指し、AIの研究開発を進めていきます。

富士通のAI研究