世界初AIの精度劣化を自動修復する新技術「High Durability Learning」～「安心して使えるAI」の実現へ～

AIの活用が本格化しつつある現在、多くの企業がAIによる業務効率化、生産性向上を実現しています。ところがAIの運用を始めてからしばらく経過すると、その精度が少しずつ劣化していくという新たな課題に直面することがあります。なぜ精度が劣化するのでしょうか。富士通研究所 人工知能研究所 トラステッドAIプロジェクト 主任研究員の中澤 克仁は、次のように説明します。

このようなAI運用の課題は、AIの導入・活用が期待される様々な分野で直面する可能性があります。例えば金融機関では、企業信用リスク評価へのAI活用の検討が進められています。AIは財務諸表等を基に融資リスクを評価しますが、為替相場や金利変動の影響により、どうしてもAIモデルの予測精度は劣化していきます。

こうした課題を解決するには、AIモデルの再学習を定期的に行う必要がありますが、そう簡単なことではありません。

「AIの精度を維持するには正解ラベルを付けた学習データによる再学習が必要になります。とはいえ人手をかけてデータに正解付けを行い、再学習を実行するには当然時間もコストもかかります。一方で、再学習せず長期間放置したままにしてしまうと、AIの精度が劣化して正しい判断が下せず、そのことが原因で大きな損害を招く危険性も高まります」（中澤）

こうしたAI運用の課題は、すでにいくつかの業界で議論が進んでおり、対応策の必要性を指摘する声もあがりつつあります。このような状況の中、富士通研究所ではAIの精度劣化を自動的に修復する技術の研究開発に取り組み始めました。その成果として誕生したのが、2019年10月に発表した世界初の新技術「High Durability Learning（高耐性学習）」です。

従来のAI運用では、運用時の入力データが正解付けされていない場合は精度劣化の有無の判断が困難なため、定期的にデータへの正解付けを手動で行って精度を確認し、新たに作り直した学習データを用いて再学習を繰り返していました。これらの作業には非常に大きなコストがかかります。それに対しHigh Durability Learningは、データ分布の特徴をデータ群として表現した「DT空間（Durable Topology Space）」と呼ばれる数理的空間を用い、データ群の形状が変化していく時間的な推移を監視しながらデータ群に対して正解ラベルを推定します。この結果を元のデータ空間に戻してデータの正解付けを行い、当初の分類とDT空間の分類の差分を比較することで精度劣化の自動推定を可能にしています。

「こうした働きをするHigh Durability Learningにより、人手で正解付けの作業を行わなくても精度劣化を自動的に監視し、再学習を実行しなくても自動的に精度劣化を修復することができるようになります。富士通研究所が実際のAIモデルで検証したところ、監視の誤差はわずか3％。元のAIモデルの精度が1年後に91％から69％へと劣化したのに対し、High Durability Learningを適用すると89％の精度を維持可能という結果が得られました。自動修復機能によって再学習の頻度を90％以上削減、再学習時のコストも80％以上削減できるので、トータルの再学習コストを100分の1以下に削減するという効果が得られます」（中澤）

もう1つ、High Durability Learningの最大の特徴でもあり、開発する上でこだわったのが「汎用性」です。High Durability Learningは特定の環境に依存せず、様々なAIシステムに外付けして利用することが可能です。

「業務では様々なAIモデルが使用されています。そのために、AIモデルや入力データの種類を選ばず、環境に依存することなく既存のAIにそのままアドオンできる汎用性が必要だと考えました。ディープニューラルネットワーク（DNN）、サポートベクターマシン（SVM）、ランダムフォレスト（Random Forest）など代表的なAIモデルやアルゴリズムでの検証を済ませており、今後も順次拡大していく予定です」（中澤）

AI運用の課題を解決する技術として注目されるHigh Durability Learningですが、その研究開発プロジェクトは2018年秋に設置された社内ワーキンググループから始まりました。このワーキンググループの調査結果を基に編成された研究チームを主導したのが、AIの品質マネジメントやナレッジグラフなどの説明可能なAI関連技術の研究開発に取り組んできた中澤でした。

「富士通はITの会社であると同時に、厳密性が特に求められるモノづくりの会社でもあります。だからこそAIの精度劣化という課題に対し、解決策を提示していくのが我々の役割だと考えました。トラステッドAIプロジェクトの研究員が課題解決に向けたアイデアを出すところから始め、20近くのアイデアの種が集まり、それらが実際に適用できるかどうかを約2カ月かけて検証したのちに、本格的な研究開発プロジェクトとしてスタートしました」（中澤）

そうした中で核となる技術として挙がったのが、先述のDT空間の技術であり、このアイデアを形にしていったのがオートノマス機械学習プロジェクトに所属する主任研究員の梅田裕平です。データの変化をより数学的・幾何学的な視点で捉えるというのがこの技術の特徴です。

DT空間を用いて高品質なデータの特徴を見極めるためのアルゴリズムの設計と実装を担当したのが、プロジェクトの発足当初からのメンバーである横田泰斗です。以前はディープラーニングの応用技術開発に携わり、事業部門とともに顧客の課題解決に取り組んでいたバックグラウンドがあります。その実装力を活かし、プログラムに落とし込んでいきました。

「幾何学的なデータのかたまりの中から、重要なところだけを抽出するようにアルゴリズムを設計していきました。設計書のない状態からプロトタイプを作り上げ、それを試行錯誤しながらブラッシュアップしていくのは非常に大変でした」（横田）

世界初の新技術として発表に至ったHigh Durability Learning。これを実現できたのも、顧客に近い事業部門と連携し、基礎技術の研究開発を行うことができる富士通研究所ならではのことです。

富士通研究所には、業務の現場をよく知る研究者、数学的な知見に長けた研究者、アルゴリズムや設計を踏まえた高度な実装力をもつ研究者など、様々な分野の専門的な能力を備えた人材が在籍し、そのバックグラウンドも多岐にわたります。先端分野の研究者としてキャリアを積んだ人材だけでなく、事業部門との人事交流等を通じたエンジニア経験者やキャリア採用で入社した横田のように、富士通グループ外出身者も活躍しています。High Durability Learningの研究開発は、そうした幅広い人材がプロジェクトに集結したからこそ実現できました。

プロジェクトでは現在、金融分野での信用リスク評価AIをはじめ、小売分野における商品画像分類AI、流通分野における伝票文字認識AIなど、様々な業務のAI運用にHigh Durability Learningの適用をめざした検証を進めています。また、精度監視を可視化するダッシュボードなど機能面の強化にも取り組んでいます。

「AIの精度劣化を防ぎ、運用の安定化を実現できれば、企業はAIをより安心して使うことができるため、導入・活用がさらに進むと考えています。公平性と説明可能性も兼ね備え、安心して使い続けることのできるAIを実現することが、私たち富士通研究所の使命だと考えています」（中澤）