AI品質技術

AI品質技術の開発と、AI品質保証の枠組みの確立に向けて

AI品質とは

AIとは、それまで人にしかできなかった高度で知的な判断をシステムが行うことができる新しい技術です。世の中のデータから自動的に学習するため、人がシステムに知識を教え込む必要がなく、様々な業務の効率化や新たな応用分野の発展に貢献しています。
一方、AIが自動的に作成した知識は正しいと言えるのか、AIの動作結果には誰が責任を追うのか、「AIの品質保証」はグローバルな問題として近年活発に議論されています。
富士通は「信頼できるAI」の実現と、それに伴う実社会への貢献を目指し、AI品質技術の開発と、AI品質保証の枠組みの確立に取り組んでいます。

AI品質の技術的取り組み

AIの品質リスクは社会全体に広がっている

AIの適用範囲が社会的に拡大するにつれ、人命に関わるようなクリティカルな分野(交通・運輸分野、金融・保険分野、電力・ガス・通信分野)へもAIが適用されるケースが増えています。その中で、AIが誤った判定結果を出したときに生じる問題の深刻性も高まり、品質に対する懸念が高まっています。

実際に、AIを搭載したシステムで起きた事件・事故等が数多く報告されており、AIシステムの活用には、品質の観点から数多くのリスクが存在するとみられています。そのため、現時点ではAIビジネスの多くは実証実験(PoC)に留まっていますが、製造分野や金融分野を中心にAIの本格的な導入が検討されており、今後は市場の拡大が予想されています。

それに伴い、AIの品質保証・管理技術の必要性がより高まるものと考えられます。

開発プロセスに沿って考える

AIシステムは、処理の手順を人(プログラマー)がコーディングして教え込む(=演繹的開発)のではなく、大量のデータに基づいて内部の振る舞いを自動的に学習すること(=帰納的開発)によって開発されます。そのため、従来のソフトウェアの検証技術や品質保証の考え方を適用することが難しくなっています。そのAIシステムの特性と品質保証上の課題に対し、我々は開発プロセス全体に対して網羅的に対応する必要があると考えています。そこで、富士通グループでは、AI品質をより実践へと推し進めていくため、開発プロセスに沿った技術的取り組みを行っています。

開発プロセスに沿って要求される技術は、AIを使い続けるための運用技術と、リスクと不確実性に対してテスト・デバックする技術とに分けられ、全体の指針に関しては、AI品質を担保するためのガイドラインや品質チェックリストの開発にも取り組み、AIシステムの品質を網羅的に保証する検討を行っています。

特に運用フェーズは、プロジェクトの価値を生み出す本質的な部分であり、現在、AIの社会実装は進んできているものの、まだAIシステムを運用した実績が全体的に少なく、継続的なAI運用を実現するための課題も多いフェーズです。私たちはその課題に対し、AIの安定運用をする技術「High Durability Learning(HDL)」を研究しています。

AI品質をより実践へと推し進めていくための開発プロセス

AIの安定運用を実現するHigh Durability Learning(HDL)

AI運用時サイクルの例

AI運用時の品質維持を自動化する技術

AIは、開発時の学習データから運用時の入力データの傾向や外部環境が変化することで、AIモデルが陳腐化(運用時のモデル精度低下)します。そのため高精度を維持するために頻繁なメンテナンスが必要になります。また、精度低下を放置すると大きな損害を招く危険性が高まり、それを防ぐには、定期的な正解付けにより、精度の監視が必要です。そこで富士通では、運用時のAIの精度を推定し自動でモデルを修復する、AIを使い続けるための技術である高耐性学習技術HDLを開発しました。

これら精度低下の修復技術は複数の要素技術によって構成されており、条件・環境・タスクに応じて適切な技術を選択して適用することで、様々な分野・業種での活用ができます。それに加えて、AI運用時の精度モニタリングや、精度低下の原因を特定することができるダッシュボードを提供することで、モデルの品質を維持することを支援します。

HDLが解決する課題

課題1 : 精度監視

一般的にAIモデルの精度を監視する場合には、既存モデルが出す出力結果と、専門家が人手で正解を与えた結果とを照合して、精度を測定しています。しかしながら、人手による正解付けには膨大なコストがかかり、頻繁には行えないというのが実情です。このことにより、精度低下や異常状態を見逃すリスクが発生します。HDLはこの精度監視の作業を自動化します。

課題2 : 自動修復

次に、精度が低下していることがわかったら、一般的なAIでは、モデルを人手で再学習することが必要になります。再学習には、人手で正解付けしたデータが必要になり、膨大なコストがかかりますが、精度を維持するためには、頻繁なメンテナンスが必要になってきます。HDLでは、既存モデルの再学習なく、モデルを自動修復することが可能です。

課題3 : 再学習支援

また、従来の再学習は、人手で正解付けした学習データが必要になり、膨大なコストがかかります。HDLは、人手で正解付けが必要なデータを削減することが可能です。

High Durability Learningの動作

HDLに関するより詳しい資料はこちら

Connect with Fujitsu Research

LinkedIn
Twitter
YouTube
ページの先頭へ