フレンドリーさと数理的裏付けを兼ね備えたAI を目指して

知性や感性を数式で表現したい

私が大学に進学した2014年には、今日に続くAIブームがすでに始まっていて、様々な知的タスクがコンピュータで実行できるようになっていることを知り衝撃を受けました。ディープラーニングによる画像認識の精度が人間に匹敵することや、囲碁でAIが人間に勝利するなど、AIの進化を示す出来事が続々と起こっていました。私は機械学習やデータマイニングなどAIの関連分野を学べる情報系を専攻しました。研究室に配属されて本格的に研究を始めた頃、指導教員の有村博紀先生から、人間のように予測根拠を説明できる「説明可能AI」という技術の存在を教えてもらい、とても興味を惹かれました。

今でこそ生成AIの登場によって自然言語で対話可能なAIは身近な技術になりましたが、当時はディープラーニングに代表されるAI技術の多くはブラックボックスであり、出力される予測結果の不透明性が実用においての大きな障壁となっていました。研究を進めていく中で、AIを研究することは「知性や感性を数式で表現する試み」であることに気がつきました。とくに説明可能AIは、ユーザである人間に対して予測根拠を説明する必要があり、人間にとっての解釈性や納得性など知性や感性に関わる概念を適切に数式としてモデル化することが重要で、そこが研究者としての腕の見せ所にもなります。もともと物事や現象を数式で表現することに興味を持っていたので、知性や感性を数式で表す方法があるならそれを探求してみたいと思いました。その後は自然な流れで大学院の博士後期課程へ進学し、説明可能AIをテーマとした研究開発を行いました。

インターン期間の論文が難関国際会議で採択

富士通研究所に入社したきっかけはインターンです。修士2年の頃、ある目標を達成するためにどのように行動（アクション）するべきかを説明として提示する説明可能AI技術（アクション説明技術）の研究を始めました。それまでの説明可能AI技術はAIの予測根拠を説明するものが主流でしたが、アクション説明技術は、例えば病気の発症を防ぐための予防プランなどのように、単なる根拠の説明より人間にとって建設的な説明を得られる技術であり、その実用性に高いポテンシャルを感じていました。

最初の研究成果をある研究集会で発表したところ、富士通研究所も同じ研究テーマに興味を持っているということを教えてもらいました。そこで、富士通のインターンに応募し、テーマとしてアクション説明技術の研究に取り組むこととなりました。約二か月間のインターンの研究成果をまとめた論文は、AI分野の最難関国際会議であるAAAIに採択され、さらに人工知能学会の論文賞の受賞など国内外で高く評価され、研究職を志す身として大きな自信につながりました。

また、富士通研究所でインターンを経験したことで、社内の頼もしい先輩研究者と知り合い、さらに小林健さん（現 東京科学大学の准教授）や池祐一さん（現 九州大学の准教授）と共同研究を行えたことは、その後の研究者人生における大きな財産になっています。共同研究は現在も続いていて、今年もアクション説明技術に関する論文がICMLという機械学習分野の最難関国際会議に採択されました。

現場の課題から生まれた因果意思決定支援技術

大学院博士後期課程を修了して入社してからは、説明可能AIを用いた意思決定支援技術の研究開発と、その実応用のサポートに携わることになりました。入社後間もなく、社内のある事業部門がアクション説明技術にはビジネスチャンスがあると考え、興味を持っていることが分かりました。例えば、製造業の工場での歩留まり改善や、従業員のワークライフバランスや生産性を向上させるための施策の提示などです。そこで、私が開発した技術を提供して、実応用に向けた性能評価実験を行ってもらえることになりました。

しかし、性能評価実験を重ねた結果、開発した技術は、実用には様々な課題があることがわかりました。一番の課題は処理時間でした。学術的な研究の世界では、安定した計算資源と扱いやすいベンチマークデータ上での実験結果で優位性を主張することができます。一方で、実応用の現場では、計算資源は限られ、対象のデータが大規模であったり欠損していたりするなど、開発した技術が十分にその性能を発揮できるとは限りません。これまでに開発してきた技術が実際の現場では役に立たないと判明したときには悔しさもありましたが、同時に、机上で論文を書いているだけでは分からなかった課題に気付けたことは、企業研究者として貴重な経験でした。

性能評価実験で判明した課題について上司や同僚と議論を重ね、その失敗経験を次のプロジェクトに活かすことに努めました。2024年3月には、これまでのアクション説明技術に統計的因果探索技術を融合した「因果意思決定支援」という技術を Fujitsu Research Portal(*1)で公開することができました。この技術は、データから項目間の因果関係を分析することで、目標を達成するために最も効果が高くかつ悪影響を及ぼさない施策を最適化して推薦する技術です。技術公開後、お客様に紹介したらすごく好評だったということを事業部から聞く機会が増えていています。富士通入社のモチベーションの一つは、社会に還元できる技術を作りたいという想いでしたので、開発した技術に興味を持ってもらい、実際に使われていることに大きな達成感を感じています。

癒しのカメラ撮影・読書タイム

学生時代から続けている趣味はカメラです。大学生の頃にアルバイト代を貯めて購入した一眼レフカメラを今でも愛用しています。人や動物を撮ることが好きで、とくに動物は動きが予測できないので上手に撮ることが難しく、色々と工夫を凝らして満足のいく写真が撮れると嬉しい気持ちになります。試行錯誤を繰り返して自分が満足する結果を追い求める点は研究活動にも似ている部分があるように感じています。

休日は、カフェに行ってリラックスしながら自分の作業をすることが好きです。最近は認知科学や哲学など人文科学系の本を読むことが多くなりました。説明可能AIの研究開発に携わる中で、人間にとって分かりやすい説明とは何かを探求したいと考えるようになり、関連する勉強を始めています。

アカデミアと企業研究の両立を目指して

企業の研究員としての研究開発以外に、ACT-Xの「次世代AIを築く数理・情報科学の革新」領域の一期生としての研究活動も行っています。これは、科学技術振興機構（JST）が推進している若手向け競争的研究事業で、我が国が直面する重要な課題の克服に向けて、優れた若手研究者を発掘し育成することを目的としたプログラムです。会社や上司からの後押しもあり、応募して採択されました。私はそこでアクション説明技術に関する研究課題に取り組んでいます。大学を中心とする学術的な研究者コミュニティでの存在感を示しつつ、社会に対しても具体的なインパクトのある研究成果を出せるような、バランスのよい研究者になることが目標です。

大規模言語モデルに代表される生成AI技術の台頭によって、説明可能AIのあるべき姿や研究の進むべき目標も変容しつつあるように思います。ChatGPTのように誰もが使える生成AIサービスが普及しつつありますが、ハルシネーションなど信頼性の課題もあり、生成AI技術を実社会の重要な意思決定に活用するにはまだ障壁があるように感じています。新しい技術を拒絶したり以前の技術を捨てたりするのではなく、自然言語で対話可能な生成AIのフレンドリーさと、数理的に裏付けられた説明可能AIの真摯さを兼ね備えたような、そんな良いとこ取りをした人間に寄り添うAI技術の実現を目指したいと考えています。

関係者からのメッセージ

金森さんはICML2024 spotlightや人工知能学会論文賞を受賞されるなど，人工知能研究所の中でもトップクラスの研究力を備えた人物です。専門分野だけでなく幅広い視野を持ち、様々なアイデアで課題を解決する力があります。彼がこれから富士通で出していく成果がとても楽しみです。（人工知能研究所　高木拓也 シニアリサーチマネージャー）

• (*1)
  Fujitsu Research Portalは、富士通が研究開発した最先端AI技術を体験いただけます。因果意思決定支援にご興味のある方は、こちらからお問い合わせください。