先輩×後輩トークセッション
富士通研究員の横顔
セキュリティ編【前編】

本日は研究所お二人の先輩とトークセッションという場をつくることができ、嬉しく思います。私と同じく文書のトラスト^*1の研究をされている山口さんとAIセキュリティ研究をされている清水さんから様々な角度からお話を伺い、お二人の横顔に迫っていきたいと思います。

今回、集まったみなさんは、最近各々論文受賞されていると思いますが、まずはお一人ずつの論文受賞内容と受賞のコメントを聞かせてください。

私が取り組んでいた研究は、AIにおけるセキュリティ対策の技術の一つで、機械学習モデルに対するバックドアと呼ばれる攻撃を検知するために生成モデルを利用する手法の提案です。画像を認識し判断を行うAI向けの技術です。機械学習モデルにバックドア攻撃が行われたモデルかどうか検査するためには、基本的には、「トリガー」^*2を発見しなければならないのですが、以前では計算時間の問題から非常にサイズの小さなトリガーしか見つけることができなかったのです。今回は生成モデルを呼ばれるAI技術を応用することで、従来に比べ大きなトリガーまで見つけることができるようになり、より多くのモデルに対してバックドアが仕込まれているかどうか検査できるようになりました。

AI セキュリティは近年伸びてきた分野ですね。

まさにそうです。今回の受賞により、世間でこの分野の大事さをアピールでき、良いきっかけになったと思い、とても嬉しかったです。

私の受賞論文では、デジタルアニーラ^*3を用いた格子暗号の安全性評価において、格子暗号特有の性質を使った新たな定式化手法を提案しました。この定式化を利用することで、デジタルアニーラを使用して格子暗号を解くスピードを平均して従来比の数十倍程度高速化することに成功しました。定式化のルールには厳しい制限があり、自由度が低いため、これまではデジタルアニーラのパラメータ設定を工夫することで問題を解いていました。一方で、今回は新たな定式化に挑戦し、結果として数十倍の高速に成功しました。本成果が論文賞を受賞したことはとても嬉しく思います。

結果に結びついたことは研究者にとってモチベーションが上がりますし、嬉しいことですね。自分も学生時代の修士論文を学会で発表させていただき、お二人と同じく、その成果が認められたことは素直に嬉しいです。

私の場合、研究開始段階では研究に必要な基礎知識が乏しく、内容をなかなか理解できずに、まず論文や本を読んで理解するところが大変だった記憶がありますが、お二人は今回の研究で、どんな課題がありましたか。

AIセキュリティの研究は、AIの訓練を含むため、非常に時間がかかることが多いです。一つのモデルの訓練自体に1日以上かかることもあり、手法を思いついたあとの検証に時間がかかり、実験、検証、手法改善のサイクルを回すことが非常に大変だったことを覚えています。チームのメンバーと密に議論しつつ、地道な実験や検証を続けたことが今回の結果につながったと思っています。

自分の場合は時間との戦いでしたね。デジタルアニーラを使った暗号解析の研究は、本業の研究とは別のサブテーマとして実施しており、少ない時間の中で研究を行ってきました。約3年半をかけ、今回の賞をいただいたり、英語論文誌に採択されたりするなど、少なからず成果を出すことができて安心しています。

楽しくサブテーマの研究をやられるように感じました。少ない時間の中でサブ研究を行っているところは、スケジュール管理も工夫されていて、とても参考になります。

最先端の計算機を使用できることが楽しみでした。個人の趣味を兼ねて、本研究への関心を持って、時間を作り出して研究を着々と進めました。

私は受賞した研究内容について、現在手掛けているトラスト研究開発に着手する良いきっかけになったと感じています。なぜなら、トラストを実現するには暗号技術が必要となってきますので、受賞された研究で得た知識や経験を活かすことができていると感じています。お二人の受賞論文についてはいかがでしょうか。

そうですね。私は今イスラエルのベングリオン大学^*4と、まさにAIセキュリティの研究を行っており、本研究の知見を存分に活かしながら、それを上回るような技術開発を目指して共同研究に取り組めています。

私の場合、受賞テーマとトラスト研究とは全く別物なので経験が活かせるかは難しいですが、今回の賞や英語論文誌に採択されたことで少し自信がついたので、これからのトラスト研究を前向きに行うことができると思います。

現在の研究内容について、詳しく教えていただけますでしょうか。

私はAIセキュリティと呼ばれる分野の研究を行っています。AIはAI自身がデータから学習を行い、自律的に判断・推論を行うプログラムなので、それゆえに原因がわからないような判断をすることがあります。AIセキュリティとはそのようなAIの性質を利用した脆弱性に関する研究で、AIへの入力に特定の変更を加えることで、AIを騙したり、学習データに細工をしてAIモデルを汚染するなど、新たな攻撃が発見、研究されており、その脅威の分析や対策技術についての研究を行っております。

現在参加中のプロジェクトのやりがいなどについて、教えてください。

AIセキュリティは、モデルやデータに依存する部分が大きく、決定的な対策は存在しないと考えられるため、AIが使われる領域から焦点を絞る、提供するサービスの種別に応じて対策すべき攻撃を見極める、など実際のユーザーが手に取って有用だと思われるような技術、道具を作ることでより安全にAIを利用できる世の中に少しでも貢献できればと思っています。

ありがとうございます。これからのAIセキュリティの研究をアップデートするため、清水さんは最新技術の情報をどのように得ていますか。

新しい学会の論文は常に調査しますね。チームメンバーも、各々参加してきた学会、最新の技術について調査し、有意義な情報をまとめてチーム内で共有しています。また、毎週チームメンバーで、最近面白かった論文や凄かったと思う論文を持ち寄って紹介する勉強会もしています。最新技術の情報は常にアップデートするように心がけています。

清水さんのチームほど広くかなりの量を見ていくことまではできてはいないですけど、基本的に我々のチームも同じアップデートのやり方です。

AIセキュリティチームでは、最近、大学との共同研究をたくさんやられていると聞いていますが、面白いエピソードはありますか。

様々なバックグラウンド・業種の人と会話し業務をできることで多角的な研究をできているところが面白いと思います。大学との共同研究を通じて研究を深めることはもちろん、他の企業研究者と交流し、研究している技術が活きるサービスや製品を実際に販売している人々、プロジェクトメンバーの中にも工学系、理学系、人文系と様々なバックグラウンドの人がいて、より広い視点から研究を進めることができます。例えば、現在のAIセキュリティの研究においては、数学系の方と機械学習のコアな部分の研究を深める一方で、実際のAIの開発者コミュニティを通じて現場ではどのようなことに困っていて、セキュリティを意識しているかなどの声を聞きつつ研究を進めております。

清水さんのプロジェクトでは、海外研究者との交流する機会が多いと思いますが、海外の方との共同研究、言語の不安はありますか。

英語は苦労していましたが、海外研究者との定例ミーティングの時に、資料は事前共有する方法で進行しています。事前に資料を熟読することで、なんとなく会議が上手く回るようになりました。

前半最後に、お二人の普段のオンとオフの切り替えについてお聞かせください。私自身はテレワークが日常となり、打刻後に仕事とプライベートと切り離すことが難しいと感じています。

私も奥村さんと一緒ですね。アイデアが日常的に出てくることがあり、あまりプライベートと仕事を明確に区切らず仕事を進行してしまいます。もう少しプライベートと仕事をはっきり切り離した方が良いかもしれません。しかし、良い意味では、自分で時間を制御して研究できるポジティブな側面があります。仕事はフレックスなので、上手くいかない時は少し休憩を取り、閃いた時に集中して作業を進める働き方をしています。

山口さんは私とよく似たタイプですね。清水さんはリフレッシュとして何かされていますでしょうか。

私は、問題に行き詰まった時や、アイデアが出てこない時などは一度保留にして、趣味のランニングを行って頭をリフレッシュしています。ほかにも、面白そうだと思ったことや論文めぐりは、何かに行き詰まった時の楽しみにとっておき、業務内容を切り替えたりしてリフレッシュしています。

ありがとうございます。参考にさせていただきます。