AIも判断を間違う?! AIを自動でアップデートするHDL技術

AIも判断を間違うってどういうこと？

• 

  AIは優秀で、知識もいっぱい持っているから間違わないんじゃないの？

• 

  そうだよね、しかもAIは機械だし。

• 

  私はAIの研究員です。私から説明しますね。AIは優秀で間違わないって思っている人も多いようですが、人がずっと学び続けるということわざで「習うは一生」という言葉があります。AIも新しい知識を習得し続けないと、激しく変化する世の中で正しい判断ができなくなります。

• 

  間違って判断されたら困るな。AIって最近、身近な存在になってきてるもの。

• 

  うん、私もスマートフォンを使って音声で質問＆回答をしてくれる機能が便利で、よく使っていますよ。

• 

  そうですよね。AIは状況に合った答えを出すことで人を助けているので、常に正しい判断をする必要があります。そのために、AIも新しいことを学び続ける必要があるんです。

AIも学び続ける?!

• 

  AIも学び続ける必要があるっていうのは、どういうことですか？

• 

  それは、時間の経過にともなって、変化する周囲の状況についていけなくなるからです。例えば気候の変化や流行の変化など、周囲の変化にAIがついていけないと、その状況に合わない間違った答えをしてしまう頻度が多くなってしまうからです。

• 

  それじゃ、世の中で使われるAI（例えばインターネットの検索や自動車運転など）は、どうやって新しい情報を勉強しているんですか？

• 

  たくさんの人と時間をかけて、AIに新しい情報を覚えさせています。

• 

  あら大変‥

• 

  今回ご紹介する「HDL」は、たくさんの人と時間をかけずにAIが周囲の変化にあうように自動的に成長させる技術なんです。
  「HDL」は、High（高い）・Durability（耐久性）・Learning（学習）の略です。

• 

  まだよくわからない技術ですが、AIを自動的に成長させるなんて優秀なコーチみたいですね！

HDLってどんな技術

ケーキ工場の例を使って、どんな技術なのか説明します。

ケーキ工場で最近困っていること

• 

  最近、工場で使っているAIが間違って判断することが多くなって困ってるんだ。例えばショートケーキの製造ラインで、販売しても問題ない出来栄えなのに、不合格として判断してしまったりするんだよ。AIを導入した1年前はそんなことなかったのに･･。

• 

  それはお困りですね。

• 

  どうしてそんな現象がおきてしまってるか説明します。１年前、ケーキ製造工場でAIを稼働しはじめる前にケーキの形が販売基準にあっていれば合格、イチゴの位置などがずれて形が悪かったら不合格という学習をしましたよね。

• 

  はい、しました。

• 
  

  

  
  
• 

  しかし1年経って想定外のことがおきたようです。それは入力データの中に、「ピントがずれたデータ」や「傾いたデータ」「暗くなってしまったデータ」「パッケージが変更になっているデータ」が入ってくるようになったようです。

• 
  

  

  
  
• 

  ケーキの形についてはしっかり学習したけど、カメラの汚れや急なパッケージの変更までは学習してなかった！だから、ケーキの形は良いのに、不合格になってしまったということですね。

• 

  はい、今回のような想定外の問題は、工場ごとにカメラの設置条件や環境状況など千差万別なので、結構あるんですよ。

• 

  AIも想定外のことを判断するのは困るわね。

• 

  １年前には入ってこなかったデータを、１年前に作った判断基準で、振り分けていたので、間違って判断してしまったんです。

• 
  

  

  
  
• 

  つまり、時間の経過とともに想定外のことがおこったため、AIの精度が低下してしまった、ということですね。

• 
  

  

  
  
• 

  なるほど、そうだったんですね。

• 

  AIは導入してからも常に最新のデータで再学習し続ける必要があることわかってもらえましたか？

• 

  はい。でも、言うのは簡単ですが、実際にAIを再学習し続けさせるのは大変な作業ですよね（しみじみ）。

• 

  そうですよね、人手と時間とコストがかかりますから（泣）。

• 

  そこで「HDL」の登場です（ジャジャーン）。
  HDLコーチがどんな作業をして、AIくんを支えるのか説明しましょう。

HDLが問題を解決

• 

  AIくんが入っているコンピューターにHDLをインストールします。すると、HDLコーチがAIくんによって振り分けられた結果をもとに、もう一度独自の分布図を作ります。

• 

  グループAは、AIくんが「合格」と判断したグループですね。

• 

  グループBは、AIくんが「不合格」と判断したグループだね。

• 

  ケーキ工場で新たに入ってくる最新データがHDLコーチの分布図のどのグループに関連するのか、関連する方へ引き寄せられます。

• 

  毎日、新しいデータがどんどん入ってきて、関連するグループに追加されるので、HDLコーチが作った分布図の形が常に変化します。

• 

  つまり、HDLコーチのデータは常に更新しているってことですね。

• 

  はい。「常に更新」というのは、時間の経過によって少しずつ変化したデータも入って更新されます。例えば工場内の照明が劣化し、暗い背景のデータになっても、HDLコーチは合格の形を覚え続け、判断を間違えません。

• 

  そして、工場長さんが１か月ごとに合格の判断基準をチェックしたい場合には、1か月ごとにHDLコーチの分布図をAIくんが理解できる図に変換して、AIくんとHDLコーチの判断基準を比較します。

• 

  AIくんが作った判断基準（点線）とHDLコーチが作った新しい判断基準（実線）を比較します。

• 

  違いに気が付いたらHDLコーチがAIくんに新しい判断基準を教えます。（AIの判断基準を更新します）

• 

  ん？HDLコーチが直接、AIくんのように合格か不合格か振り分けじゃだめなの？

• 

  はい、AIくんとHDLコーチの役割分担が違います。AIくんは日々工場で合格か不合格かをひとつずつ判断していますね。HDLコーチは、最近のデータ傾向をAIくんに教えてあげるのが役割で、合格か不合格かを判断しているのはAIくんです。

• 

  そうなんですね。つまり、AIとHDLの両方を動かすことで、新しい判断基準が自動でAIに反映されるんですね。

• 

  適材適所って感じですね。

• 

  はい、そうです。それと、今回は工場長さんがAIの変化に気づいたから良かったですが、気づかずにいたら、更に生産性を下げていたかもしれませんね。

• 

  それは困る！HDLをインストールします。

• 

  これで人手と時間をかけてもう一度勉強しなおし（再学習）なんてことがなくなりますね。HDLコーチが自動的に日々更新しますので！

• 

  それはいいですね。がんばって、工場長さん。

• 

  はい。

もうちょっとだけ教えてください

• 

  HDLをインストールするってことだけど、AIが入っている既存のコンピューターに、HDLソフトウェアをインストールすればいいの？

• 

  はい、HDLをインストールして、既存のAIの入出力データをAPI（AIとHDLをつなぐソフトウェア）を使ってHDLと連携させるだけで利用できるようになります！

• 

  わかりました。

これからもっと色々なAIにHDLが使われていくよ

河川の増水を高精度で見守り、生活の安全・安心を守ります

河川に設置されたカメラは屋外にあるので、レンズの汚れ、撮影環境の明度変化（朝昼夜）、天候変化（雨雪霧）など、日々、常に変化するデータをHDLによって自動で学習します。

• 

  暗い時間帯や雨の時などは想定内のように思いますがHDLが必要ですか？

• 

  カメラを設置後に、例えば雨が降ると近くに水たまりができて、車が通るたびに泥水がかかったり、季節によって横風の強い雨が降る地域だったりと、想定外のことがおこりますので、HDLがあると安心です。

決まった作業が正しく実施されているか高精度で識別します

時間の経過とともに入力データにレンズの汚れ、明度変化、カメラの傾きなどのバラツキが加わっても、データの変化の傾向を日々学習しているので識別可能です。

• 

  カメラを再調整して、正常な位置やレンズと交換してはどうでしょうか？

• 

  もしカメラを再調整できる数なら、その対応でも良いかもしれませんね。しかし、世界中に工場がある場合や、どのカメラに異常が起こっているかわからない場合もあるので、一つ一つカメラを再調整するのは大変ですね。

その他にも色々なAIに使えます！

• 

  HDLは汎用性にすぐれているところもポイントです！

例1）車（自動運転AI）

例2）スマホ（画像検索サービスAI）

例3）病院（画像診断AI）

• 

  色々なAIと一緒に使えるってすごいね！

小話

AIに求められていること

現在、AI（人工知能）の活用は、社会全体に広がっています。商品を作る工場では、より効率的に、より安心安全に人が作業したり、機械を維持するためのAI技術が期待されています。しかしその一方で、AI技術のエラーが原因でトラブルになるケースが近年増えてきています。例えば市場に出た自動運転車が、強い日差しとトレーラーの白い車体を区別できなかったという例があります。このように想定外のことが様々に起こり得る場合もあるため、AIの正しい判断を保証することは非常に難しいことです。
　私たちは、これまで以上にAIを作る人と使う人が、AIには何ができて、何ができないのかを理解することが益々重要になってきます。環境が変化したり、予想外のデータが入ってきた時にも動きが安定して、安全に使えるシステムが求められています。

研究員のあるある話 ～コロナ禍での国際会議参加～

論文採択の後、通常なら「ホテルや国際線の手配」「会場までの行き方や現地の地図確認」等、行ったことのない土地に行くため、非常にワクワク感、愉しみが多いのですが、コロナの影響でオンライン開催となったことで、開催時間に自宅から自分の発表を済ませ、他の発表を視聴するだけで終わってしまいました。しかもフロリダは日本との時差が13時間だったので、深夜25時に家族を起こさないように静かにリビングでの発表でした。（他の発表の際には少しウトウトしてしまいました）
　世界中から研究者が集まる華やかな国際舞台も、コロナで地味な発表でした。一生懸命に研究してきた成果を発表するので、以前のような他の研究者と活発に議論できる舞台に早く戻って欲しいと願うばかりです。