株式会社サイバーエージェント 様

インターネット業界屈指のサイバーエージェントは、更なる安心・安全なメディアサービスの運営を図るため、自社開発した既存の総合監視基盤システムにZinraiを活用した自然文解析エンジンを採用。富士通独自の「文の構造や文脈を学習した解析技術」によって、従来のエンジンでは検知が難しかった不適切な投稿も検知可能となり、今後の監視精度向上に期待を寄せている。高速の解析処理も実現し、さらに有人逐次監視を減らすことによる人的コストの削減も見込まれる。

経緯

検知できない不適切投稿の対処と
人による逐次監視のコスト低減

現在の監視基盤システムにおいては、自動的な投稿抽出と有人監視（人の目による監視）の二重のチェックを通した上で高い監視精度を維持している。このとき、有人監視に回す投稿を抽出するための方法が、システム全体の監視精度や監視効率を大きく左右する。投稿抽出のためにいくつかの手法を提供しているが、広く使われているものは投稿されたデータから特定のワード（「禁止ワード」）が使われていた場合に、自動的に監視対象を抽出した上で、最終的に人の目によって非表示にするかを判断する方法だ。
「監視ツールに登録する禁止ワードは時代とともに変化するため、常にブラッシュアップが必要です」と話すのは秋葉原ラボ エンジニア 藤坂祐介氏。
「フィルタリングによって仮にその時点で検知できても、“これで引っかかるなら別のワードに変えて投稿しよう”と、意図的に表現を変えて投稿されることがあります」と話すのは、秋葉原ラボ コーディネーター 松井美帆氏。「つまり、サービスを悪用する側とのイタチごっこが繰り返されていくのです」（松井氏）

また、監視精度の課題として「禁止ワードは含まないが内容的には問題のある」不適切なニュアンスの投稿への対処も挙げられる。
「例えば事件・犯罪を発生させる可能性のある内容でも、あからさまな禁止ワードを使っていない投稿や、アクセス数を稼ぐためのワードサラダ（文法は間違っていないが、文章として意味が破綻している）やスパム（無差別に大量にばらまかれるメッセージ）などです」（藤坂氏）

もちろん、サービスを悪用する側の事例や傾向を掴むことで対策も採られているが、あからさまな禁止ワードを持たない性質上、スルーされる可能性は高い。結果、高い監視精度を保つためには、発見される度に禁止ワードリストを更新していく他なかった。
「フィルタリングの精度を高めていくことの他にも、解析スピードを上げることで監視作業の効率化を図る、有人監視の負担を減らすことで全体のコストを削減するといった課題もありました」と福田氏。「有人監視は新サービス開始時など、多い時には100人態勢で作業にあたります。新たなサービスは次々と生み出されますし、もちろん24時間体制なので、人的コストの低減は大きな課題でした。そうした中、富士通さんからZinraiを活用した自然文解析エンジンのご提案をいただきました」（福田氏）

効果と今後の展望

高速、高検知率を記録
実証実験で得た十分な手応え

実証実験で得た結果は、今後に大きな期待を抱かせる。
「実際に不適切な投稿が占める割合は、全投稿数の1%もありません。ことわざで“藁の中から針を探す”と言いますが、今回、実証で得た検知率を見ると、富士通の解析エンジンが非常に優秀な監視スキルを持っていることが立証されたと思います」と福田氏。

実証実験では、既存のエンジンで検知できなかった不適切な投稿に対して、94%という高い検知率を記録。またその際に要した時間はわずか0.01秒台。監視精度の向上とともに高速解析処理も実現した。
「機械学習のために必要なデータを大量に保持していることが我々の強みですが、今後も日々データを収集、それをシステムが学習するというループを富士通さんと協力して繰り返していくことで、さらなる監視精度の向上が見込まれます」（福田氏）

また、「解析エンジンが不適切な投稿を検知してくれる割合が増すことで、有人監視の負担も減ります。コスト低減が期待されるばかりでなく、監視に割いていた人員が他の仕事に従事できるため会社全体の仕事の効率化にも繋がります」（藤坂氏）

「技術的な数々の要望に対し、真摯に対応していただいて感謝しています。この解析エンジンはブログの監視に活用されますが、今後は、このフィルタリングエンジンを当社グループ全体に展開し、さらに快適に利用いただけるメディアサービスの提供を目指します。これからも富士通さんと協力して、様々なアイデアを出し合ってビジネスを拡大していきたいと思います」（福田氏）

［2018年11月掲載］