デジタル世界で「信頼」をどう再構築するか
マイケル・サンデル教授との白熱討論
「亡くなった家族のデジタルツインとオンラインで話せるとしたら、あなたは会話しますか？」。平易な語り口で問いかけながら、聴衆を時代が抱える問題の核心へと導いていくマイケル・サンデル教授。富士通フォーラム2019のフロントラインセッション（5月16日開催）に登壇したサンデル教授は、富士通のグローバルマーケティング本部 チーフストラテジストの高重吉邦と8人のパネリストを交え、個人データやAIの倫理、企業の存在意義などについて白熱した討論を展開しました。
パネリストとして参加したのは、まず、国連開発計画（UNDP）駐日代表事務所の渉外・広報官を務める保田由布子さん。マレーシア社会保障庁 リハビリテーションセンター 副所長のエドモンド・チョンさん。音声感情解析AIをグローバルに提供するスタートアップ企業Empathの共同創業者でCSOの山崎はずむさん。クリエイティブとビジネスを越境するビジネスデザイナーであるTakramディレクターの佐々木康裕さん。そして、富士通からは産学官連携やダイバーシティを担当する梶原ゆみ子理事、富士通UK&I金融サービスCTOのイアン・ブラッドベリー、ポーランド・グローバルデリバリーセンターのプロセス・マネージャー、セバスチャン・マシュー、グローバルマーケティング本部から高橋美香が登壇しました。また、予め配布していた赤と緑のボードを通じて、東京国際フォーラムの大ホールを埋め尽くすビジネスリーダー達もともに議論に参加し、会場全体が活気にあふれました。
高重吉邦
皆さん、こんにちは。
これから“ハーバード白熱教室”でよくご存じのマイケル・サンデル教授とともに「デジタル世界で“信頼”をどう再構築するか」について、議論していきたいと思います。
インターネットやスマートフォンのようなデジタル技術は暮らしを便利にし、eコマースやソーシャルネットワークなどの新しいビジネスを生み出しました。しかし、一方で不安に感じないでしょうか？昨年起こったフェイスブックの個人データ漏洩事件はまだ記憶に新しいと思います。富士通が実施したグローバル調査でも回答者の70%以上がオンライン情報の信頼性やプライバシー侵害のリスクについて懸念を抱いていました。デジタル技術に対する信頼、それを使う企業に対する“信頼”が揺らいでいるのです。
サンデル教授は、この点についてどうお考えでしょうか？
マイケル・サンデル
今日私たちが直面する最も大きな倫理的な問題のひとつだと思います。解決できなければ企業の信頼は失墜し、人々はテクノロジーを機会ではなく脅威だと見なしてしまうでしょう。これから行うように、デジタル技術がもたらす倫理的な問題についてパブリックに議論することが重要なのです。
プライバシーをどこまで共有する？
マイケル・サンデル
こういった大きな問題の一つである個人データについて考えてみましょう。企業がより良いサービスや便益を提供するために、その代わりに自分の個人データを提供するでしょうか？まず健康保険についての質問から始めましょう。ウェアラブルデバイスを使って、睡眠時間や食事内容..あなたが健康のためにブロッコリーを食べたかとか..どのくらいアルコールを摂取しているかなどの生活習慣を記録して保険会社に送るというものです。あなたの健康情報提供と健康的な生活習慣と引き換えに保険料を大幅にディスカウントするというのです。提供しても構わないという方は緑、いやだという方は赤のボードを掲げてください。
見たところ聴衆の方は緑が7割から8割くらいでしょうか。パネリストの方々も6対2で緑が多数派です。由布子さんは情報提供しないという意見ですが、それはなぜですか？
保田由布子
理由は2つあります。私はブロッコリーも好きだし、ヨガもしますが、自分のプライバシーを企業に知られると裸で街を歩いているような、監視されているような気持ち悪さがあって、値引きの嬉しさより恐さの方が上回ります。また、健康な人だけが値引きを受けられる考えがさらに進むと、最後は「あなたは遺伝子に異常があるので保険に入れません」というようなことになるかもしれない。そういう社会は怖いと思います。
マイケル・サンデル
では、賛成派から康裕さん、あなたは健康データの提供に抵抗がないようですが、なぜでしょう？遺伝子情報についても同様ですか？
佐々木康裕
安くなるならなんでもいいよという感じですね。食事や睡眠などのデータは自分の大事なところを物語っていないと思っていますので、それを提供して見返りをもらうことに抵抗はありません。遺伝子情報にしても、たくさんの人々がデータ提供することで新しい治療法の発見や医療の進歩に役立つかもしれません。
マイケル・サンデル
そういったデータは自分の大切なアイデンティティに関わらないので提供しても構わないというわけですね。では、共有したくない個人的なデータにはどのようなものがありますか？
佐々木康裕
家族や親友など大切な人との会話は共有したくないですね。相手の人間を捲きこんでしまうおそれもありますので。
マイケル・サンデル
由布子さんは一切共有しない、康裕さんはべつに構わないと言っています。イアンさん、あなたは共有派でしたね？
イアン・ブラッドベリー
はい、そうです。保険会社は個人データを他の企業と共有するようなことはないと期待していますので。
マイケル・サンデル
では聞きますが、フェイスブックはあなたの個人データをしっかり守っていると思いますか？
イアン・ブラッドベリー
フェイスブックには共有されても構わない情報しか載せません。プラットフォームには価値があると思いますが、すべての情報を載せたりはしません。その点が保険会社の場合と異なります。
マイケル・サンデル
パネラーのなかでフェイスブックを利用していない方は？ゆみ子さん、あなたはなぜ利用していないのですか？
梶原ゆみ子
誰が見るかわからないところに自分の情報を出すのはいやだからです。
マイケル・サンデル
ではここで少し質問を変えて、データを提供する相手が自動車保険会社だったらどうでしょう？制限速度を守っているか、急ブレーキや急ターンをしていないか、夜間の何時頃運転するか、といった運転状況を記録するデバイスを車に装着してデータを提供すると保険料が値引きになるとしたら？会場の皆さんもボードで考えを教えてください。
会場はほぼ9割がデータを提供するようですが、パネリストは8人中4人が提供しない。会場との違いが出ています。
健康データは拒まなかったのに運転データは共有しないというエドモンドさん、それはなぜですか？自分の運転データは健康データよりもパーソナルなものですか？
エドモンド・チョン
そうではなく、自分の運転記録がディスカウントにつながらないと思うからです。データを提供したら逆に保険料が上がってしまうかもしれない。
マイケル・サンデル
運転が荒いから？
エドモンド・チョン
いえ、運転はきちんとしていますが、夜間や長距離の運転が多いので。
マイケル・サンデル
なるほど、保険会社が逆の用途に使うかもしれないということですね。では、ほかに健康データは構わないが運転記録はいやだという方？美香さん、いかがですか？
高橋美香
エドモンドさんと似たような理由です。わたしは運転がすごく下手なので、値引きにはつながらないだろうと思います。もう一つ、位置データが気になりました。自分がいつ、どこにいたかがわかってしまうのは、少し怖い気がして「いいえ」にしました。
マイケル・サンデル
美香さんにとって位置データは、由布子さんにとっての健康データと同じようにパーソナルだということですね。康裕さん、あなたは、さっき健康データは気にしないと言っていましたが、あなたがどこに行ったという位置データを企業が知るということはいかがですか？かなりパーソナルなものだと思うのですが？
佐々木康裕
たしかにパーソナルなものですが、それも問題ありません。自動車保険会社が外に情報を漏らさないという信頼に基づいていれば。もしその会社が信頼できなければ、そのサービス自体を利用しません。
マイケル・サンデル
Uberのような配車サービスでは利用者の位置データが必須になります。しかし、たとえば位置データを見て、深夜になぜか多くの男性が訪れるような場所があるとして、そのデータから売春といったようなことが疑われるわけです。グーグルのCEOエリック・シュミットは“他人に知られたくないなら、最初からそんなことはしないに越したことはない”というようなことを言っています。ここには非常にセンシティブな問題がふくまれています。倫理とプライバシーに関わる問題です。吉邦さん、どう思われますか？
高重吉邦
たしかにセンシティブですね。日本ではまれですがテロリストが特定の人の位置データを手に入れた場合、誘拐や殺人の対象になってしまうというケースも考えられます。データを取り扱う企業がどんな取り決めでそのデータをどのように管理しているのかわからないときは、共有は危険だといえます。
エドモンド・チョン
たとえばいまわたしは妻と2人の娘をマレーシアに残して日本に来ていますが、もしそのことを誰かに知られたなら、家族のことが心配になります。
マイケル・サンデル
一家の主が留守で、家族が無防備だということですね。
エドモンド・チョン
ええ、そうです。
マイケル・サンデル
ここで少し整理してみましょう。わたしたちはプライバシーに関し、他人には知られたくないという気持ちを持っています。このパネル・ディスカッションを通じて、自分のアイデンティティに関わる大事な部分は共有したくないということが分かってきました。しかし、どのデータを大事な部分と考えるのかについては個人差があるということも明らかになりました。
AIをどこまで信頼する？
マイケル・サンデル
では、ここからもう一つ別の倫理的な問題の議論に移っていきましょう。ビッグデータや、AI、アルゴリズムについてです。AIは、人と比べてより良い判断をすることができるでしょうか。
具体的に病気の診断の例を取ってみましょう。CTスキャンの画像解析の能力ではAIの方が医師を上回ってきていますね。
皆さんの大切な人が重い病気に罹っている場合、CTスキャンの画像診断に皆さんは人間の医師を選びますか、それともAIを選びますか？ボードで答えを示してください。
会場はAIと医師でだいたい半々に分かれました。パネルの方は二人を除いてAIに診断を任せるという答えです。医師を選んだはずむさん、どうしてそのほうがいいのでしょうか？
山崎はずむ
統計学的な判断としてはAIが優れていて、今後症例のデータが増えれば増えるほど診断精度も上がってくるのでしょうが、実感としていまはまだ医者に頼りたいという思いがあります。
マイケル・サンデル
もうひとり、医師を選んだセバスチャンさんはどうして？
セバスチャン・マシュー
AIの解析結果を参考にして医師に診てもらいたいですね。
マイケル・サンデル
AIだけではだめですか？
セバスチャン・マシュー
AIはデータの解析はできますし、間違いは犯しにくいかもしれませんが、AIがきちんと推論をすることができるとは思いません。AIと人が協働することが必要だと思います。
マイケル・サンデル
最終的には人だと？
セバスチャン・マシュー
そう思います。
マイケル・サンデル
はずむさん、どう思いますか？
山崎はずむ
推論を行うために、人間はAIが持っていない意識を持っています。AIはあくまで統計分析をしているわけで、理解しているわけではありません。人間が認識する働きとマシンのそれは全く異なると思います。
マイケル・サンデル
しかし、ここではただCTの画像解析を任せるだけです。
山崎はずむ
AIに対する信頼がまだ不足していると思います。
マイケル・サンデル
マシンに対する信頼ということですか？
山崎はずむ
もっと利用が広がれば信頼が深まるかもしれません。たとえば、自動運転のほうが人間より事故率は少ないといわれています。けれども、自動運転への恐怖心は消えません。これは単なる統計の問題ではなく、人間のメンタルなところの問題なのです。
マイケル・サンデル
ではここでこの問題にもっと踏み込んでみましょう。今度は人事評価についてです。
会社での仕事のパフォーマンスを評価する際、人間の上司には主観や感情が入りこんでしまうことがあります。一方、AIは、様々な指標とアルゴリズムに従ってパフォーマンスを評価します。皆さんが社員だとして、どちらの評価を望みますか？人間の上司でしょうか、それともAIでしょうか？
会場はほぼ8割近く人間の上司を信頼しているようですね。逆にパネリストの方々は半々に別れました。ゆみ子さん、AIを選んだ理由は？
梶原ゆみ子
AIの方が客観的で公平なのではないかと思いました。人間の場合は、どうしても評価に好き嫌いが出てしまいがちです。AIにはそうしたバイアスが存在しないのではないでしょうか。
マイケル・サンデル
より客観的ということですね。
梶原ゆみ子
人間はどうしても主観が優先します。また、そのときの上司と部下との関係性の問題もあります。もしかすると会場の皆さんは、ほとんどが評価する立場にあるのかもしれませんね。
マイケル・サンデル
ゆみ子さんご自身もこれまで部下の人事評価をしてきたと思いますが、いまの話からするとこれまでやってきた自分の判断を信頼していないということでしょうか？
梶原ゆみ子
たしかにそう聞こえるかもしれませんね。でも、わたし自身はこれまで客観性をもって部下の仕事を評価してきたつもりです。自分が評価されるときのことを突き詰めて考えたとき、AIの客観性を選ぶという意味です。
マイケル・サンデル
由布子さんは人間の上司を選びましたが、ゆみ子さんのいう客観性、つまり人事評価でバイアスを克服するということについて、どう考えますか？
保田由布子
AIは文脈を読まないのではないかという気がしています。ものごとが計画通りに進まなかったときでも、数値やデータ以外のところで重要な貢献をしている人がいます。たとえばチームのムードが落ちたときのメンタルなサポートをしてくれる人がいる。そうした人の貢献をAIが正しく評価できるのかどうか疑問に思います。
高重吉邦
少し発言させてください。自分の仕事が全部算数で評価できるのか、すべてを圧縮して客観的に評価できるのかは非常に疑問だと思っています。そういった目に見えない部分は、人間の感性ではかるしかない。ただ人間関係が悪ければひどい評価を受けてしまいますが、それもある意味リアルな人間関係なのかと思います。
マイケル・サンデル
仕事をAIが扱えるような指標で評価することはできないということですね。指標がとらえきれない複雑な人間のスキルをどう評価すればいいのか。イアンさん、あなたは人間の上司を選ぶと答えていましたが、この点についてどう思いますか？
イアン・ブラッドベリー
成果の下支えになった仕事をAIが評価できるのか、また“誰も取り残されない包摂的な社会(inclusivity)”というような視点をAIが持つことができるのか、というところが気になります。
マイケル・サンデル
ゆみ子さん、どうですか？
梶原ゆみ子
人事評価には絶対評価と相対評価があって、絶対評価の場合、数字に表れないその人の良さを見つけて考慮することが大切です。しかし、相対評価の場合、比較するための基軸としてどうしても数字に頼る部分が出てきます。最終的にはAIの評価を参考にしながら上司が判断するのがいいのかもしれません。正直なところ、上司から温かい言葉で叱咤激励を受けたいですね。
マイケル・サンデル
エドモンドさん、これについてどう思いますか？
エドモンド・チョン
ゆみ子さんの言ったことには意義がありますが、やはりAIファーストだと思います。例えば内向的で、目立たない若い社員が毎晩遅くまで頑張っているのだけれども、上司にはその姿が見えていないケースがあります。そうした社員の能力と仕事を客観的に評価する必要があります。わたしたちもAIの予測モデルを使ったことがありますが、そこには余計な感情が入りこみません。大事なのはどんな社員にも平等なチャンスを与えるということです。
マイケル・サンデル
人間だけの判断では感情が邪魔をする？
エドモンド・チョン
そうですね。妻と口論して出社した日には、感情的になって悪い評価を出してしまうとか。
マイケル・サンデル
感情が判断を鈍らせると。
エドモンド・チョン
そうです。人間というのは、いってみればホルモンの指示で動く生化学的存在ですからね。
マイケル・サンデル
これは重要なポイントですね、感情は良い判断を曇らせるので、感情の無いAIのほうが良い判断ができるという主張です。誰か反論はありますか？はずむさん、どうでしょう？
山崎はずむ
わたしは感情解析に関わる仕事をしているのですが、感情がないとそもそも人間は意思決定ができないということが症例からわかってきています。たとえば、1994年にダマシオが書いた『デカルトの誤り』という有名な本のなかで、前頭葉に槍が刺さった人間はどこまでも論理でものごとを考えるため選択ができないということが述べられています。人間がなにかの選択をする際に必要なのは情動であるということが最近の哲学的な考えでもあります。
マイケル・サンデル
正しい判断をするためには感情が必要であると？
山崎はずむ
僕はそう思っています。
マイケル・サンデル
ここまでの議論で、AIの判断には偏見がないので良いという意見と、判断には感情が重要な役割を果たすという意見が出されました。ではここで別の質問を使ってこれらのアイデアをテストしてみましょう。今度は結婚の仲介についてです。
AIアプリが膨大なデータから最良の伴侶としての3人の候補を予測して選んでくれる場合、結婚相手を選ぶのにあなたはAIの判断を信頼しますか、それとも友人や両親のアドバイスを信頼しますか？
会場はAI派が多いようですね。パネリストはAIが5、友人や両親が2、どちらともいえないが1です。由布子さんは友人や両親を選びましたね。なぜですか？
保田由布子
両親はともかく、友だちには相談したいと思いました。何故かというと、たぶんAIのマッチメイキングは対象となる人のスペック、たとえば学歴や収入などを指標として、人間性という数値化しづらいところをどの程度見られるのか疑問だからです。自分がスペックではかられる存在になるのはとても辛いし、出逢う相手をスペックで評価して、それで相性がいいねというような社会もいやです。そもそもロマンチックではありません。こんな出逢いがあったなんて、というほうが人生は楽しい。予想外の化学反応が起きたほうがいいと思います。データに基づいてこういう人が一番お似合いですというようなのは自分としては楽しくないですね。
マイケル・サンデル
データにはサプライズがない、ロマンスにはサプライズが大事だと。康裕さん、由布子さんの主張に反論して、考えを変えるよう説得してみてください。
佐々木康裕
AIの評価はデータの取り方次第で人間のいろんな側面を測ることができると思います。友人が知っている100人の候補よりも、AIが持っている10万人、100万人のデータから相手を選んでもらったほうがいいのでは？わたしがサプライズを求めるということをデータとしてインプットしておけば、想像もしなかったよう相手が見つかるような気がするんですよね。
マイケル・サンデル
康裕さん、それは30回に1回、あるいは100回に1回ぐらいまったく似合わない相手が選ばれるという意味ですか？ “サプライズ”をアルゴリズムに組み込むとはどういう意味ですか？
佐々木康裕
たとえば、これまでの人生の傾向からいってAさんがベストマッチで一番相性のいい人生が歩める、Bさんはこれまでの傾向には合わないけれど、思いもよらなかった面白い人生を送ることができるかもしれない、というような感じです。つまり、結婚相手との出会いに対する本人の期待の仕方というようなものをAIに個別に入れこんでおくわけです。そういうことはたぶんできるのではないでしょうか。
マイケル・サンデル
由布子さん、どう思いますか？
保田由布子
多面的な人間の特性を入れこむことができればたしかにマッチメイキングの精度は上がるかもしれませんが、結婚というのはそのあとの長い時間を相手とともにするわけで、過去のデータに基づいてこれから30年先の姿を予測できるのかどうか。その点ではデータよりも直感に頼ったほうがいいのではという気がします。
佐々木康裕
日本人も3組に1組は離婚をしているので直感もあてになりませんよ（笑）。
マイケル・サンデル
吉邦さん、パフォーマンス評価は一つの指標で測ることを疑問視していましたが、恋愛はプログラムできるのでしょうか？結婚相手の評価に“ロマンス”や“サプライズ”を組み込むことはできますか？
高重吉邦
人間の心の最も深いところにあるものは、AIではなかなか測りきれないのではないかと思います。これまで感情ということについて話してきましたが、感情のさらにその奥にあるような物凄いものはAIでは届かない。結婚相手としての可能性を示す程度であればAIも役立つと思います。
マイケル・サンデル
ここでまた少し質問を変えていきましょう。日本は婚姻率と出生率が下り、離婚率は康裕さんの言うように上がっています。少子化対策として政府がAIベースの結婚仲介のプログラムを支援することについて、皆さんはそれに賛成しますか、それとも反対しますか？
会場は賛成が若干上回っていますね。パネリストの方は、ほとんどが反対です。美香さん、なぜ反対なのでしょう？
高橋美香
自分の結婚相手をAIに決められるのは本当に嫌だなと思います。そもそも、AIがどれだけ自分のことを知っているのか、どんなデータに基づいてその相手を選んだのか、よくわかりません。AIよりも親しい友達のアドバイスのほうが信じられます。AIに勝手に決められたくないと思います。
マイケル・サンデル
エドモンドさん、あなたは一貫してAI派ですね？
エドモンド・チョン
人間ももちろん信じていますけれど、AI派です。ここでひとつ言いたいのは、今日の人々は仮想世界に没入しているということです。東京の駅の中でもほとんどの人がスマートフォンに見入っていました。世界的に人と人との交流というものがなくなってきている。
マイケル・サンデル
それはいいことですか、それとも悪いことですか？
エドモンド・チョン
もちろん悪いことです。わたしは人間を信じていますが、現実を見れば、人間の居場所は物理世界からデジタルの仮想世界に移行しています。恋愛も同様だとわたしは思うのですが。
マイケル・サンデル
デジタル上でロマンスを創り出すということですか。
エドモンド・チョン
デジタルラブということではなく、まあ、出逢いのきっかけということです。出逢ったあとに現実の恋愛になります。
マイケル・サンデル
美香さん、どう思いますか？
高橋美香
やっぱり恋愛というのは、デジタル化できないと思います。データで全部解決できるかは疑問で、感情や自分の好みや無意識のうちに自分が選んでいる異性のタイプとかがきっとあると思うので、すべてをデジタルにするのは難しいと思います。
仮想的な不死は作れるのか？
マイケル・サンデル
エドモンドさんは、人々が現実から仮想世界の方に移行しているという大胆な指摘をしました。考え方や感じ方、人間関係、物事への対処の仕方もふくめ、わたしたちがデジタル化された世界の中で生きていることを意味しています。ここから、次の質問に移っていきましょう。
わたしたちがそこで行うことすべて、電子メールやツイート、ソーシャルメディアでの交流や感想や意見、そうしたデータをすべて集めてわたしたち自身のデジタルアバター（デジタルツイン）を作ることが可能になったと仮定しましょう。このデジタルツインは肉体が滅びたあとにも存在し続けます。わたしたちのものの見方、考え方や感じ方、わたしたちの意見や判断が死後も生き残るわけです。これを仮想的な不死性（virtual immortality）と呼ぶこともできます。
死後に残された友人や家族はこのデジタルツインと会話することができます。昔の記憶だけでなく現在起こっているさまざまな出来事についても意見を聞くことができます。あなたはそんなデジタルツインと会話してみたいと思いますか？亡くなった家族や知人のデジタルツインと会話したいと思いますか？それとも、それは気持ち悪いので会話したくないですか？
会場はだいたい3分の1ほどが会話したい、3分の2は会話したくないという意見ですね。パネリストの方は2人を除いて会話したくないようです。セバスチャンさんは会話したいということですが、誰と話をしたいのですか？
セバスチャン・マシュー
わたしの祖先です。会ったことのない祖先と話をしてみたいと思います。ただ、彼らがデジタルの牢獄のようなものの中に囚われているのを見るのは少し怖いし、可哀そうな気がします。
マイケル・サンデル
美香さんは、なぜ話したくないのでしょうか？
高橋美香
会ったことが無い祖先というのは面白いかなと思います。でも、生きている人と死んでいる人の違いって、刻々と変化する環境のなかで自分も変わっていくということではないかと思います。意見や考え方も常に変わっていきます。そのデジタルツインは本人が亡くなった時点からなにも変わらないのではないでしょうか。
マイケル・サンデル
そうでしょうか。機械学習を使えば、デジタルツインに新しい経験や状況を覚えこませ、そのうえで推論させることができます。つまりデジタルツインとして作りあげた人格を常に更新していくことができるのです。だとしたら、会話したいと思いますか？
高橋美香
人間というのはある日突然、何の文脈もなくいままでと違うことを始めてみたりして、予想がつかないところがあります。デジタルツインが過去のデータだけでなく、今のいろいろなデータを取り入れたとしても、そういうことはできないのではないかと思います。だからそれは亡くなった本人ではない別のものではないかと。
マイケル・サンデル
ゆみ子さん、あなたはこれまでAIを支持してきたのに、今回は会話したくないのはなぜですか？
梶原ゆみ子
死というものは明確に受け入れなければいけないと思っています。死は事実として受け入れなければいけない。そのあとではじめて自分たちはどうするかということに進んでいけます。
ただ、先日、日本企業の方々と話をしたとき、偉大だった創業者がいま生きていたらこの混沌とした時代にどんな舵取りをするのか訊いてみたいと仰っていました。創業者のデジタルツインがあれば、助言してもらえるのではないかというのです。複数の会社でそういう話を聞きました。
身内の死は死として受け止めなければならないものの、そういうかたちの故人との会話は面白い発想と思いました。
マイケル・サンデル
はずむさん、どうですか？
山崎はずむ
故人と話すなら日本にはイタコがいますよ（笑）。デジタルツインに意識はないでしょうから、会話といっても自動的な反応でしょう。そういうものに愛着は湧かないし、むしろ空しくなってしまう。いま生きている人たちを大事にするほうが大切なので、個人的には会話しないと思います。ただ、創業者の意見を聞くという部分については、偉人はこういう判断をしたという明らかにAIという立て付けであれば、受け入れられると思います。そこには愛着を持てる人間としての対象じゃないという担保があるので。
マイケル・サンデル
この議論の最初にはAIには主観性や感情がないので、判断が客観的で公平だという声が聞かれましたが、後半では感情や愛情や意識こそ人間を人間とする重要な価値だという声が強くなってきました。
吉邦さん、今日わたしたちはAIについて広範囲に話を進め、最後には人間の愛、生、そして死にまで行き着きました。そろそろ議論を締めくくりたいと思いますが、いかがでしょう？
信頼と企業の社会的責任
高重吉邦
今日はいろいろ議論してきましたが、一見簡単な質問に答えていくうちに、自分たちが考えてもみなかったような深い議論になった気がします。それぞれの質問に多くの異なる意見がでましたが、単純な解はありませんでした。表層的な問題ではなく、深層にある問題をもっとオープンに議論することが必要だということを強く感じます。わたしは、普段は気がつかない“目に見えない価値”が一番重要ではないかと思っています。それを見つけるためには自分たちの心の深いところにディープ・ダイブしなければなりません。それこそが、このデジタル・トランスフォーメーションの時代にビジネスリーダーが取り組まなければならないことではないでしょうか。本当に、愛や人間自身までがデジタル化するという可能性に、今日の議論を通じて気づかされました。
ひとつサンデル教授にうかがいたいのですが、人とAIがコラボレーションすることが当たり前となり、AIが様々な物事を判断する時代がやってくるとき、人間に残された領域、これだけは人間が手放してはならない領域は何でしょうか？何か役立つ指針はあるでしょうか？
マイケル・サンデル
今日の議論でもいくつか示されていたと思います。ひとつは、人事評価であれ、医療診断であれ、結婚仲介であれ、人の代わりにデジタル技術に判断させたり、人の判断を助けたりする場合、アルゴリズムが扱うことができるパターンや指標が必要であるということです。そしてこれは大きな哲学的な問題を提起します。つまり、そうしたパターンや指標で測れない人間の領域というものがあるのかということです。今日のパネリストの皆さんはその点について、恋愛や、感情、愛着、生と死を隔てる境界への敬意といったものを挙げていました。
しかし、人間の意識や愛着や恋愛が関わるような、パターンや指標で測ることができない、人間が判断しなければならない物事の範囲は曖昧なままです。人事評価はどちらに当たるのでしょうか。会場の皆さんでもパネリストでも意見はふたつに分かれていました。しかし、そこに議論の価値が生まれるのです。決してひとつの結論に落ち着かせる必要はありません。わたしたちが話しあってきたのは、医療や結婚や死者との会話といった非常に複雑な人間的な物事ですから。こうした議論には終わりがありません。テクノロジーに回答を求めることなく、わたしたち自身が考え抜くことが重要です。
高重吉邦
富士通には、人を物事の中心において考える“ヒューマンセントリック”の信念があります。すべての意思決定はこの信念にもとづいてなされなければなりません。人間が判断しなければならない感情や目に見えない価値まで包含して、このヒューマンセントリックの哲学を深めていかなければならないと思いました。
さて、そろそろクロージングの時間ですが、最後に会場に来ていただいたビジネスリーダーに関わる質問をさせてください。この混迷した世界のなかで企業が倫理的な判断をしていくためには、どのようなリーダーシップが必要でしょうか？
マイケル・サンデル
第一に、ビジネスリーダーは社会と関わり、そしてそこにある倫理的な問題について積極的に議論しなければなりません。というのも、そうした問題は数字や指標ではなく人間の価値観に関わるからです。次に、ビジネスリーダーの皆さんは、ひとりひとりが同時にコミュニティの一員であり、今日の議論で見られたように異なる意見を持つ人間だということに気づくことが重要です。そして最後に、AIなどの問題は一見テクノロジーに関するジレンマのように見えますが、問題の核心を見つめれば、それがわたしたち自身、つまり人間とは何であるのかについての議論であることがわかります。だからこそテクノロジーの問題について考えることは、人とは何かということを深く問いかけることにつながっていくのです。
高重吉邦
ビジネスには経営者、従業員、顧客、消費者、そしてエコシステムパートナーが関わりますが、かれらは皆人間であり、ひとつのコミュニティを形成する人だと言うことですね。そうしたヒューマンセントリックな視点を持つことによって、事業においても正しい判断ができるようになるということでしょうか。
マイケル・サンデル
デジタル時代のビジネスはテクノロジーに関するこのような重大な質問を投げかけます。こういった深い課題に取り組まなければ、倫理的に正しい経営を行うことはできません。
高重吉邦
これはまさしく人と人、人とビジネスの間の“信頼”の問題だと思います。様々なステイクホルダーの間での信頼を創造することができれば、大きな意義があります。
マイケル・サンデル
そうです。ただ注意すべきことは、“信頼”を築くというのは、すべてに同意することでは無いということです。むしろそれは相手との意見の違いに耳を傾け、その違いについて考え抜くということです。他者を信頼し価値観の違いを尊重することは、安易な全員一致よりずっと大切です。
高重吉邦
ありがとうございます。最後に、富士通のようなテクノロジー企業が果たすべき役割と責任について一言お願いします。このデジタル時代に富士通に何を期待しますか？
マイケル・サンデル
非常に短い言い方ですが、時代が抱える重要な倫理的な問題について社内だけでなく社会全体での議論を深め活性化させていくこと。それがリーディング・テクノロジー企業の果たすべき責任だと思います。
高重吉邦
サンデル教授、本日は貴重なお話をありがとうございました。
こうして、デジタル時代の信頼についての白熱討論は終了し、満席の大ホールは盛大な拍手に包まれました。
