ブラジルを訪れた観光客が、地図アプリに従って目的地までの最短経路を歩いた結果、治安の悪い地域をそうと知らずに通ってしまい、不幸なことが起きてしまった。この問題は技術だけで解決できるだろうか。

 2017年11月8日から10日、ブラジルのリオデジャネイロで開催された「人工知能と包摂(Artificial Intelligence and Inclusion)」をテーマとするシンポジウムでは、大手企業が開発したAIサービスが一部の地域や人々に不利益をもたらしている現状について議論された。

 現在、人工知能(AI)技術の多くは欧米を中心とする「AI先進国」の価値観や基準にのっとって作られている。AIの社会的な影響についても、北半球に位置するAI先進国だけで議論されがちだ。

 AI先進国とそれ以外の国とでAI利用に伴う不平等が生じないようにするには、南半球の新興国など多様な地域の人々が議論に参加する必要がある、というのが本シンポジウムの趣旨である。

 非営利の研究機関である「リオデジャネイロ技術と社会研究所(ITS Rio)」とハーバード大学バークマンセンターが共催。米グーグルや米フェイスブックなどの大手IT企業のほか、国際関係機関、政策関係者、メディア、人権問題の活動をしているNPO法人など多様な業種や研究分野から約200人が参加した。

シンポジウム参加者の集合写真。会場である「明日の博物館(Museu do Amanhã)」は科学技術に関する展示だけではなくホロコーストやエネルギー問題、環境問題なども取り上げており、地球全体の「明日」について考える博物館だ
[画像のクリックで拡大表示]

 日本から唯一の参加者だった筆者が、シンポジウムで議論された課題や事例を紹介したい。

新興国が抱える具体的な課題と問題意識

 シンポジウムは参加者全員が議論する全体セッションのほか、2日午後はテーマごとに20~50人規模のグループに分かれて議論する「ブレイクアウト」と呼ばれるセッションが2つ設けられた。

ブレイクアウト1:加速する流れ

  1. ユーザー/行動への期待
  2. アルゴリズムとデザイン
  3. データとインフラ
  4. ビジネスモデル
  5. 法とガバナンス

ブレイクアウト2:応用と影響する領域

  1. 産業と仕事の変遷
  2. 健康とウェルビーイング
  3. 教育と学習
  4. 社会的包摂
  5. 人道的な犯罪予防と軽減

「ブレイクアウト」での議論の様子。様々な具体的な事例がここで議論され、全体での議論へとフィードバックされた
[画像のクリックで拡大表示]

 その中でも筆者が司会をした「ユーザー/行動への期待」で印象に残った事例を2つ紹介したい。

 最初の事例は、冒頭で紹介した地図アプリの話である。リオデジャネイロ在住の研究者によれば、地図アプリを使って目的地までの最短経路を検索した観光客が、地元の人なら知っている治安の悪い地域をそうと知らずに通ってしまい、「不幸なことが起きた」という。

 もう一つの事例は画像検索サービスに関するものである。参加者の1人が暮らす地元近くの町で、かつて大虐殺があった。このため町の名前を画像検索すると、大虐殺の画像しか出てこないという。現在、町の様相は全く違うものであるにもかかわらず、情報が更新されていない。

 これらの事例は、画像や治安情報に関する「的確」で「正しい」情報があれば技術的には解決できるだろう。だが、その情報を「誰が」「誰に」「どのような手段で」提供すればいいのか。AIサービスを提供する巨大企業に対し、地元に支社もない地域で住民の意見は届くのか。セッションでは、新興国特有の課題としてこうした問題が提起された。

 仮に地域住民が「正しい」情報を入力できる機能をAIサービスに追加したとして、その情報が本当に「正しい」と誰が判断するのか、という問題もある。自分に都合の良い偽情報(フェイクニュース)を作り出すことや、個人や企業にとって望ましい情報だけを発信・受信したいとする現象がみられる中、情報の「的確さ」や「正しさ」に関しても議論が必要とされる。

 例えば地図アプリの事例では、治安が悪い地域の情報を収集したうえで「危険地域を避ける」など検索の選択肢を追加すれば、技術的に解決できるだろう。

 だが、「治安が悪い」という情報は誰がどこから入手するのか。更新頻度はどのくらいか。地域住民は自分の住んでいる地区が「危険」と判断されることを嫌がるかもしれない。地域のビジネスにも影響が出てくるかもしれない。

 このような技術以外の課題は、AI開発者だけでは解決できない。ここでシンポジウムのテーマである「包摂(Inclusion)」が重要なキーワードとなる。包摂とは、社会や経済から疎外されていた人々を取り込み、支え合う考え方のことだ。

この先は会員の登録が必要です。今なら有料会員(月額プラン)登録で5月末まで無料!