「説明責任」。記者にとっては、扱いが難しい言葉の1つである。

 不祥事を起こした企業を追及する根拠として頻繁に使われる一方で、「何をどこまで説明する義務があるのか」に、明確なコンセンサスはない。案件ごとにコロコロと性質が変わる、鵺(ぬえ)のような存在だ。

 内閣府は2018年12月27日、有識者会議の議論に基づき、人工知能(AI)の研究開発や利活用に当たって国や自治体をはじめとする社会が考慮すべき7つの基本原則「人間中心のAI社会原則」の原案を公開した。人間がAIに過度に依存したり、AIが人間の行動を制限したりするのではなく、人間が自身の能力を発揮するための道具としてAIを使いこなして、人間の尊厳が尊重される社会の構築を目指す。

 パブリックコメントを経て、2019年3月までに正式決定する。政府はG7や経済協力開発機構(OECD)などの国際会合に提案し、グローバルな議論を先導したい考えだ。

 この7つの原則に「プライバシー確保の原則」「セキュリティ確保の原則」などと並んで挙がっているのが、「公平性、説明責任及び透明性の原則」である。AIの利用によって人々が不当な扱いを受けることがないよう、公平性及び透明性のある意思決定と、その結果に対する説明責任(アカウンタビリティー)が適切に確保されることを求める。

「公平性、説明責任及び透明性」の原則が気になる

 これまでAIの技術を継続して取材してきた筆者にとって、やはり気になるのは説明責任という表現である。

 第3次AIブームの火付け役となったディープラーニング(深層学習)などの機械学習手法は、通常のプログラムと比較してブラックボックス性が高い。通常のプログラムであればコードを追跡してアルゴリズムを確認できる。だが深層学習には人間が読める論理コードがなく、あるのはニューラルネットワークの接続の強さを示す大量のパラメーターだけだ。

 このため、「説明責任」という言葉だけが切り取られ、「判断の根拠を説明できないAIは使ってはならない」といった行き過ぎた解釈が独り歩きすれば、ディープラーニングを中心に2018年まで盛り上がったAI活用の機運がしぼみかねない、との懸念がある。

 原則案を策定した有識者会議でも、こうした懸念は共有されていたようだ。公開された原案は、説明責任をアカウンタビリティー(Accountability)の訳語と明示しつつ、説明の範囲について「AIを利用しているという事実、AIに利用されるデータの取得方法や使用方法、AIの動作結果の適切性を担保する仕組みなど」としている。AIによる判断の根拠を説明すべきだ、といった記述はない。この点を含め、今回公表された原則案の記述や方向性はおおむね妥当だと思う。

 それでも筆者は、AIと説明責任の問題は、今後も様々な場で議論の的になり得る根深い問題だと考えている。英語の「Accountability」という単語と、日本語の説明責任という言葉の意味には、組織文化の違いを反映した大きな差異があり、誤解を生みやすい素地になっているためだ。2019年の年初に、筆者がまずこの話題を取り上げた理由はそこにある。

Fairness, Accountability, Transparencyが意味するもの

 基本原則にある「公平性、説明責任及び透明性」という表現は、英語で言うところの「FAT(Fairness、Accountability、Transparency)」を日本語訳したものだろう。FATは、AIの社会実装に当たって、留意すべき3つの項目として参照されることが多い。例えば、米国コンピューター学会(ACM)は、アルゴリズムにおけるFATを議論する学際会議「ACM FAT」を主催している。同じく、機械学習のトップカンファレンスであるICML(International Conference on Machine Learning)も、機械学習におけるFATを議論する「FAT/ML」を併催する。

 FATの1つである「Accountability」という単語は、日本語の説明責任よりも広い意味を持つ。

 英語のアカウンタビリティーは「説明する責任」に限定されるものではない。何らかの問題が発生したときに、金銭的に補償する責任や、説明して謝罪する責任、組織として方針を修正する責任、何らかの罰を受ける責任まで含まれる。日本語で言えば、「結果に対する責任」と表現した方がニュアンスが近いだろう。一方、日本の場合、大辞林第三版によれば、説明責任は「業務内容について、対外的に説明をする責任」にとどまる。

この先は会員の登録が必要です。今なら有料会員(月額プラン)が4月末まで無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら