TOPIndustries > Googleのリサーチ責任者、「説明可能なAI」の価値に疑問...

Industries

Googleのリサーチ責任者、「説明可能なAI」の価値に疑問符

2017/06/28

George Nott Computerworld

今後の方向は

 Googleの観点では、出力をチェックする方法は満足の行くものなのかもしれないが、個人や政府が求め始めているのは、同社をはじめとして、機械学習に携わるすべての当事者が、もっと大きく歩みを進めることだ。

 英国政府の主席科学顧問を務めるMark Walport氏は、WIRED誌が2017年4月に掲載した論説記事の中で次のように述べている。「アルゴリズムの働きを理解するためのメカニズムを導き出す必要がある。特に、コンピューターシステムのソフトウエアの中で機械学習を通じて進化してきた働きに関してだ」

 欧州の立法府では、個人を保護するための重要な取り組みがこの分野で進んでいる。2018年5月に施行される欧州連合(EU)の一般データ保護規則(GDPR)では、ユーザーに「重大な影響」を及ぼす自動意思決定システムが制限される。また、「説明を受ける権利」が確立され、アルゴリズムがユーザーに関して下した決定について、ユーザー本人が説明を求めることが可能となる。

 他国の企業でも、EU圏内で提供や事業を行っている企業や、「EU域内の個人の行動を把握」している企業は、この規則への遵守が必要となる可能性がある。

 Googleは、5月に公開した公式ブログ記事の中で、Google CloudのGDPR対応に関して、「次々と変化する法的規制の環境に合わせて今後も機能の進化を続ける」としたうえで、顧客の法令遵守の取り組みを支えていく意向を示している。

 重大な影響が考えられるものの、Norvig氏は、規制に携わる組織が関心を向けていることを歓迎した。

 「どのような影響が生じるかを調査し始めたのは良いことだと考える。答えを得るには早すぎると思う。我々が果敢に進めているAIの有望さが見えてきた現時点で、我々がその疑問を提起し、どこへ向かっているかを探り出そうとしているのは良いことだと思う」

(了)

翻訳:内山卓則=ニューズフロント
記事原文(英語)はこちら

↑ページ先頭へ