2019年10月31日から11月1日にかけて、北京智源人工知能研究所(北京人工知能アカデミー:Beijing Academy of AI、以下BAAI)でAI(人工知能)研究の国際会議が開催された。

 会議には自然言語処理(NLP)の大家である米スタンフォード大学のクリストファー・D・マニング教授、チューリング賞など数々の賞を受けた計算機科学者である米コーネル大学のジョン・エドワード・ホップクロフト教授、2016年のScience誌で「もっとも影響力のあるコンピューター科学者」と紹介されたカリフォルニア大学バークレー校のマイケル・I・ジョーダン教授、機械学習の重要人物である米コーネル大学のソーステン・ヨアヒム教授など豪華メンバーが基調講演の壇上に立った。もちろん著名な中国の研究者も名を連ね、会場は多くの研究者や企業、学生でにぎわっていた。

BAAIの会議は特に学生などの若者の姿が多くみられた
[画像のクリックで拡大表示]

 この会議の母体となったBAAIは北京市が2018年に新設した研究開発拠点だ。科学技術省と北京市政府の支援の下、研究機関や企業から研究者を集めた。研究機関は北京大学や清華大学、中国科学院など、企業は百度(バイドゥ)、小米(シャオミ)、北京字節跳動科技(バイトダンス)などが研究者を派遣し、研究や情報共有を進めている。主な研究領域は機械学習や自然言語処理などが挙げられる。

 北京におけるAI研究の英知を結集したといえるBAAIの中で、重要な一角を占めるのが「人工知能倫理と安全センター」だ。当センターの紹介をする英語ページも充実しており、中国の研究コミュニティーがAIの倫理に関して本気で研究や普及に取り組もうとしている意気込みがうかがえる。

 BAAI国際会議でもこのセンターが中心となり、10月31日に「人工知能の倫理、安全、ガバナンスに関する専門家フォーラム」と題するセッションを開催した。本セッションには「ロボットに倫理を教える―モラル・マシーン―」の著者として知られる米イエール大学のウェンデル・ウォラック教授、情報倫理の専門家であり欧州委員会の科学技術倫理グループ(EGE)委員でもある蘭デルフト工科大学のヨルン・ファン・デン・ホーヴン教授が講演した。

 このほか、国際的な市民参加型イベントを開催しているNPO法人「未来の社会(The Future Society: TFS)」のヨランダ・ランクイスト研究員や、IEEEの標準化にも関わるオックスフォード大学の研究員であるダニット・ガル氏、そして筆者も登壇し、議論を深めた。

 本稿は、北京や上海を含む中国で盛んに議論されている「人工知能の倫理とガバナンス」の中身とは何なのか、中国で会議に参加した筆者が見聞きした内容を紹介したい。

AI倫理とガバナンスの原則作り

 中国の話に入る前に、背景情報として2016年からの日本や欧米の人工知能と倫理に関する政府、学術界、産業界の動きを振り返っておこう。

 まず日本では、総務省情報通信政策研究所が2016年に「AIネットワーク化検討会議(後に推進会議へと名称変更)」を立ち上げ、2017年に「AI開発ガイドライン」、2018年に「AI利活用原則案」を公開した。2018年には内閣府が「人間中心のAI社会原則検討会議」を立ち上げ、日本が議長国となる大阪G20に先立って2019年3月に「人間中心のAI社会原則」を公開した。

 欧州では、同年3月に欧州委員会が「信頼できるAIのための倫理ガイドライン(Ethics Guidelines for Trustworthy Artificial Intelligence)」を公開している。
 学術界では2016年にIEEE(米国電気電子学会)が異分野・異業種・多国籍の専門家を集めたマルチステイクホルダー方式で「倫理的に調和した設計(Ethically Aligned Design)」の議論を始め、2019年3月に第一版を公開した。

 産業界においても米グーグル、米アマゾン・ドット・コム、米フェイスブックなどの米国IT企業が中心となって「Partnership on AI (PAI)」が2016年に設立され、学術界やNPO等も巻き込む形で研究会を開催し、提言を発信している。市民団体としては、「未来の社会(The Future Society: TFS)」というNPO団体がオンラインの市民対話を2017年から1年間行い、2018年9月に最終報告書を欧州委員会に提出した。

国内での実装と国際的なガバナンス

 このような国内外のガイドラインや原則の傾向をみると、AIの倫理を考える上で重要とされる価値、例えば「公平性」「アカウンタビリティー」などの概念はおおむね収束し、どのガイドラインや原則も共通して取り入れている。現在は「原則を実装へ(Principles to practice)」の大号令のもと、応用分野ごとに、あるいは企業や業界団体が主体となって、実際に原則を運用するフェーズへと移っている。具体的には評価のためのチェックリストなどの作成が進みつつある

 AI倫理とガバナンスの議論が収束し、各国の法制度や企業統治の枠組みへと落とし込まれていく一方、2018年ごろから2つの潮流が新たに生まれてきた。

 1つは「国際的なAIガバナンス」の枠組みを求める声が強まってきたことだ。

 例えば、2018年には経済協力開発機構(OECD)がAIに関する専門家会合(AIGO:AI expert Group at the OECD)を設置したほか、同年12月にはフランス政府とカナダ政府が「AIに関する政府間パネル(IPAI)」構想を明らかにした。両政府の動きは、AIのガバナンスには「気候変動に関する政府間パネル(IPCC)」のように国際的かつ行政主導の枠組みが必要との宣言と読み取れる。

中国主導で国際的なネットワークを形成

 そしてもう1つの潮流が、先に挙げた中国の活動である。前述したBAAIをはじめ、中国が世界各地から有識者を集めてAIの倫理とガバナンスに関する会合を積極的に開催し始めたのだ。

 例えば2019年8月末に上海で開催された世界人工知能会議(WAIC)では、金融や交通などの応用分野や個別技術に関するフォーラムのほか、人工知能ガバナンスを主題とした1日半のフォーラムを併設した。同フォーラムは中国の産学官の話題提供者に加え、海外からは前述したIEEE、TFS、OECD-AIGO、欧州委員会の委員や国連関係者など、まさに今グローバルガバナンスの議論の最前線にいる専門家たちを招待した。

 専門家によるディスカッションでは、国際的なAI倫理/ガバナンスを考える上で中国が今後どのように協力・貢献できるか、中国側の参加者が問いかける場面が目立った。

 その背景には、人工知能の研究と実装で米国と肩を並べるまでになった「先進国」であるとの自負を、中国の研究者コミュニティーが持つに至ったことがありそうだ。

 AIと倫理についての議論も、急速に他の先進国をキャッチアップしつつある。2017年に中国国務院が発表した「次世代 AI 発展計画」では人工知能の倫理的課題に言及。その後、中国では国や企業、学術界が立て続けにAI倫理に関する原則を打ち出しており、その集大成が2019年5月に公開された北京人工知能原則である。

関連リンク:Beijing AI Principle

この先は有料会員の登録が必要です。今なら有料会員(月額プラン)が2020年1月末まで無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら