IBM、AIのブラックボックス化解消に大きな一歩

クラウド・ベースの新しいバイアス検出・軽減管理ツールによりAIの意思決定のさらなる透明化に対応

 

 [米国ニューヨーク州アーモンク 2018年9月19日(現地時間)発]

 IBMは本日、企業のAIに新たな透明性をもたらすテクノロジーを発表しました。このテクノロジーにより、AIの能力をより活用できるようになります。

 このソフトウェア・サービスはIBM Cloud上で実行され、AIが意思決定を行う際に自動的にバイアスを検出し、AIがどのように意思決定したかを説明することで、さまざまな業界の企業が構築したAIシステムを自社で管理することを支援します。また、IBMのサービス部門はお客様と協働し、同ソフトウェア・サービスを活用できるよう支援します。

 ※参考画像は添付の関連資料を参照

 さらにIBM Researchは、AIバイアス検出・軽減ツールキットをオープン・ソース・コミュニティーに提供します。そこでは、ツールと教育を発展させ、AIにおけるバイアスへの取り組みに関するグローバル・コラボレーションを推進します。

 「IBMは新たなAI技術を開発するためのTrust and Transparency(信頼性と透明性)の原則の確立において業界をリードしました。今こそ原則を実践に移す時です。AIが誤った意思決定を行った際に発生しうるリスクに直面する企業に、私たちは新たな透明性と対策を提供します」とIBMのベス・スミス(Beth Smith)Watson AI担当ゼネラル・マネージャーは述べています。

 こうした進展の背景には、IBMビジネス・バリュー・インスティテュート(IBM Institute for Business Value)による新しい調査があります。この調査によると、82パーセントの企業がAIの導入を検討しているものの、60パーセントは責任問題を危惧しており、63パーセントはAIを確実に管理するための人材が社内にいないことが明らかになっています。

■AIの意思決定の可視化

 IBM Cloud上の新しいソフトウェア・サービスであるTrust and Transparency capabilitiesは、Watson、Tensorflow、SparkML、AWS SageMaker、AzureMLなど多種多様な機械学習フレームワークとAI構築環境で構築されたモデルに対応しています。これは、企業が使用する一般的なAIフレームワークの大半にこれらの新しい管理が活用できることを示しています。また、このソフトウェア・サービスは任意のビジネス・ワークフローの特異な決定因子を監視するようにプログラムすることができ、組織における特定の用途にカスタマイズすることができます。

 このソフトウェア・サービスは完全に自動化されており、実行時、つまり意思決定が行われるタイミングで意思決定の説明とAIモデル内のバイアス検出を行い、潜在的に不公平な結果が起こり得ることを捕捉します。検出したバイアスを軽減できるように、モデルに追加すべきデータを自動的に提案する点も重要です。

 説明は分かりやすい用語で提供され、どの因子がどの方向でどの程度決定に影響したのか、提案の信頼度、そしてその信頼度の要因を示します。またモデルの精度、性能、公平性、ならびにAIシステムのリネージュの記録は、カスタマー・サービスやGDPRの順守といった規制または法令順守上の理由のために、簡単にさかのぼって呼び出すことができます。

 これらの機能はすべて視覚的なダッシュボードを通じてアクセスでき、AIが導き出した決定の理解、説明、管理を行う圧倒的な能力をビジネス・ユーザーに提供し、かつ専門的なAIスキルへの依存を低減します。

 またIBMは、意思決定におけるバイアスの影響をさらに最小化するため、ビジネス・プロセスおよび人間とAI間のインターフェースの設計を自社で行えるように支援する新しいコンサルティング・サービスを提供します。

■より公正なAI構築がオープン・ソース・コミュニティーによって可能に

 さらに、IBM Researchはオープン・ソース・コミュニティーにAI Fairness 360ツールキットを提供します。このツールキットは、全く新しいアルゴリズム、コード、そしてチュートリアルからなるライブラリーで、学者、研究者、そしてデータ・サイエンティストに、機械学習モデルの構築と導入を行う際にバイアス検出を組み込むためのツールと知識を提供します。他のオープン・ソース・リソースは学習データ内のバイアス確認を重視していますが、IBM Researchが作成したIBM AI Fairness 360ツールキットはAIモデル内のバイアス確認と軽減に役立ちます。これによって、世界中のオープン・ソース・コミュニティーが協働できるようになり、科学を発展させ、AIにおけるバイアスへの取り組みが容易になります。

■主要なAI導入のプライオリティーとハードルがスタディーにより明らかに

 IBMビジネス・バリュー・インスティテュートが最近発表した、5,000人の経営幹部のスタディーであるAI 2018レポートによると、AIがビジネス・バリューと収益増を推進する可能性について、ビジネス・リーダーの見方が大きく変わりつつあります。

 以下の重要なことが明らかになりました。

 ・企業の82%、そして好調な企業の93%が現在、収益の確保を主眼にAIの採用を検討または推進しています。

 ・60%は責任問題を危惧しており、63%にはAIの可能性を引き出すスキルを持っていません。

 ・CEOは、IT、情報セキュリティー、イノベーション、カスタマー・サービス、そしてリスク管理においてAIを採用することに、最も大きな価値があると考えています。

 ・AIの採用は、金融サービスなど、よりデジタル化された産業で進んでおり、今後さらに加速する可能性があります。

■IBMと人工知能について

 IBMは、企業向けのAIソフトウェア、サービス、テクノロジーにおける世界的リーダーです。これまでにWatson AIソリューションを20の業界と80カ国の顧客との何千もの事例において導入しました。IBMのWatson AIソリューションは、10大自動車メーカーのうちの7社と10大石油ガス会社のうちの8社など、さまざまな業界で広く使われています。

 当報道資料は、2018年9月19日(現地時間)にIBM Corporationが発表したプレスリリースの抄訳です。原文は下記URLを参照ください。

 https://newsroom.ibm.com/2018-09-19-IBM-Takes-Major-Step-in-Breaking-Open-the-Black-Box-of-AI (US)

 

 

リリース本文中の「関連資料」は、こちらのURLからご覧ください。

参考画像

http://release.nikkei.co.jp/attach_file/0491022_01.jpg