アルゴリズムを検証

 我々の役割は、AIの安全性や透明性、再現性などを確保することです。アルゴリズムが偏っていないかを確実にしないといけません。人がアルゴリズムを開発する際には偏りが生じます。そのため我々は「データ・ソース・トレーサビリティー」と呼ぶ機能を開発しました。アルゴリズムの監査のようなもので、Edisonプラットフォームにとって重要な機能です。

AIを活用した製品やサービスの総合的なブランド「Edison」(撮影:日経 xTECH)
[画像のクリックで拡大表示]

 データ・ソース・トレーサビリティーでは、それぞれのデータがアルゴリズムにどのように影響を与えているのかを調べたりしています。誰が画像にアノテーションをしたかも追跡しています。例えば先ほど紹介した気胸の判定をするアルゴリズムでは、フランスやハンガリー、カナダ、米国のデータを活用しました。世界中の放射線科医にアノテーションをしてもらい、Edisonプラットフォームに取り込みました。

 このうち1人の医師がアノテーションしたデータを省いて、他のデータに置き換えた場合に、アルゴリズムの精度がどのように変化するでしょうか。そうした検証をすることで、各医師の影響の度合いが分かるのです。そのような調査でアルゴリズムがどのように作られているのかを理解することができます。

 これはデータ・ソース・トレーサビリティーの機能のほんの一例です。まだ論文などで発表していませんが、共同開発している米国の大学が発表する可能性はあるでしょう。