NEC、認識精度の向上を容易に実現するディープラーニングの自動最適化技術を開発

 

 NECは、認識精度の向上を容易に実現する、ディープラーニングの自動最適化技術を開発しました。

 従来のディープラーニングは、ニューラルネットワーク(注1)の構造に応じた学習の調整が困難なため、ネットワーク全体で最適な学習が行えず、本来の認識性能を十分に引き出すことができませんでした。本技術は、ニューラルネットワークの学習の進み具合を、その構造に応じて自動的に最適化し、従来よりも高い認識精度を容易に実現するものです。

 本技術により、画像認識や音声認識などのディープラーニングが利用されている様々な分野で、認識精度の向上が期待できます。例えば、顔認証や行動解析などの映像監視の高精度化、インフラなどの点検作業の効率化、障害・事故や災害などの自動検知の実現が期待できます。

 NECグループは、安全・安心・効率・公平という社会価値を創造する「社会ソリューション事業」をグローバルに推進しています。当社は、先進ICTや知見を融合し、人々がより明るく豊かに生きる、効率的で洗練された社会を実現していきます。

■背景

 近年、ディープラーニングが飛躍的な発展を遂げ、画像認識や音声認識をはじめとする幅広い分野で活用されています。ディープラーニングでは、深い層構造を持ったニューラルネットワークを用い、予め準備したデータを学習させることで高精度化を実現します。しかし、データを過度に学習すると、学習したデータしか高精度に認識できず、学習に用いていないデータに対する認識精度が低下する「過学習(注2)」と呼ばれる現象が生じます。これを避けるために、学習が過度に進まないように学習の進行を調整する「正則化(注3)」と呼ばれる技術が使われています。

 ニューラルネットワークの学習の進み具合は、その構造によって複雑に変化するため、従来はネットワーク全体に対して同じ正則化を用いるしかありませんでした。そのため、ネットワークの各層によって過度に学習したり、あるいは学習が進まなかったりする問題が生じ、本来の認識性能を十分に引き出すことが困難でした。また、各層の学習の進み具合を手動で調整することは極めて難しいため、自動的な調整が望まれていました。

 今回開発した技術は、ニューラルネットワークの構造を基に、学習の進み具合を層ごとに予測し、その進み具合に適した正則化を層ごとに自動設定するものです。これにより、ネットワーク全体で学習が最適化され、従来よりも更に認識エラーを20%程度削減するなど、認識精度が改善できます。

 ※参考画像は添付の関連資料を参照

■新技術の特長

 1.ニューラルネットワークの構造に応じた学習の自動最適化

  ニューラルネットワークの構造を基に学習の進み具合を層ごとに予測し、各層の進み具合に適した正則化を層ごとに自動設定します。これにより、ネットワーク全体で学習の進み具合が最適化され、各層によって過度に学習したり、学習が進まなかったりする従来の課題を解決しました。なお本技術を用いた手書き数字データの認識実験において、認識エラーが20%程度削減するなど、認識精度が改善しました。

 ※グラフ資料は添付の関連資料を参照

 2.従来と同等の計算量で容易に高精度化を実現

  本技術は、ニューラルネットの学習を行う前に一度だけ実施されるものであり、学習に関わる計算量は従来と同等でありながら、容易に高精度化を実現しました。

 NECグループは、安全・安心・効率・公平という社会価値を創造する「社会ソリューション事業」をグローバルに推進しています。当社は、先進のICTや知見を融合し、人々がより明るく豊かに生きる、効率的で洗練された社会を実現していきます。

以上

 (注1)ニューラルネットワーク:人工的な神経細胞(ニューロン)で構成される神経回路網。

 (注2)過学習:与えられた学習データを過度に学習してしまい、学習していないデータに対する精度が低下してしまう現象。

 (注3)正則化:モデルの複雑さに罰則を科すことで、過学習を抑制する手法。

 

 

リリース本文中の「関連資料」は、こちらのURLからご覧ください。

参考画像

http://release.nikkei.co.jp/attach_file/0465861_01.jpg

グラフ資料

http://release.nikkei.co.jp/attach_file/0465861_02.jpg