まずは、以下の画像をご覧いただきたい。

(提供:カラフル・ボード)
[画像のクリックで拡大表示]

 このランダムノイズのような画像を、手書きの数字(0~9)を99.8%の精度で認識できる人工知能(この場合はディープニューラルネット)に入力すると、なんと人工知能はほぼ100%の自信度で「1」と判別してしまう。

 この画像は、特定のニューラルネットを「だます」目的で、AI技術開発のカラフル・ボードが作成したものだ。学習済みのニューラルネットに画像を入力し、その出力結果が「1」に近づくよう、画像に繰り返しフィードバックを与えたものである。

 同社CEOの渡辺祐樹氏は「なぜニューラルネットがこのランダムな画像を『1』と認識するのか、ニューラルネットの挙動から解析することは困難」と語る。一般的なプログラムコードと異なり、ニューラルネットは大量のパラメータから構成され、人間にとって可読性の低いブラックボックスだからだ。

人工知能の判断誤りが事故を生む

 人工知能は、往々にしてだまされ、勘違いし、間違った判断を下してしまう。そのことを最も残念な形で示したのが、米テスラモーターズの電気自動車「Model S」で2016年5月7日に発生した死亡事故だろう。

 テスラのブログによれば、Model Sのドライバーは自動運転機能「Autopilot」を有効にした状態で、高速道路を走行していた。

 そこへ、反対車線から側道に向け、トレーラーが行く手を塞ぐように左折した。米国で運転経験がある方なら分かると思うが、料金所のない米国の高速道路では、側道からクルマが自由に進入・退出できるケースが往々にしてある。

 このトレーラーの車体は白。背景の空も、輝く日光のためほぼ白色だった。光学式カメラを使ったAutopilotの車両認識システムは、このトレーラーの存在を認識できなかった。

 Model SのAutopilotでは、光学式カメラに加え、ミリ波レーダーでも車両を検知できる。だが、テスラのイーロン・マスクCEOのツイートによれば、Autopilotはミリ波レーダーの情報から、トレーラーの車体を「高速道路上の道路標識」と勘違いしたという。

 トレーラーは、一般的な車両よりも車高が高い。このためレーダーの電磁波がトレーラーの車体の下をすり抜け、「上方に標識はあるが、前方には障害物なし」と誤認した可能性がある。この結果、Model Sはフロントガラス部がトレーラーと衝突し、車体はトレーラーの下を突き抜けた。

 テスラのAutopilotは、NHTSA(米国家道路交通安全局)の基準では、ブレーキや操舵などいくつかの運転行動を自動化した「レベル2(複合機能の自動化)」であり、運転を人工知能に委ねることができる「レベル4(完全な自動運転)」ではない。テスラはAutopilotについて「運転支援の機能であり、ユーザーは常にステアリングに手を置き、いつでも運転を代われるようにする必要がある」と警告している。

 だが、仮にドライバーがNHTSAのレベルやテスラの警告を完璧に理解していたとしても、今回の事件を防げたかどうか、疑問が残る。

 今回の事故で亡くなったドライバーは、Model SのAutopilotの特性を試した数十件の映像をYouTubeに投稿していた。

 ある投稿映像では、路面の模様がAutopilotを混乱させ、うまく走行できなくなるケースを実運転で示し、他のドライバーに注意を促していた。このドライバーは、Autopilotがパブリックβサービスである点も、レベル2の自動化であることも、はっきり認識していた可能性が高い。

 ただ、運転をAIに委ねることの成功体験が積み重なれば、ドライバーが無意識下でAIへの信頼、あるいはAIへの「依存」を深めていったとしても、不思議ではない。こうした無意識の依存がドライバーから注意力を失わせたとすれば、それは「ドライバーへの注意喚起」や「ステアリングに手を置いているかの検知」だけで解決できる問題ではないだろう。

 テスラのイーロン・マスクCEOは、2018年までにレベル4、つまり完全な自動運転を可能にするとしている。テスラが世界中のAutopilotユーザーから収集している走行データは、この機能をレベル3、レベル4へのステップアップさせる上で大いに役立つことだろう。この開発戦略が倫理的に正しいか、という議論を無視すればの話だが。

人間とAIを中途半端に共存させない

 こうしたテスラの開発方針と対照的なのが、トヨタ自動車が2016年1月に設立した人工知能技術の研究開発子会社、米トヨタ・リサーチ・インスティテュート(TRI)である。2016年6月下旬(テスラの上記事故を公表する前)に実施されたギル・プラットCEOへのグループインタビューをもとに、その違いを明らかにしたい。

TRIのギル・プラットCEO
[画像のクリックで拡大表示]

 ギル氏は現在、クルマの自動運転技術について、二つの方向性を模索している。一つは、事故が起こりそうなときに限って発動し、自動的に回避行動をとるもので、自動ブレーキの発展系といえるものだ。ギル氏はこの機能を「守護天使」と表現する。

この先は会員の登録が必要です。今なら有料会員(月額プラン)は12月末まで無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら