あらゆる技術には光と影がある。AIも例外ではない。フェイク動画で人をだます、人の行動を操作する、自動運転ソフトを誤動作させて人を傷つける―。AIが悪意に操られる危機は今そこにある。AIがこの先も私たちの良きパートナーであり続けるためにも、AIの「ダークサイド」を知っておく必要がある。

 「言ってもいないことを本当に言ったかのように見せかけられる時代になった」。米国のバラク・オバマ前大統領が映像で語りかける。

 2018年4月、フェイク(偽の)ニュースに警鐘を鳴らすオバマ氏の映像が話題になった。この映像自体がフェイクだったからだ。作ったのは米映画監督ジョーダン・ピール氏と米メディアのBuzzFeedである。

 ディープフェイク。有名人の顔を別人の顔に合成した精巧なニセ動画の総称だ。映像内の人の顔を別の人の顔に差し替えるPCソフト「FakeApp」を使うことが多い。FakeAppは深層学習(ディープラーニング)を活用し、不自然さを感じさせないように画像を加工できるとの触れ込みのソフトだ。

 映像ではピール氏が話したときの口元の動きをオバマ氏の映像に重ね、あたかもオバマ氏がしゃべっているかのように見せかけた種明かしをしている。「気をつけろよ、お前たち」。映像の中のオバマ氏はこう締めくくる。

 「フェイク・オバマ」の警告は単なる脅しではない。既にネット上にはディープフェイクがあふれている。独メルケル首相の顔が途中から米トランプ大統領にすり替わる演説、有名ハリウッドスターのまだ製作されていない「続編」の名場面、有名女優の顔をはめ込んだポルノ―。ジョークを超えて人権侵害につながる動画が多い。

 氾濫するディープフェイクを問題視した米掲示板サイトRedditは2018年2月に利用規約の一部を改定。性的な画像やビデオの配布を禁じる中で、「偽造された描写も含む」と明記した。FakeAppの開発者が立ち上げたコミュニティー「deepfakes」も閉鎖した。

図 「ディープフェイク」で作成したニセ動画の例
メルケル・トランプが演説?(画像出所:YouTube)
[画像のクリックで拡大表示]

悪意を吹き込まれ世論すら動かす

 ディープフェイクは世論を動かすフェイクニュース作りにAIが悪用されかねない事実を見せつけた。懸念は既に現実になっているかもしれない。2016年の米大統領選でAIが暗躍し、投票行動を操った可能性がある。

 舞台は世界最大のSNSであるFacebookだ。この3月、最大8700万人の利用者データが流出して大統領選の選挙工作に使われた疑惑が発覚。米フェイスブックのマーク・ザッカーバーグCEO(最高経営責任者)は米議会で謝罪した。プライバシー侵害問題とみられることが多い同事件は、実はAI技術なしには起こり得なかった。膨大な利用者データを分析して政治広告を配信した行為そのものに、同社のAI技術が使われた可能性があるからだ。

2018年4月に米議会の公聴会で証言するフェイスブックのザッカーバーグCEO
(写真:The New York Times/Redux/アフロ)
[画像のクリックで拡大表示]

 私たちの生活や仕事を快適で豊かなものにするはずのAI。しかし光があれば影もある。活用が広がり深層学習などの技術が進化するにつれて負の側面、ダークサイドが目立ち始めた。

図 能力向上によって生まれたAIの光と影
負の方向にも使える
[画像のクリックで拡大表示]

この先は有料会員の登録が必要です。「日経コンピュータ」定期購読者もログインしてお読みいただけます。有料会員(月額プラン)は初月無料!

日経 xTECHには有料記事(有料会員向けまたは定期購読者向け)、無料記事(登録会員向け)、フリー記事(誰でも閲覧可能)があります。有料記事でも、登録会員向け配信期間は登録会員への登録が必要な場合があります。有料会員と登録会員に関するFAQはこちら