ハリウッド映画俳優ニコラス・ケイジの登場場面を集めたオムニバス形式のネット動画。実はよく見るとどれも彼の出演作ではない。実は登場人物の顔をニコラス・ケイジの顔と入れ替えて合成したフェイク(偽物)動画だった――。

 今、海外のネット上で有名人の顔を別人の顔に合成したフェイク動画が流行している。「出来映え」は秀逸だ。ただ顔の画像をすり替えているだけでなく、台詞に合わせて口や表情が自然に動く。言われなければ合成と気付かないかもしれない。

ジョークではすまない悪質な動画も

 ディープフェイク。これらフェイク動画の総称だ。「FakeApp」という無料のPCソフトを使って作る。

 同ソフトの精巧な合成画像の作成に使われているのが人工知能(AI)の要素技術であるディープラーニング(深層学習)だ。使っているのは米グーグル(Google)のディープラーニング向けソフトウエア群「TensorFlow」。利用者はPCに同ソフトをインストールしたら大量の顔写真を読み込ませてAIに学習させる。同ソフトで作ったフェイク動画だけでなく、ネット上には丁寧なチュートリアルの動画や解説サイトもある。

 FakeAppは一見するとジョークアプリだ。映画などの登場人物に自分や友人の顔を合成して個人や仲間内で楽しむ分には問題ないかもしれない。日本でも顔写真に絵柄を重ねたり動物のイラストを合成したりして友達と交換するSNSアプリが流行している。

 ただ、FakeAppの精巧さは度を超えていた。登場したばかりのころの使われ方はジョークだったかもしれないが、ポルノに有名女優の顔を合成した動画が「人気」に火を付けた。以来、合成された人の気持ちを傷つける、悪意に満ちた動画がまたたく間に増加。掲示板サイトや動画共有サイトは対処に追われているという。ドナルド・トランプ米大統領の顔をヒラリー・クリントン氏に合成した動画なども存在する。

今そこにあるAIのダークサイド

 ディープフェイクはAIがもたらす負の側面、いわばダークサイドを浮き彫りにした。人間を超えた知能を獲得するシンギュラリティ(技術的特異点)、人間の仕事を奪うとされる脅威論、人間を支配するディストピア的未来。AIによる悲観的な将来を強調する議論は多いが、ディープフェイクはAIのダークサイドが遠い未来ではなく私たちの足下に既に存在する現実を突き付けた。

 AIそのものは技術にすぎず、使い方によってシロにもクロにもなる。自動運転から製造業の生産ラインにおける不良品の検出、小売業の値付け支援、フリマアプリの不正出品検知、消費者の質問に自動で応答するチャットボットまで。日経 xTECHでも毎日のように報じている通り、私たちの仕事や生活を便利で効率的にする存在として、AIは活躍を期待されている。

 しかし人間の良き友であるはずのAIも、育て方やつきあい方を誤ると一転して害をなす存在になる。いささか旧聞に属するが、米マイクロソフト(Microsoft)が2016年に公開したチャットボット「Tay」はAIの利点とあやうさが紙一重である事実を見せつけた。マイクロソフトは人間が会話を楽しめるようTayを設計したとしていたが、ユーザーが差別的な文章をTayに学習させた結果、Tay自身も差別的な発言を繰り返すようになり提供中止に追い込まれた。

この先は会員の登録が必要です。今なら有料会員(月額プラン)登録で5月末まで無料!