ディープフェイク(フェイクビデオ攻撃)とは?仕組みや事例、対策について徹底解説

人工知能や機械学習などの発達により、これまでにはなかった技術が登場してきました。中でも最近は「ディープラーニング」と「フェイク」を組み合わせた造語である「ディープフェイク」が注目を集めています。ディープフェイクとはAIの技術を応用した偽のビデオやオーディオのことです。フェイクビデオとも呼ばれています。

今回はディープフェイクの概要と実際に用いられた事例、そしてフェイクビデオと本物のビデオを見分ける方法について徹底解説します。

ディープフェイクとは

ディープフェイクとはAIの技術を応用して作られた、偽の動画や音声のことです。政治家や芸能人が実際には行っていない行動や発言を、あたかも真実であるかのような動画や音声がインターネット上で公開されて話題となったことがあります。

特に動画はディープフェイクビデオ(フェイクビデオ)とも呼ばれ、特定の人物の顔の形やしわ、目や鼻などの動きをAIの技術を応用して、別の人物にかぶせ、異なる部分を精巧に修正して再現されています。これはフェイススワップ(顔交換)と呼ばれ、自然な動画を合成する技術として使われています。

これにより顔つきや表情などの見た目だけでなく、発声などの音声もコンピューターにより細かく制御されます。その結果、実際には発言していない内容を、あたかも本人が発言したかのような動画(フェイクビデオ)が作られてしまうのです。

ディープフェイクが登場した背景

動画や音声を加工した偽のコンテンツは、ディープフェイクが広まる以前からインターネット上で普及していました。従来の技術では、動画の加工や偽造には専門的な技術と膨大な作業時間が必要とされてきました。中でもアイドルのコラージュ画像を専門に制作していた人たちのことは、アイコラ職人などと呼ばれ、作られた画像により、名誉棄損や著作権侵害の問題に発展したケースもあります。

ところが近年の機械学習の発達により、精巧な動画や画像の加工のプロセスが簡略化され、さらにSNSやYoutubeなどの普及は、ディープフェイクが急速に拡散させる要素となっています。

ディープフェイクの発端は、ソーシャルブックマークサイト「Reddit」において「deepfakes」というユーザーが2017年11月ごろに投稿した動画であると言われています。

その後、一般のユーザーでもフェイク動画を作成できるアプリ「FakeApp(フェイクアップ)」が開発されたことで、ディープフェイクは一気に広まり大きな問題に発展しました。現在、Youtubeにはディープフェイクを専門に扱うチャンネルも存在しています。

ディープフェイクで何が起こるか

ディープフェイクにより重大な事実が操作される可能性があります。ディープフェイクはインターネットで拡散されることで、世界中に発信され、政治家や芸能人、セレブなどの影響力のある人たちの信用を傷つけるだけでなく、政策や株価などの社会情勢にも影響を与える可能性も考えられます。

ディープフェイクはインターネット上で急速に拡散されます。動画によるコンテンツは視覚と聴覚に対して強力に訴えかけ、見たものを欺くのに十分な力を持ちます。専門家の中には、国家間の戦争に発展する可能性もあり、さらに戦局を左右する要因としてディープフェイクが使われることもあり得ると指摘する者もいます。

ディープフェイクが用いられた事例

海外ではディープフェイクによる事例がいくつか確認されています。

オバマ元大統領の演説動画(2018年4月)

アメリカのオバマ元大統領の演説動画のフェイクビデオが2018年4月に公開されました。

https://www.youtube.com/watch?time_continue=58&v=cQ54GDm1eL0

「トランプ大統領は救いようのないマヌケだ」動画の中でオバマ元大統領はこう発言しています。このフェイクビデオはアメリカのオンラインメディア「バズフィード」と映画監督のジョーダン・ヒールによるもので、ディープフェイクの脅威を世界に知らしめるために製作されたものです。

Facebook CEO ザッカーバーグ氏の偽動画(2019年6月)

Facebook CEOのザッカーバーグ氏のフェイクビデオが2019年6月8日にinstagram上にアップロードされて話題になりました。動画は14日までに7万5000回以上も再生され、facebook上でもシェアされています。

動画の内容は「大量の個人データを手に入れた者が未来も手に入れると『スペクター』に教えてもらった」と発言しているもので、再生時間は約16秒間で自動的にリピートされます。

このフェイクビデオは、イギリスで開催された「スペクター」という芸術イベントの作品として製作されたものです。ザッカーガーグ氏の顔とfacebook本社で撮影された演説中の体を結合し、俳優の声を合わせて作られました。

Facebook社はinstagram上にアップロードされたこのフェイクビデオを削除しないと発表しています。

幼いころのイーロン・マスク(2019年5月)

こちらはちょっと面白いディープフェイクです。アメリカの実業家、イーロン・マスクを現在の年齢で子供にしたようなフェイクビデオです。

恐らく子供のころのイーロン・マスクは実際にはもっと可愛らしかったと思いますが、このようにフェイクビデオにされてしまうと、なんと言っていいのかわからない不気味さがあります。

ちなみにこれは本物の赤ちゃん動画を素材にして作られたディープフェイクです。元ネタとなった赤ちゃん動画も合わせて紹介します。

フェイクビデオを見分ける方法

フェイクビデオは極めて精巧に作られていますが、いくつかの方法により見分けられる方法があります。

情報収集を行う

インターネットで公開されている動画がフェイクビデオだと感じたら、まずはその動画に関する情報を徹底的に収集しましょう。人間にとって視覚で得られた情報は強力ですが、まずは先入観を無くし、動画に関する情報をGoogleなどの検索エンジンでチェックするところからスタートです。

特に過去に公開されたフェイクビデオはすでに話題になったことがあるかもしれないので、要注意です。インターネット上において動画が最初に公開された日時を調べ、それが最近公開されたものなのか、それとも過去に話題となりニュースサイトなどでも取り上げられたものなのか、信頼できる情報源を使って徹底的に調べましょう。

映像に違和感がないか確認する

インターネットで情報を集めても、その動画がフェイクビデオであるかどうかわからない場合は、まずはその動画を自分の目でしっかりと確認しましょう。動画に映されている被写体だけでなく、その影や光の反射、そして何か操るようなワイヤーをデジタル加工で消去したような痕跡など、少しでも不自然に感じられるところがあるかチェックしましょう。

フェイクビデオを見分けるAIを活用する

ニューヨーク州立大学の呂思偉(ルー・シウェイ)率いる研究チームが、フェイクビデオの欠陥を発見しました。フェイクビデオに使われているDeepFakeアルゴリズムは画像から動画を作りだす技術ですが、このアルゴリズムにより作られた動画は、人間の生理学的信号全てを完璧には再現できないことを見つけたのです。

そこで研究チームはフェイクビデオの登場人物の「まばたき」に注目し、フェイクビデオの中でまばたきをしない箇所を検出するAIアルゴリズムを開発しました。このAIを学習させることで、フェイクビデオの特定が可能となりました。まだ完璧とは言えない技術ですが、今後の動向に要注目です。

まとめ

AIの進歩はこれまでにない数々の技術を生み出しましたが、その中にはディープフェイクのように社会にとって有益とは言えないものも含まれています。ひとたびインターネット上で拡散されてしまったコンテンツを、完全に削除したり対策を取ったりすることは困難です。

ディープフェイクに対する技術的解決策が困難であれば、現状では動画を見た人々の意識を高めることでしか解決ができないように感じられます。

ディープフェイクはまだ歴史の浅い技術です。これからどのような問題が発生するのかは未知数であり、脅威の拡大がどの程度まで広がり、人々に影響を与えるのか予想がつきません。

情報漏洩セキュリティ対策ハンドブックプレゼント

メルマガ登録で、下記内容の「情報漏洩セキュリティ対策ハンドブック」プレゼント

1.はじめに


2.近年の個人情報漏洩の状況


3. 内部要因による情報漏洩
3-1.被害実例
3−2.内部犯行による被害統計情報
3-3.内部犯行による情報漏洩が増え続ける3つの原因
3-4.内部犯行を減らすための対策


4. 外部要因による情報漏洩
4−1.近年の個人情報漏洩の状況
4−2.実際の近年のサイバー攻撃による企業の被害実例
4−3.サイバー攻撃の統計情報
4-4.サイバー攻撃がふえ続ける5つの原因
4-5.急増する日本の企業のWEBサイト改ざんへの対策
4-6.サイバー攻撃の種類を把握しよう
4-7.日本におけるサイバー攻撃に対する国の対応と今後
4-8.外部要因による情報漏洩のセキュリティ対策

無料でここまでわかります!
ぜひ下記より無料ダウンロードしてみてはいかがでしょうか?