ディープフェイク 仕組み。 ディープラーニング(深層学習)とは|活用事例・仕組み・学習手法・機械学習との違い

ディープラーニング(深層学習)とは|活用事例・仕組み・学習手法・機械学習との違い

ディープフェイク 仕組み

Contents• ディープフェイクと代表的なアプリの特徴 まずはディープフェイクやスマホでも顔加工が楽しめるアプリの特徴からご紹介しましょう。 スター気分を味わえるディープフェイク ディープフェイクは 人工知能の合成機能により人の顔の特徴を変化させる技術です。 例えば、今の顔写真から将来年老いた顔つきに加工することが可能です。 他にも芸能人など他人の顔に自分の顔の特徴を加え、 スターになった気分を味わう使い方もできます。 ディープフェイクの技術は進歩しており、他人の顔を乗っ取り、まるで本人が話しているかのような、本物と区別が付かないほどの加工も可能です。 ディープフェイクが簡単にできる2つのアプリ ディープフェイクの画像はスマホのアプリからも簡単に作ることができ、SNSで画像投稿したことをきっかけに認知は広まっています。 SNSで流行したきっかけは、 ロシア発のFaceAppというAIを活用した画像編集アプリです。 FaceAppは自分の顔を老け顔や若い顔に加工できるアプリで、一般人だけではなくセレブからも活用されています。 クオリティが非常に高いため、面白いとSNSで評判になり爆発的な人気を巻き起こしました。 さらに、2019年8月末にリリースされた 中国発のZaoは動画にディープフェイクを反映させることが可能です。 ネット上ではスターが登場する映画の動画を活用し、登場人物の顔を自分の顔に変化させた動画がアップロードされています。 高精度なディープフェイクは 数百枚の顔写真が必要ですが、Zaoならたった1枚の写真でハイクオリティなフェイク動画を作成が可能です。 その手軽さからダウンロード数をどんどん伸ばしていますが、現時点で 日本では配信されていません。 セキュリティに問題はないのか? アプリを使ってディープフェイクを行うために、追加した画像や動画はアプリのサーバーに送られ、加工処理した後に送り返される仕組みとなっています。 つまり自分の顔写真を外部に送ることになるので、 セキュリティ面やプライバシー面で危機感を感じるユーザーは少なくありません。 個人情報や写真の扱い FaceAppの利用規約では、利用者が追加した写真や個人情報は開発社が商業目的での使用や公開する権利があると記載されています。 その上、権利は永続されるもので、ロイヤリティフリーのライセンスと記載されていました。 アプリで送信した情報や写真はロシアにある会社や関連会社に保存され、 許可なく使われる可能性があるということです。 その規約内容がネットで広がり、プライバシーやセキュリティに 懸念の声が出ました。 一方、Zaoも同様の利用規約があり、 プライバシーの侵害だとレビューが炎上しました。 顔写真の流出で起きる問題 もし顔写真が外部に流出した場合、どのような問題が起きるのでしょうか? 現在はスマホでも顔認証システムが搭載されていますが、将来様々な場所で生体認証が活用されると言われています。 例えば、顔写真が他人に渡り悪用される場合、登録している顔データベースを通じて 個人情報や資産などが奪われてしまう可能性があるでしょう。 また、勝手に人の顔データを使い、 知らないところで不正や犯罪行為が行われる可能性も考えられます。 各社の対応について セキュリティやプライバシーの面で炎上したことで、 FaceAppとZaoはそれぞれ声名を出したり、規約を改正したりする対応を行っていました。 FaceAppはサーバー内にユーザーデータがあり、運営会社側が保有しているわけではないと声名を出しています。 そもそも会社側が取得するのは加工を指示された写真だけで、加工のためにアップロードされた写真は48時間以内に削除される仕様のようです。 また、サポートからサーバー内に保管されている自分の全情報を削除依頼する対応も行っています。 現状、削除依頼が殺到している上に未ログインでの問い合わせが多いため、 対応に難航している様子です。 写真加工アプリではGPSやSIMカードの情報を取得するものもありますが、FaceAppはそれらの情報は収集していません。 そのため、 現時点でセキュリティに関して過剰に反応する必要はないと言えるでしょう。 一方、 Zaoは問題となった規約条項を削除して改正されています。 今はユーザーの許可を得た場合を除いて、取得した情報は会社の技術向上以外の目的では使わないとしています。 運営会社もプライバシーの懸念を受け止め、 少しずつ問題を直していく姿勢を表明していました。 レビューの評価は今も良いとは言えませんが、星1つの状況から星2. 9までに回復しており、 今後の改善に期待が寄せられていると考えられます。 セキュリティ以外で懸念されるディープフェイクの問題 ディープフェイクはセキュリティ以外にも懸念しなければならない問題があります。 それは、ディープフェイクを活用した悪質なフェイス動画です。 高度なフェイク動画が出回っている AIの合成技術は本物瓜二つのフェイクまで作れるところまで来ており、すでにネット上では フェイク動画が拡散されています。 代表的なのは、 オバマ前大統領がトランプ大統領を中傷する発言をしている動画です。 映像は どこから見てもオバマ前大統領の姿ですが、実は 高度なディープフェイクが施されたフェイク動画で、コメディアンのジョーダン・ピール氏とメディアサイトを運営するバズフィードがフェイク動画を喚起する目的で制作されました。 ディープフェイクは口元や目元の動き、身振り手振り、会話のクセなどをAIが覚えることで、 非常にリアルな合成加工を実現しています。 そのため、ジョーダン・ピール氏が作成したような高度なフェイク動画も実現できるのです。 巧妙なフェイク動画は、人間の目では簡単に見分けが付かない状態なので、どの動画を本物と信じてしまう人は少なくないでしょう。 嘘が拡散されることで、危険を伴う誤った情報が広まったり、思い当たることがない中小誹謗を受けたりするリスクが増えると想像できます。 手軽さ故のリスク 今までは何百枚もの顔写真がないとリアルなディープフェイクはできませんでしたが、今は 数枚の写真でも高度な加工が可能です。 この手軽さもフェイク動画が作られやすくなる原因になると懸念されています。 誰でもスマホと画像数枚や動画で簡単にディープフェイクができるようになると、中には 悪質な使い方をする人が増えるリスクも高まります。 現時点でディープフェイクに関する規制の法律はなく、 フェイク動画の取り締まりも進んでいない状況です。 また、肖像権などの知識に疎い人は少なくなく、悪意はなく軽い気持ちでフェイク動画を作り、トラブルに巻き込まれる可能性もあります。 例えば、有名人の顔を使って本人が言わないことを発言すると、名誉毀損で訴えられる可能性もあるでしょう。 ディープフェイクの技術が進む中、 悪質なフェイク動画に対する規制が必要という声は多いです。 ディープフェイクは 未来の画像・映像技術を大きく変えるテクノロジーです。 今はアプリで簡単に加工ができますが、注意したいのはアプリの規約やセキュリティ面です。 自分のデータや写真が悪用されないためにも、アプリの運営会社の実態や信頼性を確認した上で利用しましょう。 また、悪意のあるフェイク動画は社会に影響を与え、自分自身もトラブルに巻き込まれる可能性があるので、個人で楽しむ範囲に留めておきましょう。

次の

ディープフェイク(フェイクビデオ攻撃)とは?仕組みや事例、対策について徹底解説

ディープフェイク 仕組み

この記事の目次• ディープフェイクとは ディープフェイクとはAIの技術を応用して作られた、偽の動画や音声のことです。 政治家や芸能人が実際には行っていない行動や発言を、あたかも真実であるかのような動画や音声がインターネット上で公開されて話題となったことがあります。 特に動画はディープフェイクビデオ(フェイクビデオ)とも呼ばれ、特定の人物の顔の形やしわ、目や鼻などの動きをAIの技術を応用して、別の人物にかぶせ、異なる部分を精巧に修正して再現されています。 これはフェイススワップ(顔交換)と呼ばれ、自然な動画を合成する技術として使われています。 これにより顔つきや表情などの見た目だけでなく、発声などの音声もコンピューターにより細かく制御されます。 その結果、実際には発言していない内容を、あたかも本人が発言したかのような動画(フェイクビデオ)が作られてしまうのです。 ディープフェイクが登場した背景 動画や音声を加工した偽のコンテンツは、ディープフェイクが広まる以前からインターネット上で普及していました。 従来の技術では、動画の加工や偽造には専門的な技術と膨大な作業時間が必要とされてきました。 中でもアイドルのコラージュ画像を専門に制作していた人たちのことは、アイコラ職人などと呼ばれ、作られた画像により、名誉棄損や著作権侵害の問題に発展したケースもあります。 ところが近年の機械学習の発達により、精巧な動画や画像の加工のプロセスが簡略化され、さらにSNSやYoutubeなどの普及は、ディープフェイクが急速に拡散させる要素となっています。 ディープフェイクの発端は、ソーシャルブックマークサイト「Reddit」において「deepfakes」というユーザーが2017年11月ごろに投稿した動画であると言われています。 その後、一般のユーザーでもフェイク動画を作成できるアプリ「FakeApp(フェイクアップ)」が開発されたことで、ディープフェイクは一気に広まり大きな問題に発展しました。 現在、Youtubeにはディープフェイクを専門に扱うチャンネルも存在しています。 ディープフェイクで何が起こるか ディープフェイクにより重大な事実が操作される可能性があります。 ディープフェイクはインターネットで拡散されることで、世界中に発信され、政治家や芸能人、セレブなどの影響力のある人たちの信用を傷つけるだけでなく、政策や株価などの社会情勢にも影響を与える可能性も考えられます。 ディープフェイクはインターネット上で急速に拡散されます。 動画によるコンテンツは視覚と聴覚に対して強力に訴えかけ、見たものを欺くのに十分な力を持ちます。 専門家の中には、国家間の戦争に発展する可能性もあり、さらに戦局を左右する要因としてディープフェイクが使われることもあり得ると指摘する者もいます。 ディープフェイクが用いられた事例 海外ではディープフェイクによる事例がいくつか確認されています。 オバマ元大統領の演説動画(2018年4月) アメリカのオバマ元大統領の演説動画のフェイクビデオが2018年4月に公開されました。 youtube. このフェイクビデオはアメリカのオンラインメディア「バズフィード」と映画監督のジョーダン・ヒールによるもので、ディープフェイクの脅威を世界に知らしめるために製作されたものです。 Facebook CEO ザッカーバーグ氏の偽動画(2019年6月 Facebook CEOのザッカーバーグ氏のフェイクビデオが2019年6月8日にinstagram上にアップロードされて話題になりました。 動画は14日までに7万5000回以上も再生され、facebook上でもシェアされています。 動画の内容は「大量の個人データを手に入れた者が未来も手に入れると『スペクター』に教えてもらった」と発言しているもので、再生時間は約16秒間で自動的にリピートされます。 ザッカーガーグ氏の顔とfacebook本社で撮影された演説中の体を結合し、俳優の声を合わせて作られました。 Facebook社はinstagram上にアップロードされたこのフェイクビデオを削除しないと発表しています。 幼いころのイーロン・マスク(2019年5月) こちらはちょっと面白いディープフェイクです。 アメリカの実業家、イーロン・マスクを現在の年齢で子供にしたようなフェイクビデオです。 フェイクビデオを見分ける方法 フェイクビデオは極めて精巧に作られていますが、いくつかの方法により見分けられる方法があります。 情報収集を行う インターネットで公開されている動画がフェイクビデオだと感じたら、まずはその動画に関する情報を徹底的に収集しましょう。 人間にとって視覚で得られた情報は強力ですが、まずは先入観を無くし、動画に関する情報をGoogleなどの検索エンジンでチェックするところからスタートです。 特に過去に公開されたフェイクビデオはすでに話題になったことがあるかもしれないので、要注意です。 インターネット上において動画が最初に公開された日時を調べ、それが最近公開されたものなのか、それとも過去に話題となりニュースサイトなどでも取り上げられたものなのか、信頼できる情報源を使って徹底的に調べましょう。 映像に違和感がないか確認する インターネットで情報を集めても、その動画がフェイクビデオであるかどうかわからない場合は、まずはその動画を自分の目でしっかりと確認しましょう。 動画に映されている被写体だけでなく、その影や光の反射、そして何か操るようなワイヤーをデジタル加工で消去したような痕跡など、少しでも不自然に感じられるところがあるかチェックしましょう。 フェイクビデオを見分けるAIを活用する ニューヨーク州立大学の呂思偉(ルー・シウェイ)率いる研究チームが、フェイクビデオの欠陥を発見しました。 フェイクビデオに使われているDeepFakeアルゴリズムは画像から動画を作りだす技術ですが、このアルゴリズムにより作られた動画は、人間の生理学的信号全てを完璧には再現できないことを見つけたのです。 そこで研究チームはフェイクビデオの登場人物の「まばたき」に注目し、フェイクビデオの中でまばたきをしない箇所を検出するAIアルゴリズムを開発しました。 このAIを学習させることで、フェイクビデオの特定が可能となりました。 まだ完璧とは言えない技術ですが、今後の動向に要注目です。 まとめ AIの進歩はこれまでにない数々の技術を生み出しましたが、その中にはディープフェイクのように社会にとって有益とは言えないものも含まれています。 ひとたびインターネット上で拡散されてしまったコンテンツを、完全に削除したり対策を取ったりすることは困難です。 ディープフェイクに対する技術的解決策が困難であれば、現状では動画を見た人々の意識を高めることでしか解決ができないように感じられます。 ディープフェイクはまだ歴史の浅い技術です。 これからどのような問題が発生するのかは未知数であり、脅威の拡大がどの程度まで広がり、人々に影響を与えるのか予想がつきません。 メルマガ登録で、下記内容の「情報漏洩セキュリティ対策ハンドブック」プレゼント 1. はじめに 2. 近年の個人情報漏洩の状況 3. 内部要因による情報漏洩 3-1. 内部犯行による被害統計情報 3-3. 内部犯行による情報漏洩が増え続ける3つの原因 3-4. 内部犯行を減らすための対策 4. サイバー攻撃の統計情報 4-4. サイバー攻撃がふえ続ける5つの原因 4-5. 急増する日本の企業のWEBサイト改ざんへの対策 4-6. サイバー攻撃の種類を把握しよう 4-7. 日本におけるサイバー攻撃に対する国の対応と今後 4-8. 外部要因による情報漏洩のセキュリティ対策 無料でここまでわかります! ぜひ下記より無料ダウンロードしてみてはいかがでしょうか?.

次の

「フェイク動画」はどうやって作られている? ディープフェイクの仕組みと悪用対策

ディープフェイク 仕組み

参考動画:BuzzFeedVideo|有名なディープフェイク動画の例。 この偽動画を作成したのはコメディアンのJordan Peele氏(画面右に登場)とのこと。 フェイク動画の将来の危険性について警告しています。 ディープフェイクとは? によれば、 「ディープフェイク(deep fake)」とは、人工知能の重要技術である「ディープラーニング(deep learning)」と英語で捏造・にせものを意味する「フェイク(fake)」から作られた造語、とのことです。 人工知能によって、本人が実際には話していないことを話させたり、人物の顔を巧妙に入れ替えたりして、本物と見分けがつかないような偽動画などを作ることができる技術のようです。 一人の男が、盗んだデータで何億人ものあらゆる秘密、生活、将来を完全に支配している様子を。 )などと発言しているフェイク動画です。 しゃべるモナリザ?たった1枚の画像からディープフェイク動画を作成 参考動画|tech 4tress:ディープフェイク動画を作成できるフリーソフトツールとして有名な「FakeApp」のダウンロード・インストール方法や使い方などが解説されています。 — VICE VICE 他にも、スマホなどで簡単にフェイク動画や画像を作れるアプリがどんどん出てくるのも、もはや時間の問題といえそうです。 有名人だけでなく、どんな人でも被害者になりうるため、非常に怖い脅威となりつつあります。 このように偽動画などを簡単に作れるようになることで、有名な政治家のフェイク動画が選挙結果に影響を及ぼしたり、捏造動画が新たないじめの手段に使われたりと、様々な可能性が懸念されています。 ディープフェイクを見破る方法や対策など 参考動画|東京新聞:フェイク動画を見破る人工知能AIについての報道。 ディープフェイクのアルゴリズムによる巧妙な偽動画は、すでに人間の目では本物と見分けることは難しくなりつつあるため、AIによってディープフェイクを見破る技術の研究が進んでいるようです。 ただ、偽造技術の方も日々進歩しているため、結局いたちごっこになってしまうのでは?と個人的には危惧しています。 他にも、たとえば透かしを入れる方法などが検討されているようですね。 法律の整備などもこれから急速に進んでいくでしょう。 どんな情報も鵜呑みにせず、各自が総合的に判断していく能力が今まで以上に求められることになりそうですね。 ダーウィン・ジャーナルにご訪問いただきありがとうございます!管理人のチャールズです。 当サイトでは生物学や心理学・テクノロジー分野のクリエイティブ・コモンズの論文を中心に、管理人が個人的に興味を持った世界の最新の研究成果や面白い科学ニュース雑学などを、できるだけわかりやすくまとめて紹介しています。 各分野の専門家ではない管理人が個人で運営しておりますため、恐縮ですが、誤りなどを含んでいる可能性がありますことを予めご了承下さい(参考:)。 記事中には原則としてソースの学術論文をリンク付きで明記していますので、学術・医療分野などにおける正確性・厳密性を求められる方はそちらを直接ご覧下さいますようお願い致します。 もし誤りについてのご指摘やご意見・ご感想などありましたら、コメント欄に記入あるいはからお気軽にご連絡頂ければ幸いです。

次の