偽の顔交換ビデオはまだインターネットを蔓延させたり、世界大戦を引き起こしたりはしていませんが、懸念が政治プロパガンダ目的でそのようなクリップが使用される可能性に移る中、検出ツールの改良に熱心に取り組んでいるプログラマーがいます。
あれから1年以上経ちましたReddit、最も人気のあるディープフェイクサブレディットを閉鎖、r/ディープフェイク、政府機関とメディアは引き続き手を絞るAI支援テクノロジーの進化により、有名か無名かを問わず、基本的に何でもする人の非常にリアルなビデオを作成できるようになりました。
2020年の大統領選挙サイクルが始まるにつれ、さらなるハッキングや外国人俳優による選挙介入の試みに対する新たな懸念が浮上しており、懸念はリベンジポルノや有名人の搾取から、政治的動機に基づくフェイススワップビデオへと移りつつある。これらのクリップは、誤った情報キャンペーンの一環として、あるいは政府を不安定化させる可能性のある大規模な取り組みの一環として使用される可能性があります。
一部の専門家は、この脅威はメディアの反応が示すほど深刻ではないと信じているが、それでも他の専門家は、ディープフェイクを検出するソフトウェアを最新の状態に保つために最善を尽くし、フェイススワップ動画をより美しく見せる技術を最新の状態に保つことを止めていない。もっとリアルに。
ディープフェイクの出現
2018 年初頭にディープフェイク動画が広く注目を集め始めたとき、専門家そしてメディア即時だった: 彼らはテクノロジーについて警鐘を鳴らした考えられる悪影響。ディープフェイクを作成するためのフリーソフトウェアがより広く入手可能になり、RedditやGithubなどのプラットフォームを通じて共有されるようになると、ソーシャルサイトはそのテクノロジーを使用して作成された偽のポルノビデオで溢れかえり、ユーザーは通常、ガル・ガドットやスカーレット・ヨハンソンのような有名人女性の顔を遺体に貼り付けた成人映画俳優の。
心配する偽リベンジポルノの作成このソフトウェアを使用して元パートナーの顔をポルノビデオに挿入できることが明らかになり、拡散した。悪意のある者は、ディープフェイク技術を利用して、パートナー、元恋人、または敵を脅迫したり、ビデオをインターネットに公開したりすることで、彼らをコントロールする可能性があります。
Redditはr/ディープフェイクのサブレディットを禁止することで反応した、新興ソフトウェアで作成されたビデオの人気フォーラム。結局のところ、禁止を推進したのは顔交換の一般的な考え方ではなく、むしろその技術を使用して、偽の、合意のない、顔を交換したポルノを作成することでした。
r/deepfakes サブレディットの禁止は 2018 年初めに波紋を呼びました。 クレジット: Reddit
禁止に関する声明の中でレディットの代表者は、「このサブレディットは当社のコンテンツポリシー、特に不本意なポルノに対するポリシーに違反したため禁止された」と述べた。
もう 1 つのサブレディットである r/FakeApp は、ユーザーがこれらのビデオを簡単に作成できるようにする、広く利用可能なプログラムに特化しています。も禁止されました。
しかし、レディットのようなプラットフォームがこうしたポルノディープフェイクを撃退したにもかかわらず、現在では政治をテーマにしたディープフェイクが引き起こす潜在的な問題に懸念が向けられている。
政治利用への懸念
政治的な顔の交換ビデオが大規模な不安定化につながった具体的な例はまだないが、その可能性だけで当局は厳戒態勢を敷いている。たとえば、世界の指導者が政治的に扇動的なことを言っているかのように見せかけ、反応を促したり混乱を引き起こしたりすることで、フェイクビデオが兵器化される可能性があります。米国国防総省が警戒を強めていることは十分な懸念であるディープフェイク動画を独自に監視政府関係者に関係するものだから。
ホワイトハウスが改ざんされたビデオに騙された場合、高品質のディープフェイクにどれほど簡単にだまされるかを考えると恐ろしいです。
トランプ大統領がすぐに「フェイクニュースだ！」と叫ぶことを考えると、彼が気に入らない報道については、ディープフェイクの蔓延を踏まえると、例えばおしっこテープのような本物のビデオは偽物だと彼が主張するのを止めるにはどうすればよいでしょうか？彼はすでにその道を進んでいます悪名高いものに関する音声操作アクセスハリウッドテープ。
同氏とホワイトハウスも、改変されたビデオの拡散を行った。ディープフェイクではないが、トランプ大統領は最近、下院議長（そしてトランプ大統領の引き立て役）ナンシー・ペロシの動画を共有した。十分に減速しただけですペロシ氏の演説が遅くなっているように見せるためだ。そのビデオ、すぐに誤りが暴かれた、依然としてトランプ大統領の6000万人以上のツイッターフォロワーに拡散していた。
ツイートは削除された可能性があります
これは、ホワイトハウス報道官サラ・サンダースが2018年11月に起こした事件に続くものである。変更されたビデオを共有しました悪名高い陰謀サイト InfoWars による。この映像では、CNN記者ジム・アコスタがホワイトハウス職員に対して実際よりも身体的な反応を示したかのように見せかけた。
もし彼らがこれらの動画に騙されたら、高品質のディープフェイクにどれほど簡単に騙されてしまうかを考えると恐ろしいです。
おそらく、政治的ディープフェイクの潜在的な影響について考える最も簡単な方法は、次のことに関連するものです。最近の問題Facebook のメッセージング アプリである WhatsApp を使用すると、噂のウイルス拡散を可能にした雪だるま式に入る現実の暴力。説得力のある政治的なディープフェイク動画が、WhatsApp の動画のように急速に広まった場合を想像してみてください。集団暴行事件を引き起こした
Redditでまだ家を探しています
おそらく、この種の政治的な色合いのディープフェイクの最もよく知られた例は、Buzzfeed と俳優兼監督のジョーダン ピールが共同制作したものでしょう。バラク・オバマとピールの前大統領の不気味な模倣のビデオを使用して、同メディアはオバマがこれまでに言ったことがないことを言っている信憑性のあるビデオを作成した。この種のクリップに関する認識を広める。
しかし、他の例はウェブ上、つまり Reddit の可能性の高い場所で増殖しています。 r/deepfakes サブレディットが禁止された一方で、次のような他のもっとおとなしいフォーラムが出現しました。r/GIFフェイクそしてr/SFWディープフェイクここでは、Reddit の利用規約内にある (つまり、ポルノではない) ユーザーが作成したディープフェイクが共有されます。
ほとんどは、有名な映画の中に、たとえばドナルド・トランプのような指導者を登場させる、ばかげた種類のものです。
しかし、説得力のある政治的なディープフェイクを作成しようとする、より協調的な試みを反映したものがいくつか出回っています。
マッシュ可能な光の速度
そして、あるグループがトランプ大統領のディープフェイクを政治広告に利用しようとしたという実際の証拠もある。スパベルギーの社会主義民主党は、気候変動関連の請願への署名を集めるために偽のトランプビデオを使用した。同党のアカウントでツイッターに投稿された際には、「トランプ氏はすべてのベルギー人にメッセージがある」と翻訳されたメッセージが添えられていた。
ツイートは削除された可能性があります
トランプ大統領が「このビデオと同じように、気候変動が偽物であることは誰もが知っている」と発言する場面が映され、このビデオは偽物であることが認められる。しかし、バズフィードのメモとして、その部分は文字通り翻訳中に失われます。
「しかし、字幕ではオランダ語に翻訳されておらず、文頭の音量が急激に下がっているため、理解するのが困難です。音量なしでビデオを見ている視聴者には、それが偽物であることを知る方法はありません。」文章。"
これらの例の多くは Reddit の単純な抜粋からのものですが、Web の暗い領域 (たとえば 4chan) には、この種のビデオが急増する可能性のある場所がたくさんあります。適切な後押しがあれば、他のプラットフォームに簡単に移行でき、広く素朴な視聴者にリーチできるでしょう。
したがって、検出ツール、特にこれらのビデオの作成に使用される進化し続けるテクノロジーに対応できるツールが本当に必要とされています。
瞬く間に
ユーザーがフェイススワップビデオが本物かどうかを判断しようとするときに探すことができる証拠となる兆候が少なくとも 1 つあります。それは、点滅です。 2018 年の調査出版されたコーネル氏は、被験者が目を閉じている様子を映した利用可能なビデオや写真が不足しているため、ディープフェイクビデオではまばたきの行為がうまく表現されていないことに焦点を当てた。
としてPhys.org が指摘:
健康な成人が瞬きする2秒から10秒ごとの間のどこか、そして1回のまばたきに時間がかかります10分の1秒から10分の4秒の間。それは、人が話しているビデオで見るのが普通のことです。しかし、多くのディープフェイクビデオで起こっていることはそうではありません。
以下のビデオを比較すると、彼らが何を話しているのかがわかります。
他の場所では、そのやり方に関して山ほどの批判に直面しているFacebookフェイクニュースが蔓延するプラットフォーム上には、独自の機械学習ツールを使用するフェイクビデオを検出し、AP通信やSnopesなどのファクトチェックパートナーと提携して、フラグが立てられた潜在的なフェイク写真やビデオを調査します。
もちろん、このシステムの優れている点はソフトウェア ツール次第です。ディープフェイク動画にフラグが立てられなければファクト チェッカーに届きませんが、これは正しい方向への一歩です。
検出ツールで反撃する
検出の分野で大きな進歩を遂げている専門家やグループがあります。そのうちの 1 つは、マティアス・ニースナードイツのミュンヘン工科大学の博士号を取得。ニースナーはチームの一員同社は、検出ツールを開発するために、操作されたビデオや画像の大規模なデータセットを研究しています。 2019年3月14日、彼のグループは「フェイスフォレンジックベンチマーク」をリリースそこで同氏はメールでMashableに対し、「人々は客観的な尺度でさまざまな偽造手法に対するアプローチをテストできる」と語った。
言い換えれば、テスターはベンチマークを使用して、さまざまな検出ソフトウェアが、ディープフェイクビデオや顔2顔そしてマイクロソフトの自然のままの。これまでのところ、結果は有望です
たとえば、ニースナー氏が開発に協力した検出ツールである Xception (FaceForensics++) ネットワークの検出成功率は全体で 78.3% で、特にディープフェイクの成功率は 88.2% でした。ニースナー氏は、まだ改善の余地がたくさんあることを認めながらも、「偽物がどれだけ優れているかを測る尺度にもなる」と語った。
インターネット ユーザーの間の認識の問題もあります。おそらく、ほとんどの人はディープフェイクについて聞いたことがなく、ましてやディープフェイクを検出する方法など知りません。デジタルトレンドについて語る2018 年に、ニースナー氏は次のように修正案を提案しました。「理想的には、目標は、当社の AI アルゴリズムをブラウザーまたはソーシャル メディア プラグインに統合することです。基本的に、アルゴリズムはバックグラウンドで[実行され]、画像やビデオが操作されていると識別された場合は、ユーザーに警告が表示されます。」
このようなソフトウェアが広く普及できれば、そして検出ツールの開発者がディープフェイク動画の進化に追いつくことができれば、少なくともユーザーが知識を習得し、ディープフェイクのウイルス拡散を防ぐためのツールを提供できる可能性はあるようだ。
どれだけ心配すべきでしょうか？
しかし、一部の専門家やメディア関係者は、ディープフェイクに対する懸念は誇張されており、懸念はビデオだけでなくあらゆる種類のプロパガンダや虚偽または誤解を招くニュースに向けられるべきだと考えている。
ザ・ヴァージで、ラッセル・ブランドムが重要な点を指摘政治的プロパガンダとしてのディープフェイクの利用は、昨年受けた注目と懸念に比べてうまくいっていない。これらの動画が上記のようなフィルターにフラグを立てる可能性が高いことに注目し、これらのキャンペーンの背後にいる荒らしたちは、ターゲットとなった人々の既存の信念を利用するにはフェイクニュース記事を作成する方がより効果的であると認識していました。
ブランドムが指さすのは、広く出回った2016年の虚偽の主張教皇フランシスコが例としてドナルド・トランプを支持したことを。
「それは広く共有され、完全に虚偽であり、フェイクニュースが暴走する完璧な例でした。しかし、このフェイクニュースは、その主張に対する実際の証拠を提供するものではなく、他には知られていないウェブサイト上の大雑把な記事にすぎませんでした。説得力があったため、被害はありませんでした。人々はそれを信じたかっただけだ。ドナルド・トランプがアメリカをキリストの道に導いているとすでに思っているなら、ローマ法王もそう考えていると納得させるのにそれほど時間はかからないだろう。教皇住所を聞いても気が変わらないだろう。」
開発者アラン・ズッコーニ誤解を招くニュースやフェイクニュースに関しては、ディープフェイクは不要であるという見解を共有しています。
ズッコーニ氏はピザゲートを例に挙げ、一定レベルのインターネット教育を受けていない人々がいかに簡単に「プロパガンダをする人たちに食い物にされるか、そしてプロパガンダはそれほど複雑である必要はない」と説明している。
ブランドム氏の指摘に同調して、ズッコーニ氏は、ディープフェイク動画を信じる可能性が高い人は、すでに他の形式の偽情報の影響を受けやすいと指摘する。 「それはビデオそのものというよりも考え方です」と彼は言います。
そのためには、インターネットのフォーラムやテキストを使って陰謀を広めるほうがはるかに安価で簡単だと彼は指摘する。「リアルなディープフェイク動画を作るには、1 つの動画に数週間の作業が必要です。そして、まだフェイクオーディオを適切に作成することさえできません。しかし、ビデオを 1 つ作成するには非常に費用がかかるため、得られる利益はそれほど多くありません。」
ズッコーニ氏はまた、プロパガンダや陰謀を広める者にとっても、偽のビデオを作成するよりも、文脈を無視して本物のビデオを提示する方が簡単だと強調する。改ざんされたペロシのビデオはその良い例です。クリエイターがしなければならなかったのは、望ましい効果を生み出すためにビデオの速度をほんの少しだけ遅くすることだけであり、トランプはそれを購入しました。
少なくとも 1 つの主要なソーシャル メディア プラットフォーム -- Facebook --動画の削除を拒否したその特定の戦いがどれほど厳しいものであるかを示すだけです。
「今はポスト真実の時代だ。つまり、私にとって、ビデオを見たら、それが偽物かどうかは問題ではないのです」と彼は私に言います。 「重要なのは、そのビデオがサポートするはずだった何かをサポートするためにそのビデオが使用されているかどうかです。」
むしろ、ディープフェイクに関する議論が、実際には本物であるにもかかわらず、ディープフェイクの動画は本物ではないと主張する人が出てくるのではないかと彼は懸念している。本当です、それは私ではありませんでした。」
前に述べたように、トランプ大統領はすでにこの問題から距離を置くことでこれらの領域を試していることを考えると、アクセスハリウッドテープ、ズッコーニの指摘はよく理解されています。
ただし、これらのビデオに対する懸念は大げさかもしれませんが、ディープフェイクに関する教育の欠如に対する懸念は依然として懸念されており、検出ソフトウェアが対応する能力が不可欠です。
アビブ・オヴァディア役2018年初めにバズフィードが警告, 「完璧である必要はありません。敵に何かが起こったと思わせて、反射的で無謀な報復反応を引き起こすのに十分であれば十分です。」
そして、その教育が遅れ、これらのビデオが不信感を植え付ける可能性が残る限り、フィルター上で行われている作業は、誤った情報との戦いの重要な部分であり続け、ホワイトハット開発者は、より邪悪な要素に先んじようと競い合っています。インターネットは混乱を引き起こすことに熱心です。