私がここ 1 年で見た中で最もクールなビデオの 1 つは、次の YouTube クリップです。の デビッド・レターマンのレイトショー俳優兼コメディアンのビル・ヘイダーが出演。
それとも……本当にそうだったのかトム・クルーズ?シームレスに切り替わり続けるため、時々わかりにくいことがあります。
それで、ここで一体何を見ているのですか？誰かがヘイダーにインタビューするレターマンの未編集のクリップを撮影し、人工知能を使ってクルーズの顔を入れ替えました。
ビデオはいわゆるディープフェイク、またはAIの力によって作成された操作されたメディア。
ディープフェイクは、お気に入りの映画のクリップ内で俳優の顔を別の俳優に入れ替えるのと同じくらい簡単です。あるいは、なりすまし者に同期した口の動きに音声を提供して、対象の人物にまったく新しい瞬間を作り出すこともできます。ジョーダン・ピールが声を担当したこのオバマ大統領のディープフェイクは、その使用法の完璧な例です。
操作されたメディアは最終的に AI によって生成されますが、その背後にいる人間が高品質のディープフェイクを作成するには、依然として時間と忍耐が必要です。レターマンの変更されたクリップの場合、ビデオの作成者は元のクリップを取得し、トム・クルーズの顔のさまざまな静止画像を大量に並べて強力なクラウド コンピューターに入力する必要がありました。
この間、コンピュータは本質的に画像とビデオを学習します。これは、ヘイダーとクルーズの顔を交換し、完璧な操作ビデオを出力する方法を「学習」することです。 AI がディープフェイクを完成させるまでに数週間かかる場合もあります。さらに、それは可能です高い、 あまりにも。高品質のディープフェイクを作成するには、かなり強力なスペックを備えたコンピューターが必要になるか、クラウドで仮想マシンをレンタルする必要があります。
しかし、それは急速に変わりつつあります。大手ハイテク企業はこのトレンドに飛びつき、ユーザーがディープフェイクコンテンツを作成できるように独自のソフトウェアを開発している。そして今、ディープフェイクは簡単に作成できるようになってきています。
今週初めに、顔を交換するモバイルアプリが登場ダブリカットが発売されました。人工知能企業 RefaceAI によって設立された Doublicat は、おそらくこれまでで最も単純なメディア操作ツールです。ユーザーはアプリをダウンロードし、自撮り写真を撮り、映画、テレビ番組、インターネットの人気シーンを描いた何百もの GIF から 1 つを選択するだけです。数秒以内に、ループする短いディープフェイク GIF を共有する準備が整います。
「私たちは個人データの共有について心配していましたが、今では個人画像の共有について心配しなければならないようになりました」とシンガー氏は言います。
GIF は非常にシンプルで、アプリが正確な顔の交換を吐き出すのに最も簡単な画像に基づいて選択される可能性があります。完璧には程遠いですが、非常に高速です。低品質の自撮り写真でもできることは印象的です。やがて、テクノロジーはさらに進化するでしょう。
Doublicat氏はMashableに対し、「ユーザーが独自のGIFをアップロードしたり、アプリ内でGIFを検索したり、携帯電話のカメラロールの写真を使用したりできるようになるアップデートが来る予定だ」と語った。
Doublicat は米国で最も単純なメディア操作ツールかもしれませんが、同様のアプリが国際市場にも存在します。
マッシュ可能な光の速度
「彼らのもの、Snapの新しいカメオ、Dublicat — 中国とウクライナの創造的な起業家のおかげで、顔の交換は商品になりつつあります」と、Snapの創設者兼最高経営責任者であるジャン・クロード・ゴールデンスタイン氏は述べています。クレオポイント、企業が偽情報に対処するのを支援する会社。ゴールデンスタイン氏は、最近Snapchatが取得したAI Factory は、カメオ出演この機能には 1 億 6,600 万ドルがかかります。
中国に本拠を置くBytedance社が所有する大人気ビデオアプリTikTokは、すでに発展したまだリリースされていないディープフェイクアプリも。
しかし、楽しいことやゲームばかりではありません。
「ディープフェイクは文字通り数秒で評判を台無しにする可能性があるため、公人がこれらの脅威が発生する前に準備を始めていないと、不幸にも次のような映画に取り上げられるようなことがあれば、彼らはひどい目覚めをすることになるでしょう」これらのビデオです」とマラソン・ストラテジーズCEOのフィル・シンガー氏はMashableに語った。シンガーの PR 会社は最近サービスを開始しました具体的にはディープフェイクによる偽情報に対処するため。
面白いビデオを作成するために使用されているこの一見無害な技術の背後にある懸念を理解するには、ディープフェイクが最初にどのようにして有名になったかを理解する必要があります。
2017 年後半、AI によって操作されたメディアを指す「ディープフェイク」という用語が Reddit 上で作られました。当時の最良の例は、ニコラス・ケイジ関連の面白いビデオでした。しかし、その後、フェイクセックスビデオが台頭しました。ディープフェイク技術を使用して、ユーザーはお気に入りのハリウッド女優の顔を交換し、アダルト映画の映画に出演し始めました。 Redditはに移動しました禁止2018年のディープフェイクのポルノ的使用と拡張されたディープフェイクポリシーは先週発表されたばかりだ。
フェイクニュースや偽情報がインターネットを通じて簡単に拡散する時代において、フェイクポルノビデオがいかに人の人生を台無しにするかが分かるまでに、それほど時間はかかりません。私たちが現在、2016 年に組織的な偽情報キャンペーンが横行して以来初めてとなる大統領選挙の年であることを考慮すれば、なぜ人々がこの成長を続けるテクノロジーの悪意のある使用を懸念しているのかが理解できるでしょう。
「私たちは個人データの共有について心配していましたが、今では個人画像の共有について心配しなければならないようになりました」とシンガー氏は言います。 「自分の画像がどのように使われるかは誰にも分からないため、人々は自分の画像を共有する際には特に慎重になる必要があります。」
「人々が現在使用しているソーシャルメディアツールと同じくらい普及するのは時間の問題です」と彼は続けた。
ツイートは削除された可能性があります
最も憂慮すべきは、世界最大手のテクノロジー企業の一部が、悪質なディープフェイクにどう対抗するかを未だに考えていることだ。
ちょうど今月、Facebook は次のことを発表しました。ディープフェイク禁止。ただし、問題が 1 つあります。ディープフェイクをどうやって見分けるのでしょうか?これは、地球上最大のソーシャル ネットワーキング プラットフォームがまだ適切に解決できていない問題です。
Facebook は、この問題の解決に向けて研究者や学者と協力するためにディープフェイク検出チャレンジを開始しましたが、私たちはまだ目標に達しておらず、おそらく 100% 達成することは不可能でしょう。
Facebook のディープフェイク検出 Web サイトによると、「改ざんされたメディアを強化する AI テクノロジーは急速に進化しており、ディープフェイクの検出が非常に難しくなっているため、人間の評価者ですら違いを確実に見分けることができない場合もあります。」
CREOpoint の Goldenstein 氏は、「AI はフェイク ニュースを確実に検出したり、ファクト チェックを十分な速度で行うことができないため、これは深刻な問題です」と説明します。
私とのやり取りの中で、ゴールデンスタインは次のような言葉を私に送ってくれた。「真実がパンツを履く前に、嘘は地球の裏側で聞かれる。」
興味深いことに、引用の出典を調べていると、引用のさまざまなバージョンがしばしば使用されていることがわかりました。誤って帰属された長年にわたってウィンストン・チャーチルに。
チャーチルがこれを言ったという信念を本当に強めたいのであれば、チャーチルが言ったことを「証明する」ディープフェイクを作成するのはそれほど難しいことではないように思えます。