インターネットの最新モラル危機「ディープフェイク」へのガイド

イノベーションのあるところにはマスターベーションもある。少なくともインターネットの暗い片隅では、8万人近くの人々が集まって、セレブ女性のセックスやニコラス・ケイジが契約の箱を暴露する捏造ビデオを共有している。

これらは、リアルな顔を交換する新しい種類の動画「ディープフェイク」です。つまり、コンピュータ プログラムは 2 つの顔の間の共通点を見つけて、一方をもう一方の上に縫い合わせます。ソース映像が十分に優れている場合、変換はほぼシームレスに行われます。

このテクノロジーは比較的使いやすいため、Reddit 上に愛好家コミュニティが形成され、ユーザーはメモを比較したり、最新作「エマ・ワトソンのセックステープデモ ;-)」、「リーラ・スター x キム・カーダシアン」、「プーチン大統領への寄付」などを交換したりしています。その中には「トランプの顔」もあった。

マザーボードがやった基本的なレポート作成12 月にディープフェイクについて取り上げ、絶望的なほど予測可能なトレンドを引き続き取り上げていますニュース先週、人々がこのテクノロジーを利用して友人やクラスメートが出演するポルノを作成していると報じられた。しかし法律とコンピュータサイエンスの専門家らはMashableに対し、たとえ同意のないスターたちがPornhubで何十万回も視聴されているハードコアセックスシーンに押し込まれている状況で好転を見るのは難しいとしても、このテクノロジーの陰惨な応用がその潜在力を永久に覆い隠してはいけないと語った。そしてレディット。

後者の企業は1週間にわたってコメントの要請に応じなかったが、Pornhubは自社のプラットフォームからディープフェイクを削除すると発表した。

「ユーザーはこのようなコンテンツにフラグを立て始めており、我々はフラグを見つけ次第削除する」とPornHubの副社長コーリー・プライス氏は語った。 「この問題に遭遇した人は誰でも、私たちのサイトにアクセスすることをお勧めします。コンテンツ削除ページそうすれば正式に要請できるようになります。」

ただし、はっきり言っておきますが、これだけでもあなたはびっくりするはずです。

上には、シャツを脱いで興奮する直前のガル・ガドットの顔がポルノ女優に重ねて表示されています。このクリップを作成した Redditor にとって同意は考慮されておらず、友人からファイルをテキスト メッセージや電子メールで受け取ったとしても、変換が非常にうまく行われているため、一般の観察者はそのビデオが偽物であることに気づかないでしょう。

問題は非常に単純です。性的状況に同意していない人は、物理的生活であろうと仮想生活であろうと、そのような状況に置かれるべきではありません。しかし、魔神は瓶から出てきて、そこに留まっている。同社独自のトレンドデータが示すように、「ガル・ガドット」は依然として Google でのディープフェイク検索に関連する上位の用語の 1 つです。

これは、たとえそれが新たな問題であっても、問題の緊急性を強調しています。インターネットに公開されたコンテンツは、特にその複製や拡散に熱心に取り組んでいるグループがいる場合には、消去するのが難しい場合があります。明日には人々が新しいディープフェイクの作成をやめるかもしれないが、ガル・ガドットのクリップは無期限に存続する可能性がある。

助けが必要ですか?濁っている

シカゴ大学ロースクールで特許と技術法を専門とするジョナサン・マスア教授によると、この新技術の被害に遭った人には法的手段はあまりないという。それは民間人であっても同様です。

「あなたが自分で（映像を）撮影した場合には、著作権の主張があります。誰かがそれが実際にあなたであると言おうとした場合には、名誉毀損の主張があります。そして、あなたが有名人である場合、誰かがお金を稼ごうとしている場合には、宣伝の主張がありますやめなさい」とマズア氏は説明した。 「しかし、それらはそれぞれここで起こっていることのほんの一部にすぎず、大部分の状況をカバーするものではありません。」

これらのビデオの多くはフェイクであることを認めており、名誉毀損の議論が損なわれます。

「誰かの評判を攻撃している場合、それが一種の名誉毀損であると主張することもできますが、定義上、ポルノ写真を投稿しているとは主張していないため、それを行うのは非常に困難です」その個人のことだ」と彼は言った。

そして、いいえ、リベンジポルノを禁止する最近の取り組みは、メアリー・アン・フランクスとダニエル・シトロン、これらの法律は個人のプライベートな画像やビデオの公開に関係しているため、これらの場合には適用されません。

「実際の個人のポルノ写真は公開されていない」とマズア氏は語った。 「それは、他人の体にその人の顔が乗っているだけです。」

この行為を取り締まる法律はまだなく、導入もされていません。新しい法律によってディープフェイクに取り組むことは、憲法修正第 1 条に抵触するため、困難を伴うだろう。

「市民の自由の観点から、私は…この革新への対応が検閲的なものとなり、最終的には保護された言論を罰し、阻害することになるのではないかと懸念している」と同団体の市民的自由局長デイビッド・グリーンは述べた。電子フロンティア財団デジタル言論の自由に焦点を当てた非営利団体が明らかにした。

「例えばこの技術を犯罪化するのは悪い考えであり、憲法違反となる可能性が高い」と同氏は付け加えた。

予想外の利点

グリーン氏の懸念は根拠がないわけではないかもしれない。ディープフェイクは今やポルノの代名詞となっているが、この技術の背後にある基本コンセプトは顔認識であり、理論的には研究すべき多くの利点がある。

Snapchat などのアプリによる基本的なライブ顔認識についてはすでにご存知かもしれません。この技術は、「ランドマーク」ポイントに従って顔をマッピングするようにプログラムされています。これらは、目や口の端、鼻の穴、顎の輪郭などの特徴です。

Snapchat は、あなたの顔を理解し、あなたの特徴を拡張する変形効果を適用することに非常に優れています。

ただし、顔交換機能にはまだ不十分な点があります。

その一部は、リアルタイムで動作する Snapchat と関係しています。精度と引き換えに速度が重要です。

ディープフェイクの仕組みは異なります。 「FakeApp」プログラムは、人工知能を使用して、調整、トレーニング、マージという 3 つの主要なステップを完了します。 FakeApp は、ある顔を別の顔の上にリアルタイムで配置するのではなく、ビデオ映像から抽出した何百もの静止フレーム画像を使用します。これらすべての画像を掘り下げて顔を識別し、どのように照らされているか、どのような表情をしているかなどを分析します。プログラムが処理対象の顔を理解すると、そのすべての「知識」を使用して、一方をもう一方に貼り付けることができます。

ディープフェイクのシームレスさは、見方によっては、大きな目的のために使われているとはいえ、勇気を与える兆候かもしれません。十分に開発が進めば、リアルタイムの顔交換はディープフェイクと同等の品質を達成できる可能性があり、治療用途がある可能性があると、同研究所の責任者であるルイ・フィリップ・モランシー博士は述べています。マルチコンプラボカーネギーメロン大学にて。

「この技術にはエンターテイメント以外にも非常に重要な用途があります。」と彼は言いました。

画期的な例の 1 つ: モレンシー博士は、心的外傷後ストレス障害に苦しむ兵士は、最終的には同様のテクノロジーを使用して医師とビデオ会議できるようになるだろうと述べました。個人は、自分の感情を伝える能力を犠牲にすることなく、一般的なモデルと顔を交換できます。理論的には、これにより、偏見の認識によって治療を思いとどまる人々が治療を受けることを奨励することになり、医師が患者の顔のサインを読み取ることができないために治療の質が低下することはありません。

モレンシー博士のもう 1 つの可能性、そしてそれ自体の可能性の 1 つは、ビデオ面接でモデルを使用して、採用時に性別や人種の偏見を取り除くことです。しかし、こうしたことが起こるためには、研究者はより多くのデータを必要とし、FakeApp のようなオープンソースのアクセス可能なプログラムがそのデータの作成に役立ちます。

「AI 研究を進める方法は、コードを共有し、データを共有することです。これが AI 研究を可能にするものです」とモレンシー博士は述べました。

なんとなく悪化する

多くの新興テクノロジーと同様、最も恐ろしい部分は目に見えないものかもしれません。 Facebook が最初に大学キャンパスで展開されたとき、私たちが知っているように、アメリカの民主主義を潜在的に不安定にするマルチメディアのゴリアテへの変貌を予想した人はほとんどいなかったでしょう。しかし、私たちはここにいます。

Facebook で私たちの多くを疲弊させた「フェイク ニュース」と同様、ディープフェイクは、インターネットが私たちの共有現実を侵害するもう 1 つの能力を表しています。すべてのビデオ クリップが偽物である可能性がある場合、なぜ何かが本物であると信じるのでしょうか?

それで、あなたのお腹の孫からの反応を期待してください。」レイダース 失われたアーク?ニコラス・ケイジとのことですか？」