米国国防総省はすでに対抗策の準備を進めている。ディープフェイク、人工知能によって作成された偽の音声とビデオは、Reddit などのサイトのおかげで昨年主流になりました。
によるとMITテクノロジーレビュー、捕まえる技術の開発ディープフェイク現在進行中です。米国国防高等研究計画局 (DARPA) が運営するメディア フォレンジック プログラムを通じて、研究者たちはすでに、こうした偽の AI 作品を暴くためのツールの一部を構築しています。メディア フォレンジック プログラムは実際には、もともと既存のフォレンジック ツールを自動化するために設立されましたが、ディープフェイクの増加に対する懸念により、その使命が変更されました。プロジェクトのディープフェイクミッションが発表された今年初めに。
2017 年、Reddit のユーザーは、非常に説得力のある顔交換テクノロジーを利用し始めました。俳優ニコラス・ケイジを追加この技術は、ハリウッドの女性有名人をポルノビデオクリップに挿入するためにも使用されていた。ディープフェイクが毎日のニュースサイクルに侵入し、ネット上で怒りが増大した後、一部のウェブサイトは禁止されたディープフェイクがプラットフォームに投稿されるのを防ぎます。
マッシュ可能な光の速度
しかし、ディープフェイクの作成者はテクノロジーを完成させ続け、AI が生成した偽の画像をさらに現実的にし続けました。今年の初めに、ディープフェイクの作成をさらに簡単にする FakeApp と呼ばれるアプリがリリースされました。この技術に対する懸念はすぐに、偽りの作成などの家庭内虐待事件に使用される可能性へと移った。リベンジポルノ、そして作成においてフェイクニュース。 4 月に、Buzzfeed はオバマ大統領のディープフェイクジョーダン・ピールは、これらのフェイクビデオがどれほど現実的になっているかを紹介しました。
今日に話を戻し、国防総省などがディープフェイクに対抗するツールを開発している。そのようなツールの 1 つは、ニューヨーク州立大学アルバニー校の Siwei Lyu 教授とその学生から提供されました。 AI によって生成されたスーパーインポーズされたビデオは、静止画像のスキャンから収集されたデータに大きく依存します。このため、Lyu 氏は、顔を交換したディープフェイク動画がめったに点滅しないことに気づき、少なくとも現時点では検出の道が開かれました。
DARPA プログラムの一環として、奇妙なまたは異常な頭や体の動きなどのディープフェイクの不正確さを検出するための追加ツールが開発されています。また、Lyu 氏は、経験豊富なディープフェイク作成者やビデオ編集者であれば、まばたきを検査するようなツールを回避できることを認めていますが、より高度な検出技術が開発中です。
人工知能が一般的にますます進歩していることから、ディープフェイクの戦いが、フェイクビデオ作成者と、顔を交換された真実を暴こうとする者たちとの間の軍拡競争となることは明らかである。