顔を交換した有名人をフィーチャーしたフェイク ポルノ ビデオ (よく呼ばれます)「ディープフェイク」ツイッターから追放されました。
このソーシャルメディアプラットフォームは、ガル・ガドット、テイラー・スウィフト、メイジー・ウィリアムズなどのセレブ女性がAIを使用してポルノ出演者と顔を交換した動画を禁止する最新のものとなったが、その動画はすべてがあまりにもリアルに見える。マザーボードポルノの「ディープフェイク」の禁止を最初に報告し、その後Twitterによって確認された。
TwitterはMashableに対し、これらの動画は「本人の同意なしに制作または配布された個人の親密な写真や動画を投稿または共有してはいけない」という同社のポリシーに違反していると語った。
ガル・ガドットの顔がポルノ女優の顔と入れ替わってしまった。 クレジット: Reddit
Twitterの広報担当者は、「対象者の同意なしに制作または配布された親密なメディアの元の投稿者であると特定したアカウントはすべて停止する。また、この種のコンテンツの投稿専用のアカウントも停止する」と述べた。
ディープフェイクはポルノだけではありませんが、この技術の最も問題のある用途です。 （ヒラリー・クリントンの頭にトランプ大統領の顔を載せたディープフェイクはたくさんある。）メーカーは、機械学習アルゴリズムを実行する公開ソフトウェアを使用して、選択した動画に有名人の顔を組み込む。映像の品質が十分に高ければ、驚くほど効果的な結果が得られる可能性があります。
マッシュ可能な光の速度
トランプトン？ クレジット: THEGONCAS2/YOUTUBE
それは本当に問題があり、完全に合意に達していません。Redditのスレッドこれらのポルノビデオの多くをホストしているチャンネル登録者数は 90,000 人弱です。
動画を禁止するプラットフォームはTwitterだけではなく、Pornhubもユーザーがコンテンツに報告することでディープフェイクをプラットフォームから削除している。
「ユーザーはこのようなコンテンツにフラグを立て始めており、我々はフラグを見つけ次第削除します」とPornHubの副社長コーリー・プライス氏は述べた。Mashableに語った。 「この問題に遭遇した人は誰でも、私たちのサイトにアクセスすることをお勧めします。コンテンツ削除ページそうすれば正式に要請できるようになります。」
オンラインチャットサービスのDiscordも、その直後にディープフェイクを共有していたグループを閉鎖した。ビジネスインサイダーこの問題に関して連絡を取りました。 GIFプラットフォームGfycatもこのクリップを公に非難し、BBCクリップは「不快」です。
MashableはRedditにコメントを求めた。
Damon Beres と Marcus Gilmer による追加レポート。