Facebookは、ディープフェイクによって拡散される誤った情報に対処するために設計された新しいポリシーを発表した。しかし、このウェブサイトのかなり弱いルールは、依然として誤った情報自体に対処するには不十分です。
でブログ投稿月曜日の夜に発表されたフェイスブックのグローバルポリシー管理担当副社長モニカ・ビッカート氏は、同社はディープフェイクや「あらゆる種類の操作されたメディア」を含む「誤解を招く操作された動画に対するポリシーを強化している」と述べた。
「今後は、誤解を招く操作されたメディアが以下の基準を満たしている場合は削除します」とビッカート氏は書いた。
「この動画は、明瞭さや品質の調整を超えて、普通の人には分からない方法で編集または合成されており、ビデオの対象者が実際には言っていない言葉を言っていると誤解させる可能性があります。
「そして、それは人工知能または機械学習の産物であり、コンテンツをビデオに結合、置き換え、または重ね合わせて、本物であるかのように見せます。」
ビッカート氏はさらに、パロディや風刺は「単語の省略や順序の変更のみを目的として編集されたビデオ」と同様、これらの新しい規則から除外されると指摘した。
マッシュ可能な光の速度
これは適切な第一歩のように聞こえますが、Facebook の新しいポリシーは、それほど高度ではないビデオ操作方法で作成された誤解を招くビデオに対して依然として扉を大きく開いたままにしています。そしてこれまでのところ、これらのクリップは米国の政治的議論にはるかに大きな影響を与えています。
2018年11月、ホワイトハウスビデオを共有しましたCNN記者のジム・アコスタがホワイトハウスのインターンの腕を切りつけようとしていた様子を映し、その映像を利用して彼を敷地内から締め出すことを正当化した。しかし、ホワイトハウス参事官ケリーアン・コンウェイ氏は、後に認めた映像が高速化されていたため、アコスタが実際よりも攻撃的に見えたという。アコスタさんはやりとり中にインターンに対して「ごめんなさい、奥様」とも言ったが、この発言は改ざんされた映像から削除されている。
アコスタのクリップは誤解を招く操作されたビデオであるにもかかわらず、Facebookの新しい規則では、その作成に機械学習が関与していないという理由だけで、依然としてその映像の流通が許可されることになる。
Facebook のポリシーの下で引き続き許可されるその他の誤解を招く動画には、ナンシー ペロシ下院議長の映像が含まれます。遅くなった彼女が酔っているように見せるため、そして選択的に編集された大統領候補ジョー・バイデンが人種差別的なコメントをしているように見せかけたビデオ。
ビッカート氏は、削除基準を満たしていないメディアは依然としてファクトチェッカーによる審査の対象となる可能性があると述べた。少なくとも部分的に虚偽であることが判明した場合、Facebook はビデオまたは画像の流通を「大幅に削減」し、警告を適用する可能性があります。
「ファクトチェッカーによって虚偽のフラグが付けられたすべての操作されたビデオを単に削除したとしても、そのビデオはインターネットまたはソーシャルメディアエコシステムの他の場所で引き続き利用できるでしょう」とビッカート氏は書いた。 「それらを放置し、虚偽のラベルを付けることで、私たちは人々に重要な情報と背景を提供しています。」
ただし、ディープフェイクについても同じことが言えます。誤解を招く映像がもたらす損害を考慮し、Facebookは誤解を招くものでない限りメディアの削除を拒否そして人工知能の結果は恣意的な区別のように思えます。デジタルフォレンジック専門家のハニー・ファリド役に言ったワシントンポスト: 「意図的に誤解を招くビデオというより広範な問題ではなく、なぜディープフェイクだけに焦点を当てているのでしょうか?」
この技術がさらに普及するにつれて、特に米国が大統領選挙に向かうにつれて、誤解を招くディープフェイクに対処することが重要です。ただし、技術的にあまり進歩していない欺瞞を阻止することも同様に重要です。