バイデン政権はディープフェイクに対する立場を明確にしている：テクノロジー企業は、そのような画像を阻止する上で重要な役割を果たす必要がある。人工知能。
木曜日には、ホワイトハウスが手順リストを公表テクノロジー企業は、一般的に少女、女性、レズビアン、ゲイ、バイセクシュアル、トランスジェンダーの人々に加えられるデジタル暴力の一形態である、画像に基づく性的虐待を抑制するために講じるべきである。
ディープフェイクは、多くの場合露骨または性的な性質を持つ画像やビデオの合成作成を表すために使用される用語の 1 つです。既存の写真やビデオから同意なしに取得した被害者の顔を使用して素材が作成される場合があります。他のケースでは、加害者は AI を使用して完全に偽のコンテンツを生成します。
ある刑事事件では、ウィスコンシン州の男性が最近逮捕され起訴されたStable Diffusion と呼ばれるテキストから画像への生成 AI ツールを使用して、児童の性的虐待の画像を数千枚作成しました。
ホワイトハウスはこの事件を具体的には挙げなかったが、画像に基づく性的虐待は「これまでで最も急速に増加しているAIの有害な利用」の1つであると述べた。 AI は、悪意のある者が同意のない本物の画像を恐ろしい速度と規模で広めるのにも役立ちます。
この発表は、ホワイトハウス当局者、ジェンダー政策評議会のディレクターであるジェニファー・クライン氏と科学技術政策局のディレクターであるアラティ・プラバーカール氏によって書かれた。
プラバカール氏は電話インタビューでマッシャブルに対し、画像に基づく性的虐待の増加に関与している企業が今すぐ行動を起こし、阻止に向けて迅速に行動することをホワイトハウスは望んでいると語った。
Mashable のトップ ストーリー
「私たちは企業が自分たちに何ができるかをもっと真剣に考え、この問題に関して本当に前進するよう推進してほしいと強く望んでいます」とプラバーカール氏は語った。
ホワイトハウスは、テクノロジー企業に対し、画像に基づく性的虐待を作成、促進、収益化、または広めるウェブサイトやアプリを制限し、個人の同意なしに性的画像を作成および変更するツールをユーザーに提供するとして販売されているウェブサービスやアプリを制限するよう勧告した。 。クラウド サービス プロバイダーも同様に、明示的なディープフェイク サイトやアプリによる自社製品へのアクセスを禁止する可能性があります。
ホワイトハウスによると、アプリストアは開発者に対し、同意のない画像の作成を阻止するよう義務付ける可能性もあるという。多くの AI アプリが、たとえその目的で宣伝されていないとしても、明示的なディープフェイクを生成できることを考えると、この要件は非常に重要です。
ホワイトハウスは決済プラットフォームや金融機関に対し、画像に基づく性的虐待をビジネスとするサイトやアプリの決済サービスへのアクセスを制限するよう呼び掛けた（特に、こうした事業体が未成年者の画像を宣伝している場合）。
ホワイトハウスは業界に対し、成人と青少年の生存者が参加するオンラインプラットフォームから同意のないコンテンツを削除できるよう支援する方法を見つけることに「オプトイン」するよう促した。現在、削除プロセスは混乱し、疲れる可能性がありますすべてのオンライン プラットフォームに明確なプロセスがあるわけではないためです。
ホワイトハウスは、議会にも果たすべき役割があると述べた。同団体に対し、「法的保護を強化し、画像に基づく性的虐待の生存者と被害者に重要なリソースを提供する」よう求めた。現在、露骨なディープフェイク画像の生成や配布を犯罪とする連邦法はありません。
ホワイトハウスの声明は、画像に基づく性的虐待の危険性の高さを認め、「生存者にとって、この虐待は壊滅的なものであり、人生を一変させ、教育やキャリアを妨害し、うつ病、不安症、心的外傷後ストレス障害、およびうつ病の増加につながる可能性がある」と述べた。自殺の危険性がある。」
プラバーカール氏は、生成AIの基礎技術には多大な期待が寄せられているが、画像ベースの性的虐待が「有害で醜悪な応用例」として増えていると述べた。
「これを正しく行う理由の一部は、このテクノロジーが将来起こる可能性のある良いことのために使用できるようにすることです。」と彼女は付け加えた。
更新: 5月。 2024 年 2 月 23 日、午後 5 時 42 分（東部夏時間）このストーリーは、Mashable の Arati Prabhakar へのインタビューを含むように更新されました。