技術革新を追求し、生成AIの支持者たちは、一般的にディープフェイクポルノとして知られる、非常に現実的で同意のない合成偽造のツールを平均的なジョーの手に押し込みました。
「ヌード化」脱衣アプリの広告が、人気のある Web サイトのサイドバーに表示される場合があります。Facebookの投稿の合間に、 その間公人の性的画像を操作した大衆向けのトレンドアイテムとして広まりました。この問題はオンライン領域からユーザーの実生活にまで波及しており、若者も含めて。そのすべてに関与しているのは、AI の作成者と配布者です。
政府指導者たちはこの問題を断片的に攻撃している立法努力。テクノロジー部門とソーシャル部門はバランスをとっているユーザーに対する責任イノベーションの必要性とともに。しかし、ディープフェイクは企業ポリシーという武器で戦うのが難しい概念です。
単一の解決策がない憂慮すべき問題
ディープフェイク問題の解決は、合意のない合成偽造の責任者についての広範囲にわたる意見の相違は言うまでもなく、ディープフェイクを正確に特定することがいかに難しいかによって、さらに困難になっています。
権利擁護および研究組織サイバー公民権イニシアチブ親密な画像の同意のない配布（NDII）に反対する団体は、性的に露骨なデジタル偽造を、実際の人物のヌードや性的行為を誤って（そしてほとんど区別できないように）描写する加工された写真やビデオと定義しています。 NDII には本質的に AI (Photoshop を思い浮かべてください) が関与していませんが、現在、生成 AI ツールは一般的に、包括的な用語であるディープフェイクを作成する機能と関連付けられています。元々は2017年に作られたもの、それは操作された視覚的または聴覚的な類似性を意味するようになりました。
広義には、「ディープフェイク」画像とは、人物の肖像をわずかに編集したり、完全に非現実的にレンダリングしたものを指します。性的に露骨なものもあるかもしれませんが、そうでないものはさらに多くあります。これらは合意に基づいて作成されることもあれば、画像に基づく性的虐待 (IBSA) の一形態として使用されることもあります。これらは、AI ツール自体のポリシーや課せられた制限を通じて、作成の瞬間またはそれより前から規制または取り締まられる場合もあれば、作成後にオンラインで拡散する際に規制される場合もあります。意図に応じて、完全に非合法化されることもあれば、メーカーや販売業者に対する刑事責任や民事責任が制限されることもあります。
企業は、同意のないディープフェイクの脅威を独自に定義しており、性的合成偽造をいくつかの方法で捉えることを選択しています。つまり、直接の取り締まりを通じて対処される犯罪として、既存の利用規約への違反（「リベンジポルノ」や誤った情報を規制するものなど）、または、単純に、彼らの責任ではありません。
ここでは、それらの企業のほんの一部と、それらの企業が全体像にどのように適合するか、そしてディープフェイクに関して彼ら自身が表明したポリシーのリストを示します。
人間的
Anthropic やその競合他社のような AI 開発者は、人工 AI コンテンツの生成に使用できる製品やシステムについて責任を負わなければなりません。多くの人にとって、それはツールの出力とユーザーに対してより大きな責任を負うことを意味します。
Anthropic は安全第一の AI 企業として自社を宣伝し、かなり鉄則的な手段を用いて厳格な反 NSFW ポリシーを維持してきました。 利用規約と不正行為フィルターを使用して、ユーザーの悪い行動を最初から抑制しようとします。 Anthropic の Claude チャットボットはいかなる種類の画像も生成できないことにも注意してください。
私たちの利用規約(AUP) は、組織的な不正行為や偽情報キャンペーンへの関与など、欺瞞的または誤解を招くコンテンツを生成するために当社のモデルを使用することを禁止しています。これには、人間が生成した結果を提示したり、自然人と通信していると自然人に納得させることを意図した方法で結果を使用したりすることによって、当社のサービスを使用して人になりすますことの禁止も含まれます。
ユーザーは性的に露骨なコンテンツを生成することはできません。これには、性交や性行為を描写または要求する、性的フェティッシュや空想に関連するコンテンツを生成する、近親相姦や獣姦を促進、促進、または描写する、またはエロティックなチャットに参加するための当社の製品またはサービスの使用が含まれます。
ユーザーは、児童性的虐待に関する素材を作成、配布、宣伝することはできません。当社は未成年者を搾取または虐待するコンテンツを厳しく禁止し、必要に応じて関連当局や組織に報告します。
りんご
Anthropic のような企業とは対照的に、テクノロジー複合企業は合成コンテンツのホストまたはディストリビューターの役割を果たしています。たとえば、ソーシャル プラットフォームは、ユーザーが画像やビデオを交換する機会を提供します。アプリ ストアのようなオンライン マーケットプレイスは、悪意のある者が生成 AI ツールとその構成要素を販売したりアクセスしたりするための手段となります。しかし、企業が AI に深く取り組むにつれて、これらの役割はますます曖昧になってきています。
マッシュ可能な光の速度
最近、露骨なディープフェイクアプリの許可に対して、Apple の App Store やその他のマーケットプレイスに厳しい目が向けられています。 App Storeのポリシーは競合他社、特にGoogle Playほど直接的ではないものの、同社は広告とストアのルールの両方で反ポルノポリシーを強化している。しかし、Apple の幅広い製品の中には依然として論争が残っています。ここ数カ月間、同社は次のように告発されているデバイスやサービスの役割を過小報告している実際の児童性的虐待資料と AI によって生成された児童性的虐待資料の両方の拡散。
そして、Apple が最近発表したアップルインテリジェンス新たな警察問題が生じることになるだろう。
Apple News では、成人向けのテーマやグラフィック コンテンツを宣伝する広告コンテンツは許可されません。たとえば、ポルノ、カーマ スートラ、エロチカ、または「ハウツー」やその他のセックス ゲームを宣伝するコンテンツなどです。
Apple App Store のサービスには、「美的または感情的な感情ではなくエロティックな感情を刺激することを目的とした性的器官または活動の明示的な説明または表示」と定義される、あからさまに性的またはポルノ的なコンテンツを含めることはできません。これには、「フックアップ」アプリや、ポルノを含む可能性のあるアプリ、または売春や人身売買や搾取を促進するために使用される可能性のあるその他のアプリが含まれます。
ユーザーが作成したコンテンツやサービスを備えたアプリは、主にポルノ コンテンツ、チャットルーレット スタイルのエクスペリエンス、現実の人々の対象化 (「人気か否か」投票など)、身体的脅迫、またはいじめに使用されることになります。 App Storeは予告なく削除される場合があります。
GitHub
GitHub は、開発者がプロジェクトを作成、保存、共有するためのプラットフォームとして、同意のない露骨な画像の構築と宣伝を、誤った情報と同様に、利用規定の違反として扱います。コーディング用に独自の生成 AI アシスタントを提供しますが、ビジュアルまたはオーディオ出力は提供しません。
GitHub は、このポリシーに基づいて、同意のない親密な画像や誤った情報や偽情報を構成するコンテンツの作成のための合成メディアや操作されたメディアの使用を目的として設計、奨励、促進、サポート、または提案するプロジェクトを許可しません。 。
アルファベット株式会社
グーグル
Google は合成画像の作成において、ホストおよびホストとして多面的な役割を果たしています。開発者。同意のない合成コンテンツへのアクセスとその配布を制限するために、いくつかのポリシー変更を発表しました。検索、および「nudify」アプリの広告Googleプレイ。これは、テクノロジー大手が Google.com 上で同意のないデジタル偽造を表面化した役割を非難された後に行われた。
AI によって生成された合成ポルノは Google 検索のランキングで低下します。
ユーザーは、明示的に同意のない偽画像を Google から削除するようリクエストできます。
ショッピング広告では、性的に露骨な合成コンテンツやヌードを含む合成コンテンツを生成、配布、保存するサービスを宣伝することはできません。ショッピング広告では、そのようなコンテンツの作成に関する指示を提供することはできません。
Google Play ストアの開発者は、生成 AI アプリが、禁止されたコンテンツ、子供を搾取または虐待する可能性のあるコンテンツ、ユーザーを欺いたり不正行為を可能にするコンテンツなど、不快なコンテンツを生成しないことを保証する必要があります。
YouTube
YouTube はコンテンツのホストとして、ユーザーによるアップロードの管理と、偽造の対象に対する報告メカニズムの提供を優先してきました。
性的満足を目的とした露骨なコンテンツは YouTube では許可されていません。ポルノを投稿すると、コンテンツが削除されたり、チャンネルが停止されたりする可能性があります。
クリエイターは、[改変または合成されたコンテンツ] コンテンツが現実的な場合、つまり視聴者が表示されているものを現実の人物、場所、または出来事と簡単に誤解する可能性がある場合、そのコンテンツを開示する必要があります。
誰かが AI を使用して、あなたに似た見た目や音声の合成コンテンツを変更または作成した場合は、そのコンテンツの削除を要求できます。削除の対象となるには、コンテンツにあなたの肖像を現実的に改変または合成したバージョンが描かれている必要があります。
マイクロソフト
Microsoft は、Bing や Copilot でホストされる画像ジェネレーターなど、独自の生成 AI ツールを提供しています。これらのツールは、OpenAI の DALL-E 3 などの外部 AI モデルも利用します。同社は、この AI を使用するユーザーに対してより大規模なコンテンツ ポリシーを適用し、迅速な保護措置を講じています。透かし、しかし、おそらくそれは何かについての責任を負うでしょう亀裂から落ちる。
Microsoft では、誰かの許可なく性的に親密な画像 (非同意の親密画像 (NCII) とも呼ばれる) を共有したり作成したりすることを許可していません。これには、テクノロジーを使用して作成または変更されたフォトリアリスティックな NCII コンテンツが含まれます。
Bing では、イメージ クリエーターを使用して、アダルト コンテンツ、暴力や流血表現、憎悪に満ちたコンテンツ、テロリズムや暴力的な過激派コンテンツ、暴力の賛美、児童の性的搾取や虐待の素材、またはその他の不快または攻撃的なコンテンツを作成または共有することを許可していません。
OpenAI
OpenAI は AI 開発における最大手の 1 つであり、そのモデルと製品は、世界中の企業が提供する多くの生成 AI ツールに組み込まれているか、その基盤となっています。 OpenAI は、AI モデルの広範な使用による波及効果から自社を守るために、強力な利用規約を保持しています。
5月にOpenAIは、次の可能性を検討していると発表した。NSFW出力を許可する独自の ChatGPT および関連 API 上の年齢に応じたコンテンツで。その時点まで、同社はそのようなコンテンツを禁止することに断固としていた。 OpenAIは当時Mashableに対し、チャットボットの使用の可能性があるにもかかわらず、同社は依然としてAI生成のポルノとディープフェイクを禁止していると語った。
ユーザーは、OpenAI サービスからの出力を他人に危害を与える目的で再利用したり配布したりすることはできません。例としては、詐欺、詐欺、スパム、誤解を招く、いじめ、嫌がらせ、中傷、保護された属性に基づく差別、子供を性的対象とする、または暴力、憎しみ、他者の苦痛を助長するための出力が含まれます。
ユーザーは、同意または法的権利なしに、OpenAI テクノロジーを使用して別の個人または組織になりすますことはできません。
ユーザーは、性的に露骨なコンテンツや挑発的なコンテンツなど、未成年者にとって不適切な可能性のあるツールを作成することはできません。
メタ
フェイスブック
親会社のメタ社は引き続き生成 AI を探索するプラットフォームへの統合を行っているが、露骨な合成偽造や IBSA を抑制できていないとして厳しい監視の対象となっている。広範な論争を受けて、Facebookはサイト上で広告を掲載するアプリの無効化に対してより厳格な姿勢をとった。
一方、Meta は監視委員会として、AI のラベリングの取り組みと規制の強化に舵を切りました。性的に露骨で示唆的な AI 生成コンテンツに対処する Meta の能力をレビューします。
生存者を保護するために、私たちは性暴力事件を描いた画像や、撮影された人物の同意なしに共有された親密な画像を削除します。
以下の方法で人々を搾取しようとするコンテンツは許可されません。 親密な画像や親密な情報を公開すると脅して、金銭、便宜、または親密な画像を強要する（セクストーション）。または、同意のない親密な画像の共有、脅迫、共有の意図の表明、提供または要求（NCII）...
アプリケーション、サービス、または指示によって、非現実的な同意のない親密な画像 (NCII) を宣伝したり、共有すると脅迫したり、その提供を申し出たりすることは、(ほぼ) ヌードの商用画像や非商用画像が共有されていない場合でも許可されません。内容の中で。
インスタグラム
Instagram も同様に、コミュニティ ガイドラインによって強化され、サイトに投稿されるビジュアル メディアを管理しています。
許可しませんヌードインスタグラムで。これには、性交、性器、全裸のお尻のクローズアップを映す写真、ビデオ、およびデジタルで作成された一部のコンテンツが含まれます。
スナップチャット
Snapchat の生成 AI ツールには以下が含まれます限定された画像生成、したがって、その潜在的な責任は、で知られるサイトとしての評判に由来しています。性的コンテンツの交換そして、合成の露骨な画像の作成者となる可能性もあります。
ポルノ コンテンツの宣伝、配布、共有を禁止します。また、ポルノや性的交流に関連する商業活動 (オンラインかオフラインかを問わず) も許可されません。
My AI を使用して、政治的、性的、嫌がらせ、または欺瞞的なコンテンツ、スパム、マルウェア、暴力、自傷行為、人身売買を促進するコンテンツ、またはコミュニティ ガイドラインに違反するコンテンツを生成しないでください。
TikTok
TikTok Symphony として知られる独自のクリエイティブ AI スイートを備えた TikTok は、ローンチ後、最近さらに不透明な生成 AI の領域に足を踏み入れています。AIが生成したデジタルアバター。同社の法的および倫理的地位は、AIが生成した肖像画に対する同意の証明を確立することにかかっているかのようだ。 TikTokには、ヌード、若者の体の露出、性的行為やサービスを禁止する一般的なコミュニティガイドラインがあります。
実在または架空の人物の肖像 (ビジュアルまたはオーディオ) を含む AI 生成コンテンツは、たとえ AI 生成コンテンツ ラベルを付けて公開されたとしても許可されず、削除される場合があります。これは、政治的または商業的な支持を目的として使用される場合、公人（政府関係者、政治家、ビジネスリーダー、有名人など、重要な公的役割を持つ成人（18 歳以上））をフィーチャーした AI 生成コンテンツに適用されます。私人（18 歳未満を含む公人ではない人）が登場するコンテンツも禁止されています。
X/ツイッター
イーロン・マスク氏の人工知能投資である xAI は最近、自社のプラットフォームであるチャットボット Grok に画像生成機能を追加しました。画像生成機能はいくつかの機能を備えています。眉をひそめる有名人のファクシミリ。 Grok のインターフェースは X プラットフォームに直接組み込まれており、X プラットフォームはユーザーが独自のコンテンツを共有するための主要なフォーラムとなり、サイトのコミュニティと広告ガイドラインを通じて無計画に管理されます。
Xは最近、プラットフォーム上で合意に基づくアダルトコンテンツを許可する新しいポリシーを発表したが、合意にかかわらず性的なデジタル偽造物の投稿については明記しなかった。
誰かの同意なしに制作または配布された個人の親密な写真やビデオを投稿または共有することはできません。当社は、同意なしに作成または共有された親密なメディアの元の投稿者であると特定したアカウントを即時かつ永久に停止します。このタイプのコンテンツのみを投稿するアカウント、たとえばパンチラ画像の共有専用のアカウントに対しても同様の対応を行います。
関係者の同意なしに撮影された、撮影されたように見える、または共有された露骨な画像やビデオを投稿または共有することはできません。これには、個人の顔を別の人の裸体に重ね合わせる、またはその他の方法でデジタル操作する画像やビデオが含まれます。
このストーリーは、ポリシーの進化に応じて定期的に更新されます。