新しいGoogleプレイガイドラインは、ディープフェイクの「脱衣」アプリやグラフィック コンテンツを作成するアプリなど、疑わしいツールを提供する生成 AI アプリに制限をかけています。
のアプリストアポリシーを更新しましたは木曜日に発表され、生成 AI アプリとその開発者に対し、「Google Play の規制にリストされている禁止コンテンツを含む」不快なコンテンツに対する予防措置を組み込むよう指示しています。不適切なコンテンツポリシー、子供を搾取または虐待する可能性のあるコンテンツ、ユーザーを欺いたり不正行為を可能にしたりする可能性のあるコンテンツ。」
開発者はアプリ内でも提供する必要がありますフラグ設定とレポートのメカニズムユーザーが不適切なコンテンツに遭遇し、AI モデルを「厳密にテスト」した場合、テッククランチ報告した。
このルールは、「テキスト、音声、画像プロンプト入力の任意の組み合わせ」で AI が生成したコンテンツを生成するアプリに適用されます。これには、チャットボット、画像ジェネレーター、生成 AI を使用した音声なりすましアプリが含まれます。このポリシーは、AI コンテンツを「単にホストする」アプリや、要約機能などの AI の「生産性向上ツール」を備えたアプリには適用されません。
マッシュ可能な光の速度
で5月, Googleは、AIが生成した（または「合成」）ポルノ結果の評価を社内検索ランキングで引き下げると発表し、増大する問題に対処しようとした。同意のないディープフェイクポルノ。同社はまた、ディープフェイクポルノを作成、推奨、比較するウェブサイトの広告も禁止した。
この動きは、俳優の未成年の写真をフィーチャーしたAI搭載の脱衣アプリのグラフィック広告を含む、有名人中心のディープフェイクの波がXおよびMetaプラットフォーム上で広まった後に行われた。ジェナ・オルテガ。 Googleはすでに対応していた被害者からの何千もの苦情同意のない性的ディープフェイクの被害者の多くが告訴したデジタルメディア著作権法 (DMCA)自分の肖像画を掲載しているウェブサイトに対する申し立て。
AI業界関係者が発表した複数の警告誤った情報の脅威と、最近の事件を含む人々の肖像の同意のない使用について公開書簡OpenAI と Google DeepMind の従業員によって作成されました。同団体は、AIの進歩が規制なしで続けられた場合、「操作と誤った情報」の潜在的なリスクを指摘した。
Google のアプリストア規制が適用されますホワイトハウスのAI指令先月テクノロジー企業に発行された。この発表では業界リーダーに対し、ディープフェイクの拡散を阻止するためのさらなる取り組みを求めており、特にGoogleは「画像に基づく性的虐待を作成、促進、収益化、または広める」アプリを抑制するという呼びかけに留意した。ディープフェイクによる悪用の被害に遭った場合は、講じることができる手順があります。続きを読むサポートを受ける方法について。