のディープフェイクの危機続けます。メタプラットフォームを含むインスタグラム、フェイスブック、 そしてメッセンジャー、伝えられるところによると、AI が生成した次のような広告がホストされていました。水曜日服を脱いだ俳優のジェナ・オルテガ。
としてNBCニュースが報じた、広告ではオルテガが16歳の時に撮ったぼやけた写真が使用され、すべての服を脱ぐオプションなど、有名人の服装を変える方法をユーザーに指示した。伝えられるところによると、画像はPerky AIと呼ばれるアプリによって操作されていたという。このアプリはRichAds社が開発したものとして記載されており、AppleのApp StoreではAIを使ってプロンプト付きで「超現実的またはファンタジーのような人物を作成する」プラットフォームと説明されている。これには、通常、性的に露骨な「NSFW」（職場では安全ではない）画像が含まれます。
NBCの報道を受けて、パブリッシャーは、Perky AIアプリのページがMetaによって停止されたと述べ、9月以来すでに同社のプラットフォーム上で260のユニークな広告を掲載しており、オルテガの画像をフィーチャーした広告は2月を通じて掲載されたと伝えられている。同報道によると、メタ社のプラットフォームで掲載されていた広告のうち、30件は同社の広告基準を満たしていないとしてすでに停止処分となっているが、オルテガをフィーチャーした広告はその中には含まれていなかったという。
Mashable への声明の中で、Meta の広報担当ライアン ダニエルズ氏は、「Meta は、児童のヌード、児童を性的対象とするコンテンツ、および AI によって生成された同意のないヌード画像を提供するサービスを厳しく禁止しています。このアプリは引き続きさまざまなアプリ ストアで広く入手可能ですが、当社はこれまでにこれらの広告とその背後にあるアカウントを削除しました。」
Perky AI は Apple の App Store と Google Play からも削除されたようです (Mashable で確認しましたが、どちらでも利用できません)。 AppleはNBCに対し、このアプリは「あからさまに性的またはポルノ的な内容」に関するポリシーに違反したとしてすでに同社の調査を受けており、2月16日に削除されたと語った。
マッシュ可能な光の速度
MashableはAppleとGoogleにさらなるコメントを求めた。
この事件は、インターネット上で出回っている同意のない、性的に露骨なディープフェイク事件の最新のものである。 2024 年の最初の 2 か月間で、次のような有名人の写真が投稿されました。テイラー・スウィフトそしてポッドキャストホストのボビー・アルソフ以前は Twitter として知られていた X を含む、主要なソーシャル メディア プラットフォームに広まりました。ディープフェイクは学校にも侵入しており、最近では生徒の偽のヌードが出回っているビバリーヒルズ中学校そしてシアトル郊外の高校。
この問題は重大な段階にあり、専門家が警告それ法的および社会的変化が緊急に必要です。本人確認プラットフォームである Subsum は、ディープフェイクは10倍に増加多くのソーシャル メディア プラットフォームは、この種のコンテンツを封じ込めるのに苦労してきました。過去数か月だけでも、グーグル、×、 そしてメタディープフェイク素材がプラットフォーム上で流通することを許可しているとして非難されている。
ユーザーが報告する必要があると思われるプラットフォーム上で広告を見た場合、会社はその方法について機能の指示をガイドします。メタを使用すると、ユーザーは次の広告を報告できますフェイスブックまたはインスタグラム、一方、Apple の機能はいくつかのコミュニティスレッドたとえば、ユーザーがアプリ内広告を報告するのに役立ちます。 Google もユーザーをサポートします不適切な広告を報告するフォーム経由で。
しかし、これらの措置の一部は、AI によって生成されたコンテンツの急増を阻止するには十分ではありません。大手テクノロジー企業は、ほとんどの場合、少女、女性、社会から疎外された人々を標的とする、流行病になりつつあると思われる事態に対処するために、重要な行動を起こす必要がある。
性的虐待の経験がある場合、米国在住の場合は、秘密厳守の無料全国性的暴行ホットライン 1-800-656-HOPE (4673) に電話するか、次のサイトにアクセスして 24 時間年中無休のオンライン ヘルプにアクセスしてください。online.rainn.org。同意なしに親密な画像を共有した場合は、Cyber Civil Rights Initiative の 24 時間年中無休のホットラインに電話してください。844-878-2274無料、秘密厳守のサポート。 CCRI の Web サイトには、次の内容も含まれています。役立つ情報のリストと同様に国際リソース。
英国に居住しており、親密な画像の虐待 (別名リベンジ ポルノ) を経験したことがある場合は、次の連絡先までご連絡ください。リベンジポルノヘルプライン0345 6000 459。 性暴力の経験があり、英国に拠点を置いている場合は、レイプ危機ヘルプラインに電話してください。0808 802 9999。