生成AI監視団体が報告しているように、オンラインの児童性的虐待資料 (CSAM) の問題が悪化している。ディープフェイクコンテンツの蔓延実際の被害者の画像をフィーチャーしています。
イギリスから発行されたインターネット ウォッチ財団 (IWF)報告書では、露骨なシナリオで子供が登場する、デジタル的に変更された画像や完全に合成された画像が大幅に増加しており、あるフォーラムでは 30 日間で 3,512 枚の画像とビデオが共有されていることが文書化されています。大部分は若い女の子でした。犯罪者がアドバイスを共有したり、実際の画像から供給された AI モデルを共有したりすることも記録されています。
IWF CEOのスージー・ハーグリーブスOBE氏は、「適切な制御がなければ、生成AIツールはオンラインの捕食者が最も倒錯的で不快な空想を実現する遊び場を提供してしまう」と書いている。 「現在でも、IWFは、この種の素材がインターネット上の商業的な児童性的虐待ウェブサイトで共有され、販売されているのを目にし始めている。」
スナップショット調査によると、2023 年の秋以降、AI によって改変されたオンラインの CSAM が 17% 増加し、極端で露骨な性行為を示す素材も驚くほど増加しました。マテリアルには、子供の顔を見せるように変更された成人向けポルノや、別の子供の肖像を上にしてデジタル編集された既存の児童性的虐待コンテンツが含まれます。
「報告書はまた、CSAMの完全合成AIビデオを生成する能力において、この技術がいかに急速に向上しているかを強調している」とIWFは書いている。 「この種のビデオは、児童性的虐待の本物のビデオとして通用するほどまだ洗練されていませんが、アナリストらは、これは完全に合成されたビデオとしては史上「最悪」であると言っています。AIの進歩により、間もなく同じ方法でより本物そっくりのビデオがレンダリングされるでしょう。静止画が写真のようにリアルになったということです。」
AI によって生成された 12,000 の新しいデータのレビュー画像IWF アナリストによると、1 か月にわたってダークウェブ フォーラムに投稿された投稿のうち、90 パーセントは実際の CSAM について現行法に基づいて評価できるほど現実的でした。
マッシュ可能な光の速度
英国の監視機関による別の報告書が、ガーディアン今日、Appleはこう主張している大幅に過小報告されている同社の製品を通じて共有される児童性的虐待の素材の量は、生成 AI で作成されたコンテンツを同社がどのように管理するかについての懸念を引き起こしています。全米児童虐待防止協会（NSPCC）は調査の中で、Appleが公表した公式数値と情報公開請求を通じて収集した数値を比較した。
Appleは2023年に国立行方不明児童搾取児童センター（NCMEC）に対して世界中で267件のCSAM報告を行ったが、NSPCCは同社がイングランドとウェールズだけでも337件の児童虐待画像犯罪に関与したと主張しており、その数字は2022年4月から2023年3月までの期間限定。
アップルはこれを拒否したガーディアンのコメントを求めたところ、ユーザーのセキュリティとプライバシーを優先する目的で、CSAM の iCloud 写真ライブラリをスキャンしないという以前の会社の決定についてこの出版物が指摘されています。 Mashable は Apple にも問い合わせを行っており、Apple からの返答があればこの記事を更新する予定です。
米国の法律の下では、米国を拠点とするテクノロジー企業は CSAM の事例を NCMEC に報告することが義務付けられています。 Google は 2023 年に 147 万件を超える感染者数を NCMEC に報告した。別の例では Facebook が削除された1,440万個のコンテンツ今年1月から3月までの児童の性的搾取に対して。過去5年間で、同社は児童のヌードや虐待について報告された投稿数が大幅に減少したことも報告しているが、監視機関は警戒を続ける。
オンラインでの児童搾取は、戦うのが難しいことで有名、児童犯罪者は、オンラインで未成年者と関わり続けるために、ソーシャル メディア プラットフォームとその行為の抜け穴を頻繁に悪用しています。生成 AI の力がさらに悪者の手に渡った今、戦いは激化するばかりです。
同意のない合成画像の影響に関する Mashable のレポートの詳細をお読みください。
同意なしに親密な画像を共有された場合は、Cyber Civil Rights Initiative の 24 時間年中無休のホットライン 844-878-2274 に電話して、秘密厳守で無料のサポートを受けてください。 CCRI の Web サイトには、次の内容も含まれています。役立つ情報のリストと同様に国際リソース。