最近、10代の少女たちのグループが、ニュージャージー州の高校の男子生徒たちが、ネット上に投稿した自分たちの画像を集めていたという衝撃的な発見をした。ソーシャルメディア、その後、それらの写真を使用して偽のヌードを生成しました。
グループチャットでヌードを共有した少年たちは、人工知能、によるとウォール・ストリート・ジャーナル。
この事件は恐ろしいプライバシー侵害である。しかし、それはまた、どのようにしてAIは急速に期待を根本的に作り変えている自分のオンライン画像に何が起こるかについて。これが子供たちや十代の若者にとって意味することは、特に憂慮すべきことです。
あInternet Watch Foundation が発行した最近のレポートは、現実的な児童性的虐待の素材を作成するために AI がますます使用されていることを発見しました。これらの画像の一部は、AI を活用したソフトウェアの助けを借りて、最初から生成されます。ただし、この素材の一部は、インターネットから収集され、AI を使用して加工された、公開されている子供の画像を使用して作成されています。
こうした展開に関する見出しを目にした親たちもう一度考え始めたのかもしれないソーシャルメディアで子供の画像を自由に共有することについて、おそらく十代と十代の若者が自分の完全に公開された写真を投稿することを思いとどまらせているのでしょう。
しかし、サマーキャンプ、保護者と教師の会、スポーツチームなど、子どもや十代の若者たちと定期的に関わってサービスを提供する第三者が、オンラインマーケティングやソーシャルメディアにそれらの子どもたちの画像を日常的にどのように使用しているかについてはほとんど話題になっていない。法的権利放棄において、この目的のために親の許可を求めたり、必要であることを示したりする場合もあります。しかし、特に子供が学校やスポーツイベントなどの公共の場にいる場合、一部の第三者は許可をまったく要求しない場合があります。
たとえば、学校の PTA の Instagram アカウントから子供の画像が削除され、児童への性的虐待の素材の作成に使用されるリスクは非常に低いと考えられますが、ゼロではなくなりました。
オンラインで子供のイメージを守る方法
ニュージャージー州インターネット児童犯罪対策特別委員会の元司令官であるジョン・ピズロ氏は、ほんの数年前にオンラインで入手できた子供の写真は、当時存在していたソフトウェアで操作するのが困難だったとマッシャブルに語った。
児童搾取との闘いに焦点を当てた権利擁護・ロビー活動団体であるレイブンの最高経営責任者（CEO）ピッツーロ氏によると、現在では、悪役は子供が登場する画像の背景をシームレスにデジタルで切り取り、その若者を別の背景に簡単に重ね合わせることができるという。
ピッツロ氏は、子どもの画像を撮影してオンラインに投稿するすべての組織には「何らかの責任がある」とし、AIが生成する児童性的虐待素材の脅威に対処するためのポリシーを整備する必要があると述べた。
「世の中にある画像が増えれば増えるほど、プログラムを使って物事を変えることができるようになる。それが危険だ」とピズロ氏は語り、AI画像生成ツールが独自の画像を取り込むたびにどのように改善されるかについて言及した。
親が子供の画像が悪者の手に渡る可能性を排除する簡単な方法の 1 つは、第三者がマーケティングやその他の目的で写真を撮影および公開する許可を求めた場合に断ることです。この許可は、保護者が子供をキャンプ、スポーツ、課外活動に申し込む際の登録書類に含まれることがよくあります。
学校は通常、年次登録書類にこのフォームを含めます。細字で見つけるのは難しいかもしれませんが、親は時間をかけて権利放棄を確認し、子供の写真の権利を譲渡するかどうかを意図的に決定する必要があります。
保護者がその言語を見つけられない場合は、その団体に画像共有のポリシーと慣行について尋ね、子供の画像をオンラインまたは他の場所に投稿する許可を与えていないことを明確にすることもできます。親がすでに第三者の同意を与えている場合は、撤回の許可について尋ねることができます。
ピッツロ氏は、同意なしに投稿された子供の写真を親がインスタグラム上で発見した場合、次のようなことができると述べた。削除リクエストを提出する。同じことが当てはまりますフェイスブック。 Twitter では、ユーザーが個人や保護者の同意なしに個人の画像を投稿することを許可していません。それらの違反行為を報告できます。保護者の方も、プライバシー侵害を報告する子どもたちを TikTok に参加させています。
あなたの子供の写真を撮って共有しているのは誰ですか?
Mashable は、米国で子どもたちと関わるいくつかの主要組織（全国 PTA、米国ガールスカウト、ボーイスカウト、米国キャンプ協会、全米青少年スポーツ連盟）に、AI と子どものデジタル画像へのアプローチについてコメントを求めました。 。さまざまな回答をいただきました。
Mashable のトップ ストーリー
ガールスカウトの広報担当者はメールでMashableに対し、ガールスカウトは今年初めに社内の法務、テクノロジー、プログラムの専門家で構成される「部門横断型チーム」を招集し、AI開発のレビューと監視を行うとともに、これらのテクノロジーの責任ある使用を奨励したと語った。
現在、ガールスカウト関連のオンラインビデオや写真に出演するには、写真に写っているメンバー全員について、各少女の親または保護者の許可が必要です。
「私たちは会員の保護を確実にするために、こうした発展の最前線に留まることに全力を尽くしています」と広報担当者は書いた。
アメリカボーイスカウトの広報担当者は、同団体の見解を明らかにした。ソーシャルメディアガイドライン、ソーシャルメディアプラットフォーム上のスカウトのビデオや画像は個々のスカウトのプライバシーを保護すべきであると述べています。地方および国レベルでは、BSA は子供の写真をソーシャル メディアに投稿する前に保護者の許可が必要ですが、保護者はいつでもオプトアウトできます。一般に、BSA のポリシーは、フルネームの代わりにイニシャルを使用するなど、ソーシャル メディアの投稿で子供をできるだけ曖昧に特定することに重点を置いています。
公開共有された画像の問題の解決策が、許可を得たユーザーのみがフォローするソーシャル メディア アカウントを閉鎖することであるように見えるかもしれないが、BSA ガイドラインは、そのアプローチが見かけよりも複雑である理由を示しています。
管理者がスカウトと大人のリーダー、および他のスカウトとの間のコミュニケーションを監視して、不適切なやり取りがないことを確認できるように、プライベートのソーシャルメディアチャネルを禁止しています。透明性には明らかな利点がありますが、このポリシーは、プライバシーと安全性への懸念のバランスをとることがいかに難しいかを示す一例です。
全国PTAのメディア関係シニアマネージャー、ハイディ・メイ・ウィルソン氏は電子メールで、この非営利団体は地元のPTAに対し、親にメディアリリースと同意書に署名させること、子供が撮った写真を投稿する許可を必ず親に与えることについて指導していると述べた。イベントの際に家族に、自分の子供以外の写真を撮ったり投稿したりしないように指示する。全国PTAはAIの進歩を監視していると彼女は述べた。
米国キャンプ協会は、そのガイドラインやベストプラクティスについてコメントを求めた複数の電子メールの要請に具体的には返答しなかった。全米青少年スポーツ協会の広報担当者は電子メールでのコメント要請に応じなかった。
オンラインにおける子供たちの画像の未来
ビーバン・キドロン男爵夫人、創設者兼議長5ライツ財団ロンドンに本部を置き、オンラインで子どもの権利のために活動する非営利団体「 」は、親はAIによって操作または生成された児童性的虐待コンテンツを現在の問題であり、将来起こるかもしれない実存の脅威ではないと考えるべきだと述べた。
キドロンさんは、AI が生成した児童性的虐待資料を調査する秘密執行チームと協力しており、これまでに見たそのようなソフトウェアを使用した児童性的虐待の画像に基づいて、AI テクノロジーが数週間のうちにいかに急速に進歩したかを苦痛を伴いながら指摘した。この夏と秋。
「毎回、それらはより現実的で、より多くなりました」とキドロン氏は語った。英国貴族院の議席議員英国および世界の児童オンライン プライバシーと安全法の制定に重要な役割を果たしてきました。
キドロン氏は、「企業がガードレールのない、これまで以上に強力なAIを開発しているため」、子どもの安全への配慮が完全に欠如していると述べた。
ピッツロ氏によると、例えば米国では、既存の刑法のどれも、児童性的虐待の偽素材や加工された素材を作成することを違法としたり、処罰の対象にしたりするものではないという。児童の性的虐待に関する素材を配布することは違法ですが、この法律は同様に、AI によって生成された画像には特に適用されません。レイヴンはこうした抜け穴をふさぐよう議会議員に働きかけている。
ピッツロ氏はまた、子どもの画像がオンラインで入手できることは、たとえ子どもを対象とした性的虐待コンテンツを作成していない場合でも、捕食者を助けることになるとも述べた。その代わりに、悪意のある者や捕食者は AI を使用して「子供を機械学習させる」ことができます。
ピッツーロ氏は、このプロセスを AI を使用して、実際に存在する子供たちの画像だけでなく、インターネットから急速に集めた個人情報や興味に関する詳細情報を備えた、説得力のある偽のソーシャル メディア アカウントを作成するものであると説明しました。これらのアカウントは、オンラインでの性的虐待や誘惑のために他の子供たちを手入れするために、略奪者によって個人的に使用される可能性があります。
「生成 AI のおかげで、[捕食者は] 大規模に人間を毛づくろいできるようになりました」とピッツロ氏は語った。以前は、犯罪者は偽のアカウントを作成する前に、オンラインで入手できる子供に関する情報を慎重に収集して研究する必要がありました。
これとは別に、キドロン氏は、AIを使用して児童性的虐待の資料を作成する一部の人々は家族に知られている可能性があると厳しく指摘した。たとえば、近所の人、友人、親戚がソーシャルメディアや学校のウェブサイトから子供の画像を収集し、児童の性的虐待コンテンツを「オーダーメイド」で作成させる可能性がある。
キドロン氏は、ハイテク企業はAIと子どものプライバシーの問題にどう取り組んで解決すればよいかわからないと主張する一方で、他社の知的財産権を侵害するコンテンツ（許可なく投稿された曲や映画クリップなど）の特定に多大な投資をしてきたと述べた。 。
キドロン氏は、AIが子どもの安全にもたらす脅威に対する明確な法的対応が存在しないため、親が私的な場でも公共の場でも子どもの画像をオンラインに投稿することを拒否したり、ボイコットしたりすることでソーシャルメディア企業に圧力をかける可能性があると述べた。サイト全体。彼女は、このような抗議活動がハイテク業界に規制強化に対する消極的なアプローチを再考するよう促す可能性があると示唆した。
キドロン氏は、保護者がプライバシーを守るためにソーシャルメディアアカウントを非公開にしたり、子供の顔にハートや絵文字を付けたりする理由を理解しているが、制度上の規制の中でもとりわけ、許可なく画像をスクレイピングすることを防ぐ技術への投資を増やすことを望んでいると述べた。そして企業向けソリューション。
キドロンは、AI が捕食者にとって簡単にアクセスできるツールとなり、オンライン上で安全な子供の写真が存在しないというディストピア的な現実を見たくないのです。
「子供の写真を二度と共有することが許されないとしたら、何と悲しい世界でしょう」とキドロンさんは語った。