メタは、ヌード画像を自動的にぼかす機能である DM のヌード保護など、若者を望まないヌードやセクストーション詐欺から守るための新しいツールと機能をテストしています。
この取り締まりの一環としてメタ社は、誰かが他人からヌード写真を入手し、被害者がお金やギフトカードを送らない限りオンラインに投稿すると言う金銭的セクストーションの傾向が見られると述べている。
「これは、人々に孤独と恥を感じさせることを食い物にした、本当に恐ろしい犯罪です」とメタ社のグローバル安全ディレクター、アンティゴーン・デイビス氏は語る。CNNに語った。 「犯罪が増加していることは十分に文書化されており、これが私たちが先を行き、ツールを継続的に進化させながら私たちが何をしているのかを人々に確実に知ってもらいたい理由の1つです。」
DM のヌード保護は 18 歳未満のユーザーに対するデフォルトとなり、すべてのユーザーに対して推奨されます。保護をオンにしているユーザーがヌードを含む写真を送信しようとすると、注意が必要であることが警告され、いつでも送信を取り消すことができます。ユーザーがヌード画像を転送しようとすると、考え直して「責任と敬意を払う」よう促されるだろう。そして最後に、ユーザーがヌードを含む画像を受け取った場合、その画像は自動的にぼかされ、同様の対応をするようプレッシャーを感じないよう促されます。また、ヌード画像を送受信する際の安全に関するヒントも案内されます。
マッシュ可能な光の速度
「この機能は、DMで望まないヌードを見られないよう人々を守るだけでなく、ヌード画像を送って見返りに自分の画像を送らせる詐欺師から人々を守るためにも設計されています。」メタ氏はブログ投稿でこう述べた。
Meta は、エンドツーエンドの暗号化保護を含むオンデバイスの機械学習により、画像にヌードが含まれているかどうかを確認できます。そのため、誰かがDM内の画像を報告することを選択しない限り、Metaはその画像にアクセスできないと述べている。
Meta はまた、予防措置としてセクストーションに関与しているアカウントを特定する技術を開発することで、アプリ上でのセクストーションを阻止する取り組みを強化しています。アカウントにセクストーションの可能性があるアカウントとしてフラグが設定されている場合、そのアカウントから送信されたメッセージは受信者の非表示リクエスト フォルダーに直接送信されます。また、セクストーションの可能性があるアカウントとしてフラグが立てられているアカウントには、たとえその十代の若者とすでにつながりがあったとしても、その十代のプロフィールには「メッセージ」ボタンは表示されません。さらに、誰かがセクストーションのために削除されたアカウントとやり取りしている場合は、より多くのリソースを案内するポップアップ メッセージが表示されます。最後に、十代の若者が関連する問題を報告すると、地域の子供の安全ヘルプラインに誘導されます。
「捕食者は単一のプラットフォームに限定されないため、この業界の協力は非常に重要です。セクストーション詐欺師にも同じことが当てはまります」とメタ氏は述べた。 「これらの犯罪者は、使用するさまざまなアプリ間で被害者をターゲットにしており、会話をあるアプリから別のアプリに移すことがよくあります。そのため、この重要な協力関係を築き、セクストーション詐欺を阻止するために、よりセクストーションに特化したシグナルを Lantern と共有し始めました。」個々のプラットフォームだけでなく、インターネット全体で。」