このアプリで自分のメンタルヘルスについて話す十代の若者は大きなリスクを負っている可能性があります

2018年7月16日、テキサス州の14歳の少女が、アンソニー・ジョセフ・スミスという名前の42歳の男性に、自分の露骨な写真を送った。

ペンシルベニア州バトラーに住んでいたスミスさんは、15歳の少年を装ったこの少年とオンラインで知り合い、頻繁にメッセージを送り合うようになった。最終的に、彼はその十代の少女に、両親と離れてペンシルベニアで一緒になるよう説得しようとした。

ますます身近な話になってきました。オンラインでの誘惑と搾取は、ほぼすべてのデジタルネットワーク上で発生する可能性があります。ソーシャルメディアプラットフォーム。しかし、スミスは被害者に会わなかった。X/ツイッター、インスタグラム、または Discord などのプラットフォームがよく知られていますが、文書化された誘惑の事例、乱用、そして搾取が起こった。

その代わりに、スミスさんは、人々が自分の問題についてオンラインで誰かとチャットすることを奨励する、7 Cupsと呼ばれる人気の精神的サポートプラットフォームでこの十代の若者と出会った。一部のユーザーは深刻な問題に取り組んでいます精神的健康問題。

このストーリーは、感情サポートプラットフォーム 7 Cups と成長するアプリとプラットフォームの市場それは、思いやりのある聞き手となるべき人と人々を結びつけることです。このシリーズでは、カリフォルニア州間の失敗した実験そして、オンラインで見知らぬ人に精神的なサポートを求めることには無数のリスクがあります。これらの危険には次のものが含まれます。弱い立場にある若者を操作するそして標的を絞った虐待と嫌がらせ。このシリーズには、その理由の分析も含まれていますオンラインでの児童搾取を止めるのは難しい、プラットフォームをより安全にするためのソリューションを検討します。

当時未成年だったため、ペンシルベニア当局は名前を公表しなかったテキサス州の十代の少女は、セブンカップなら安全だと思っていたのかもしれない。 13 歳の若者は、専用の 10 代コミュニティに参加できます。同社では、社内で審査を受けた成人が10代のメンバーとチャットすることを許可している（スミス氏は審査を受けた成人ではなかった）。 7 Cups は、未成年者が参加する前に親の許可を受けることを推奨していますが、それを確認したり、年齢や身元を確認したりすることはありません。

スミスが証明したように、大人はコミュニティにアクセスするために自分の年齢を偽ることができます。これは今日でも当てはまります。 Mashable は偽の電子メールアドレス、名前、生年月日を使用して 10 代のアカウントを作成しようとしましたが、即座にアクセスが許可されました。

Mashableが10代のコミュニティに参加するために偽のアカウントを簡単に作成したと知らされたとき、7カップスのCEO兼創設者のグレン・モリアーティ氏は、そうすることはプラットフォームの利用規約に違反していると述べた。同氏は、人々が不正確な情報を使用してオンラインでサービスにサインアップする可能性があること、またセブンカップスはユーザーの安全を守るためにブロック、レポート、言語検出ツールなどの特定の措置を採用していると指摘した。

モリアーティ氏は、ペンシルベニア州の事件について法執行機関や未成年者の両親から知らされていなかったと述べ、成人がセブンカップで青少年を食い物にし、成人ユーザー自身もプラットフォーム上で持続的な安全上の問題を経験していると異議を唱えた。

「我々には繁栄した人々のコミュニティがある」と彼は書面での返答で述べた。「もしセブンカップスがこの行為を容認していたら、私たちのコミュニティは繁栄しなかったでしょう。」

セブンカップスはメンバーに一緒にサイト外に出ないよう警告しているが、プラットフォームへの高レベルの関与に基づいた現在および過去の知識を持つ複数の情報源によると、それは今でも起こっているという。 7 Cups は、チャット中に電子メールアドレスなどの個人情報を共有しようとした場合、その情報をブロックしようとします。

いずれにせよ、スミスは最終的にその十代の少女を現場外の他のソーシャルメディアやメッセージングプラットフォームに誘い出したが、ペンシルベニアで彼女を仲間に引き入れようとする試みは成功しなかった。

「オフラインでは自信やサポートが得られないため、若者がオンラインにアクセスして自信やサポートを求める可能性があるという現実、そして子供たちをターゲットにする悪い人がいるためにその関係は虐待的なものになるという現実…それは恐ろしいことです」と述べた。子どもたちを性的虐待から守るためのテクノロジーを構築する非営利団体、Thorn の研究および洞察担当副社長、メリッサ・ストローベル氏は次のように述べています。

精神的サポートプラットフォームと未成年者に対するそのプラットフォームに内在するリスク

2013 年に設立された 7 Cups は、最初のオンライン感情サポートプラットフォームの 1 つです。これらのプラットフォームは通常、人々が自分の心配、ストレス、課題について「リスナー」に匿名でメッセージを送信できるスペースとして設計されています。

新型コロナウイルス感染症のパンデミックの隔離と、孤独の流行、ビジネスモデルとしてのデジタルピアサポートの概念を強化しました。 Wisdo Health、Circles、HearMe などの 7 Cups の競合企業は、全国的にメンタルヘルス専門家が不足しており、手頃な価格の治療法を見つけるのが難しいことを考えると、自社のサービスは重要なツールであると主張しています。

ベンチャーキャピタル企業と投資家は、このモデルに期待を抱いています。これらの企業による報道や資金調達の発表によると、過去数年間で、ほとんど規制されていないスタートアップ分野に4000万ドル以上を注ぎ込んだという。

2013年、モリアーティ氏はシリコンバレーの有名なスタートアップインキュベーターであるYコンビネーターにセブンカップスのアイデアを売り込むことに成功し、同社は現在も同社の7パーセントを所有していると述べた。モリアーティ氏は、デジタル学習会社 Edvance360 の CEO を長年務めています。

昨年、米国軍総司令官のオフィスが含まれる社会的つながりを改善するためのリソースのリストに Wisdo Health が含まれており、権力ブローカーがこのモデルを真剣に受け止めていることの明らかな兆候です。

しかし、セブンカップと感情サポートプラットフォームの新興市場に関する調査は、業界とその支援者が明らかにしているよりもはるかに多くのリスクがあることを示唆しています。これらのリスクは文書化されています容疑者によるオンライン、匿名の場合が多い、関係するユーザーただし、このレポートは、一般に公開されている 7 つのカップに関する最も包括的な説明を構成しています。

Mashableは、7 Cupsの実践と安全プロトコルについて現在および過去の深い知識を持つ6人の情報源にインタビューしました。プラットフォームのポリシーを見直した。他のプラットフォームのリスナーやユーザーと話をしました。また、他の感情サポートプラットフォームの CEO と安全性に関する懸念について話し合いました。Mashableはセブンカップが負けた理由も調査した2019年にカリフォルニア州の政府機関と有利な契約を結んだが、安全性の問題が要因であることが判明した。
セブン・カップスでの経験について語った関係者らは、同社が署名を求めた機密保持契約に違反するのではないかとの懸念から匿名を希望した。
マッシャブルは、セブン・カップスの現スタッフと元セブン・カップスの高レベルのスタッフ数名が、セブン・カップスにおける未成年者と成人の安全について長い間懸念を抱いていたことを発見した。
このプラットフォームは、悪意のある者や捕食者を寄せ付けない戦略を採用していますが、セキュリティ対策を回避する方法を見つけた人もいます。モリアーティ氏はマッシャブルに対し、「悪意を持つ人々との戦いは軍拡競争だ。彼らの先を行くには継続的に革新しなければならない」と語った。
7 Cups は、チャットルームの司会やグループサポートセッションの進行などの重要な機能をボランティアに依存しており、10 代の若者が会社のプロジェクトにボランティアとして参加することが許可されています。
義務的なトレーニングを受けているボランティアのリスナーは、不快な性的コンテンツや攻撃的またはいじめ的なメッセージにさらされることがあります。同様の行為が公開フォーラムで表面化することがあります。たとえば、ユーザーはいじめっ子や荒らしに自殺するように言われました。どちらのシナリオでも、7 Cups は言語検出を使用して、別のユーザーがそのような音声を読む前にブロックしようとします。
7 Cups のようなプラットフォームはピアツーピアのアプローチを採用しているため、必ずしも米国食品医薬品局による規制や連邦取引委員会による執行の対象ではありません。また、これらのサービスに関して医療保険の相互運用性と責任に関する法律に準拠する必要もありません。

セブンカップではこうしたリスクが顕著ですが、Mashable のレポートによると、業界は同じ懸念の多くに公然と対処したり解決したりしていない。

「これほどの危害が人々に起こっていると、本当に抑制と均衡の公的システムが必要だと考えさせられる」と、ベス・イスラエル・ディーコネス・メディカル・センターのデジタル精神科部長で精神科医のジョン・トーラス博士は語る。ボストン。

テキサス州の十代の少女の両親が彼女のやりとりを発見し、警察に通報したところ、スミスさんが露骨な性的画像を要求し、4枚を受け取ったことが確認された。スミス氏の逮捕は、最初に報告されたのは、ピッツバーグトリビューン - レビューマッシャブルはスミスの公開されている法廷記録を調査し、スミスを起訴したバトラー郡地方検事補ロバート・M・ザネラ・ジュニアに事件の詳細を確認した。

2019年4月、スミスは未成年者を汚職した1件の罪と、児童に児童性的虐待資料の作成を強要した4件の罪を認めた。ザネラ氏によると、同氏はフェイスブックメッセンジャーで成人女性の幼い娘についての空想を共有し、仮釈放違反を犯し昨年刑務所に戻ったという。女性はこうしたやりとりを連邦捜査局に報告した。

スミス氏の事件は、捕食者が自らの凶悪な目的に合わせてデジタル技術を武器化したもう一つの例として特徴づけられる人もいるかもしれない。しかし、感情的サポートのスタートアップは、ゲームやソーシャルメディアプラットフォームなどの他のタイプのテクノロジー企業とは異なります。なぜなら、彼らは、さまざまな動機や意図を持っている可能性のある見知らぬ人に支援を求めるように弱い立場にある人々を特に招待しているからです。スミスの犯罪は、こうしたやりとりがいかに予想外の危険を伴う可能性があるかを明らかにしている。

7 カップのお茶: オンラインで無料で人々と話す

によると、もともと「7杯のお茶」と呼ばれていたアイデアは、心理学者で創設者のグレン・モリアーティのキッチンテーブルから始まったという。 探求する魂のための7杯、2016年に共著で自費出版した本。

モリアーティは妻に目を向けた。セラピストとして説明される、ビジネス上の問題について指導していただき、「親身になって聞いてくれた」ことに感謝しました。このやりとりはモリアーティにとって啓示だった。

「彼女の配慮のおかげで、私は問題を別の観点から見ることができ、解決することができました。この時点で雲が切れ、太陽が輝き、私は待ち望んでいた洞察力を得ました」と彼は書いている。探求する魂のための7杯。「必要なときにいつでも、あなたの話を聞いて問題を気にかけてくれる人にアクセスできたらどうなるでしょうか?」

モリアーティは壇上の最初の聞き手であり、彼の妻は二番目の聞き手だった。彼は当初から、宣伝していたサービスを提供してくれる人を見つけるのに苦労しました。「十分なリスナーを獲得することは決してできませんでした」とモリアーティ氏はTwitchの共同創設者ジャスティン・カン氏にこう語った。2020年のポッドキャストインタビュー。

同社は常にボランティアに依存して運営してきました。

「私たちは最初からボランティアを重視して意図的にプラットフォームを設計しました。それが精神的なサポートを拡大する唯一の方法の1つであると思われるからです」とモリアーティ氏はMashableに語った。

セブンカップズは重要な役割を果たすためにほとんど訓練を受けていない無給のボランティアに依存している

7 Cups のボランティアリスナーは、次のような独立した標準化されたガイドラインに拘束されません。ピアサポーターのための全国実践ガイドラインただし、自発的に話を聞く場合は、「アクティブリスニング」コースを完了する必要があります。彼らは、セブンカップが作成した追加のコースを受講したり、スタッフによって強力なリーダーシップスキルを実証したと認められたボランティアのメンターに相談したりすることができます。

モリアーティ氏は同社のスタッフを「信じられないほどスリム」だと評した。このプラットフォームのリスナーのうち、1,500人はモリアーティ氏が言うところの「リーダーシップの役割」を担っている。これは、サポートを求めているメンバーからのチャットを受け入れるだけでなく、他のリスナーにガイダンスを提供したり、場合によっては難しいチャットの処理を手助けしたり、スタッフによるレビューが必要なコンテンツについてフォーラムの投稿を監視したりするなどのタスクにボランティアで時間を費やしていることを意味します。

セブンカップで活動しボランティア活動をした関係者によると、数十人のボランティアが主要プロジェクトを主導し、自動安全ツールによって生成されるユーザーの安全性レポートや苦情の評価などの重要な任務を遂行しているという。公的には無いよプラットフォームのユーザーに知られている、信頼と安全の責任者として指定されています。モリアーティ氏はMashableに対し、「信頼と安全は1人に任せるものではなく、むしろチーム全体に分散されるものだ」と語った。

ボランティアの募集や無給の役割に関わる日常業務に詳しい関係者らによると、必要な訓練はほとんどないものの、期待は大きいという。

「お金も、保護も、何も得られません」と、長年ボランティアを続けている元ボランティアの一人は、体験を語るために匿名を希望して語った。「彼らは、あなたからできるだけ多くのものを、できるだけ長く望んでいることを非常に明確にしています。」

このプラットフォームにボランティアとして参加した人々は、Mashable に対し、その定められた目的を信じており、困っている人に思いやりを示すことで大きな満足を得たと語った。モリアーティ氏は、フォーラムに投稿されたコメントを含むユーザーからのメモは、このサービスがどれほどユーザーを助け、さらには「救った」かを強調していると述べた。

Mashable のトップストーリー

セブンカップの新規ユーザーにとって、癒しのつながりの約束は強力です。しかし、プラットフォーム上で起こっていることの現実ははるかに複雑です。

7 カップでは匿名性が 10 代の安全を損なう可能性があります

モリアーティ氏は、ユーザー間の信頼を築くためのツールとして匿名性を擁護しており、これは競合する感情サポートプラットフォームでは一般的な慣行です。理想的には、匿名のペルソナを使用すると、共有された情報が公的に自分たちに対して利用される可能性を心配することなく、人々が自由にお互いをサポートできるようになります。ユーザーが自分の本当のアイデンティティを共有しない限り、誰と話しているのか誰も知りません。

しかし、匿名性が裏目に出ることもあります。セブン・カップスでは、十代の若者たちの身元を確認できなかったために、スミスが成人の捕食者として検出されずに済んだのである。

Mashableに話を聞いた情報筋の何人かは、同プラットフォームの10代の安全上の問題について不満と苦痛を感じていると語った。同社で傾聴者、ボランティア、職歴のある2人の情報筋は、成人リスナーが10代のメンバーを食い物にしており、10代の若者がそのような行為を認識し懸念しているという主張を実証するために、プラットフォームのユーザー間のやりとりのMashableスクリーンショットを示した。このプラットフォームは匿名であるため、Mashable はこれらのアカウントの詳細を被害者とされる人々に直接確認することができませんでした。

セブン・カップスについて同様の知識を持つ他の4人の情報筋は、十代の若者の安全に関する懸念については知っていたと述べた。

モリアーティ氏は、十代の若者に対する略奪的行為に対する懸念の主張は「不正確」だと述べた。同氏は、同社が設立以来、法執行機関からの要請を受けて応じたのはわずか10件に過ぎないとし、その数は他のソーシャルプラットフォームに比べて少ないと主張した。

しかし、オンラインでの児童搾取の専門家らは、法執行機関が捜査する事件の数は、略奪的行為の実際の発生率に比べれば小さく見えてしまう可能性があると述べている。その理由の一つは、未成年者がそれを報告することに抵抗を感じる可能性があるためである。

さらに、一部のオンラインの略奪者は、児童への性的虐待やその他の種類のトラウマ的なコンテンツを作成するために操作できると信じている、感情的に弱い未成年者を探し出します。アン2023 年 9 月に FBI が警告彼らは、精神的健康上の問題に苦しんでいる8歳から17歳の若者をターゲットにすることが知られている、そのような捕食者のグループの1つを特定しました。このグループが 7 Cups の 10 代のコミュニティに侵入したという証拠はありません。

競合他社と比較して、7 Cups は未成年者を積極的に歓迎している点で独特です。でカリフォルニア州精神保健当局への2018年のプレゼンテーション, モリアーティ氏は、プラットフォームの最大の人口構成は18歳から25歳で、次に若い10代が続くと述べた。

10 代の若者がメンバーとして参加するには 13 歳以上、リスナーとしてボランティアとして参加するには 15 歳以上である必要があります。十代の若者がリスナーとチャットしようとする場合、ランダムに誰かとペアになり、十代のリスナーか成人と十代のリスナーのどちらかを選択することはできません。あるいは、リスナーディレクトリを参照してユーザーにリクエストを行うこともできます。リスナーのプロフィールには、彼らが 10 代の若者とのみチャットしているのか、または 10 代と大人とチャットしているのかが示されます。これは、リスナーが 7 Cups によって精査された成人であることを意味します。

モリアーティ氏は、ディレクトリ経由で個人的なリクエストではなく一般的なリクエストをし、成人の十代のリスナーとペアになっている十代の若者については、ユーザー名に従ってその人が成人であることを示すべきだと述べた。 Mashable が 10 代のチャット機能をテストしたとき、成人と 10 代のリスナーにはその情報が欠落していましたが、モリアーティ氏はこれはバグであり、すぐに修正されるだろうと述べました。また、10代の若者は、自分のアイコンの上にマウスを移動するか、チャットからクリックしてチャットから戻り、リスナーのプロフィールページを表示することで、リスナーが成人かどうかを判断することもできます。このページには、特定の年齢が含まれている場合と含まれていない場合があります。

関連事件に詳しい関係者によると、未成年者は18歳になるとプラットフォームの成人側に参加したり成人側に年齢を重ねたりできるようになるが、その節目前に生年月日を偽って成人用アカウントを作成して登録する人もいるという。

「ある意味、セブン・カップスにとって世界で最も簡単なことは、いつでも『ティーンズはやめよう』と言うことであっただろう」と、以前同社で働いていた関係者の一人は語った。十代の若者たちを有意義な精神的サポートに結び付けることは本物でした。

「42歳が15歳のふりをできるのであれば、10代の若者の身元を十分に精査していないことは明らかだ」とその人物は語った。

ソーンが実施した研究匿名性がリスクテイクの増加に寄与する可能性があることを示しています。匿名のペルソナは、オンラインでは行わない方法で他の人と交流するよう若者を勇気づけるかもしれません。

2022年の報告書によると、若者や十代の若者を虐待しようとする犯罪者にとって、それは若者ユーザーを孤立させ、犠牲にし、「偽りの関係を築く」機会を生み出す可能性があるオンライングルーミングに関するThornレポート、9歳から17歳までの1,200人の子供と十代の若者たちを調査しました。

回答者の 7 人に 1 人は、これまで誰にも話したことのないことをバーチャルコンタクトに話したことがあると答えましたが、その可能性は若者が見知らぬ人に対して脆弱になる 7 Cups のような精神的サポートプラットフォームでははるかに可能性が高くなります。

ソーンの報告書は、「残念なことに、悪意のある人物が未成年者を手入れし、搾取し、恐喝するためにこれと同じ情報をターゲットにしている」と指摘している。

最近、7 Cups の 10 代のコミュニティのメンバーが、プラットフォーム上での略奪的な行為に対する意識を高め、それに遭遇した場合にはどうすればよいかを指導者に求め、この意見はグループサポートチャットルームでも反響がありました。モリアーティ氏は、コミュニティマネージャーがセブンカップスの安全情報と隔週の安全性インターネットディスカッションを紹介したと述べた。

セブンカップでのボランティアの広範な利用は、十代の若者たちにとって明確な安全上の課題ももたらしています。

セブンカップスの一部関係者は、十代のボランティアから、大人のボランティアとコミュニケーションをとる際に危険を感じたと直接聞いたと述べたが、モリアーティ氏はそれを立証する方法がないと述べた。ユーザーはいかなる状況であっても一緒にサイト外に出ないよう指導されているが、ボランティアは有給スタッフによる専任の監督なしでGoogle ChatとMeetを介して対応していると彼らは指摘した。モリアーティ氏はMashableに対し、ボランティアリーダーが他のボランティアリーダーと「協力」するためにGoogleのコミュニケーションツールを使用する可能性があることを認めた。

過去の事件に基づいて、現在および過去のスタッフやボランティアは、そのような状況では十代の若者たちが搾取や身だしなみの対象となる可能性があることを懸念し続けています。

安全プロトコルは十分に進んでいない

一般的にモリアーティ氏は、セブン・カップスには匿名の悪者や略奪者が未成年者と接触しないように設計された安全プロトコルがあると語ったが、複数の過去および現在のスタッフメンバーやボランティアは、それらの慣行が十分に堅牢ではないことを懸念しているとマッシャブルに語った。

このプラットフォームには 87 人の成人から 10 代のリスナーがおり、そのほとんどがスタッフまたは高レベルのボランティアです。これらのリスナーのうち、セブンカップスと他に関係がないのは 12 人だけです。

年齢について嘘をつかずに大人としてティーンコミュニティにアクセスするには、リスナーはプラットフォームでの豊富な経験、良いレビュー、そしてセブンカップズが言うところの身元調査が必要です。

このプロセスには、州発行の身分証明書を会社に提出することと、プラットフォームのモデレーターとのビデオ会話が含まれます。さらに、セブンカップスのスタッフは、性的暴行などの犯罪行為に関連して申請者の名前が報道されたかどうかをインターネットで検索し、性犯罪者の全国データベースにその名前が登録されているかどうかを確認する場合があります。

モリアーティ氏は、すべての応募者はそのような研究を専門とする企業による身元調査に合格する必要があると述べたが、そのプロセスに詳しい関係者らは、必ずしもそうではなかったと述べている。その代わり、同社は以前はグーグルやソーシャルメディアなどの無料リソースを利用して応募者の個人情報をチェックしていたという。

現在、7 Cups には、アルゴリズム評価技術を使用するなど、身分証明書が改ざんまたは偽造されたものではなく本物であることを検証するための厳格な基準がありません。モリアーティ氏は、同社は高度な身分証明書検証の使用を検討していると述べた。

また、同社には、安全性報告フォームを通じて懸念事項を報告するようスタッフとユーザーに指示すること以外に、プラットフォーム上で発生する未成年者が関与する潜在的な犯罪行為に関わる苦情の処理方法に関する明確な指示もありません。各チャットの上部に固定されたメッセージは、危険を感じたユーザーに次のサイトにアクセスするよう指示します。プラットフォームの「安全性とレポート」ページ、ブロック、レポート、ミュートツールの使用を推奨しています。青少年の安全に関する短いセクションでは、未成年者が危険を感じた場合は親または保護者に相談するよう促しています。

プラットフォームの現在の慣行に詳しい情報筋の1人はMashableに対し、こうした報告を法執行機関にエスカレーションするかどうか、またその方法についてスタッフの研修が広範に行われていなかったと語った。大人が子供に連絡しようとした場合、セブンカップスは未成年の親に通知するのかどうかをMashableが尋ねたところ、モリアーティ氏はそれは良いアイデアだとし、プラットフォームが間もなくこのプロトコルを実装すると述べた。

成人と十代のリスナーも務めた元高レベルのセブンカップスのボランティアは、プラットフォームの複数の十代のメンバーが成人リスナーとの不快なやりとりにどう対処するかについて質問をしてきたと語った。多くの場合、少年は大人の行動に何かがおかしいと感じましたが、具体的な危険信号や犯罪を特定するのに苦労しました。

「あなたに共感し、あなたの話を聞いてくれて、最終的にはあなたを手に入れることができると思う人がいるとき...あなたはこの強い絆を築いているのに、彼らは次のようなことを言います、誰にも分からない、あなたは彼らを失望させたくない、または壊したくない。その絆を失うか、その関係を失うと、誰かが襲いかかる」と元ボランティアはMashableに語った。

Mashableがモリアーティ氏にコメントを求めるまで、プラットフォームは更新されていなかった。青少年の安全に関するウェブページ同氏は、同社はまた、望ましくない行為や虐待的な行為の報告に関する情報をどこにどのように提示するかを見直し、その指示をよりアクセスしやすくしていると述べた。

国立行方不明・搾取児童センターの搾取児童部門のエグゼクティブディレクター、ローレン・コフレン氏は、安全対策はインターネット上のプラットフォームごとに大きく異なると述べた。そのため、未成年者やその保護者にとって、どのポリシーが自分たちの安全を最も守ってくれるのかを理解することが困難になっています。それは捕食者にとっても有利になる可能性があります。

「こうした違いを利用したり、報告メカニズムや安全機能やツールの欠如を利用したりしたい人は、必ずその方法を見つけることができるでしょう」とコフラン氏は付け加えた。

7 カップで誰かが危害を加えられた場合はどうなりますか

簡単に言えば、7 Cups のようなプラットフォームを規制する専門の連邦機関は存在しません。

同社の精神的サポート製品は、灰色の規制領域に分類されます。そして、モリアーティ氏は著書の中で、このプラットフォームのピアベースの介入を「薬」と表現しました。ジャスティン・カンのインタビュー、これらのやり取りは、認可を受けた臨床医によって提供されるものではなく、厳格な独立したテストや基準に準拠するものでもありません。

食品医薬品局も連邦取引委員会もセブンカップ自体については特にコメントしない。代わりに、両機関はMashableに規制ガイドラインを指摘した。 FDAは、ソフトウェアが症状の治療を目的としたモバイルアプリを規制する可能性があるが、それは精神的サポートには適用されない。 FTCは、健康強調表示やマーケティング慣行が欺瞞的であるとの疑いがある場合、それらに関連する法律を執行する可能性がある。

このため、消費者は、自分や自分の子供がプラットフォーム上で被害を受けた場合、誰に相談すればよいのか疑問に思うかもしれません。

最近まで、この法律にも大きな希望はありませんでした。従来、7 Cups は、ユーザーがプラットフォーム上で悪意のある行為者に遭遇したときにユーザーに与えられた危害については責任を負わないと考えられていたかもしれません。これまで裁判所は、1996年に可決された通信品位法第230条として知られる連邦法を引用して、このような訴訟を却下するのが通例であった。

法律では、オンラインプラットフォームは、顧客やユーザーが行った否定的な行為がプラットフォーム上で発生したという理由だけで責任を負うことはできないと規定されています。著作権侵害、違法行為、児童虐待、性的人身売買など、いくつかの例外があります。第 230 条の保護は、その会社が他人のコンテンツの発行者としての役割のみで訴えられるかどうかにかかっています。一部の裁判所は、これを広義に解釈して、プラットフォームのコンテンツに基づいて企業の顧客が損害を被った場合にプラットフォームに責任を免除するものと解釈している。

しかし、テクノロジー企業が約 30 年間にわたってこの条項を認識し、依存してきた第 230 条は変わりつつあるかもしれません。でオンラインでの児童の性的搾取に関する上院公聴会1月のハイテク企業のトップ幹部らを特集した集会では、主要な上院議員らが法の改正を求めた。

裁判所はまた、特定のプラットフォームに対する最近の訴訟の進行を許可し、第230条に基づく原告の免責請求の一部を棄却した。

重要な訴訟の 1 つは、YouTube、TikTok、Instagram を含む大手ソーシャルメディア企業に対する全国規模の訴訟であり、プラットフォームの使用によって被害を受けたとされる若者に代わって起こされました。昨年の11月、裁判官は重要な側面があると判決した企業が第230条によって保護されていると主張したにもかかわらず、訴訟が進む可能性がある。

その代わり、裁判官は原告側が、プラットフォームの製品設計の選択が、ユーザーが公開したコンテンツとは何の関係もない損害をもたらしたと主張していると認定した。たとえば、裁判官は、ユーザーの年齢を判断するための堅牢な検証プロセス、効果的なペアレンタルコントロールと通知、使用期間と頻度の「オプトイン」保護制限を実装していないことは、企業が潜在的に発生する可能性のある製品設計上の欠陥であるとの判決を下した。責任を問われます。

原告側代理人会社シーガー・ワイスのジェニファー・スカリオン氏はメールでMashableに対し、すべての企業は「予見可能な損害を回避する方法で事業を運営する責任がある」と語った。

スカリオン氏は、感情サポートプラットフォームには大手ソーシャルメディア企業に対する訴訟とは異なる一連の事実と分析が含まれるが、「本当の分かれ目は、害がコンテンツそのものから来るのか、それともプラットフォームの設計方法について企業が行う選択からくるのかである」と述べた。そして、プラットフォーム使用の合理的に予見可能な、または既知のリスクについてどのような警告を発するか。」

チャットプラットフォームを強制した訴訟Omegleはシャットダウンする昨年もセブンカップのレッスンが開催されるかもしれません。この事件では、弁護士のキャリー・ゴールドバーグ氏が、11歳のときにOmegleによって児童性的虐待の加害者とチャットするようにペアになっていた10代の少女を代表して同社を訴えた。彼はその後3年間彼女を搾取し、自分や他の人たちのために児童性的虐待の材料にするよう強制した。

この訴訟も、Omegle が第 230 条を引用して責任を逃れようとしたにもかかわらず、前進した。裁判官は、Omegle が製品設計の欠陥や過失に対して責任を負う可能性があると判断した。オメグル氏は訴訟で和解した。

ゴールドバーグ氏は、Mashableと話すまでセブン・カップスのことを知らなかったが、ユーザー、特に未成年者が経験した損害について同社を告訴しようとするかどうかは、その苦痛が他のユーザーがサイト上で公開したコンテンツによって引き起こされたものであるかどうかによって決まるだろうと述べた。プラットフォームまたは製品自体の設計によって異なります。

ゴールドバーグ氏は、子どもを含む弱い立場にある人々を悪者と照合するセブン・カップスの能力について懸念を表明し、そのような情報は彼らを操作したり悪用したりするために簡単に使用される可能性があると指摘した。

「これは、人々が自分の人生の非常に親密な詳細を明らかにするように仕向ける製品です」と彼女は言いました。

あなたがオンラインで性的搾取を受けている子どもである場合、またはオンラインで性的搾取を受けている子どもを知っている場合、あるいはオンラインで子どもの搾取が行われているのを目撃した場合は、それを警察に報告することができます。サイバーティップラインによって運営されています。行方不明の搾取された子どもたちのための国立センター。