カリフォルニア州はメンタルヘルスアプリにアクセスするために数百万ドルを支払った。ユーザーにとって安全ではありませんでした。

2019年の晩春の日、当時ロサンゼルス郡精神保健局の副局長だったミミ・マルティネス・マッケイは、現在Xとして知られるプラットフォームであるTwitter上のユーザーが、憂慮すべき主張をする投稿で郡をタグ付けしていることに気づいた。人気の感情サポート プラットフォームである 7 Cups の安全性について。

ウェブサイトとアプリの両方として運営されている 7 Cups は、10 代の若者と大人をオンラインで無料で誰かと話すよう招待します。ユーザーは精神的なサポートを与えたり受け取ったりしますが、セラピストのように振る舞うことは控えられています。

その前年、郡は革新的なテクノロジーを利用してカリフォルニア州の住民と人々を結びつけることを目的とした、テックスイートとして知られる5年間の1億100万ドルの取り組みの一環として、住民にセブンカップへのアクセスを提供することに同意していた。メンタルヘルスヘルプ。これらの成人の中には、地元の精神保健部門の顧客であり、行動上の健康に関する複雑なニーズを抱えており、非常に脆弱な状態にあった人もいました。彼らは重度の精神疾患を抱えて暮らしており、ホームレス、薬物乱用、家庭内暴力を経験した可能性がある。

7 Cups について主張している Twitter/X ユーザーは、プラットフォームの 10 代のコミュニティに属しており、両方のプラットフォームで偽名を使用していました。このユーザーは、同じくプラットフォーム上にいた10代の友人が操作されて、児童性的虐待のコンテンツや素材を米国外の成人ユーザーと共有させられたと主張した。同省のTwitter/Xアカウントを管理していたと述べたマッケイさんは、その主張に愕然とした。

このストーリーは、感情サポート プラットフォーム 7 Cups と成長するアプリとプラットフォームの市場それは、思いやりのある聞き手となるべき人と人々を結びつけることです。このシリーズでは、カリフォルニア州間の失敗した実験そして7カップ、また、オンラインで見知らぬ人に精神的なサポートを求めることには無数のリスクがあります。これらの危険には次のものが含まれます。弱い立場にある若者を操作するそして標的を絞った虐待と嫌がらせ。このシリーズには、その理由の分析も含まれていますオンラインでの児童搾取を止めるのは難しい、プラットフォームをより安全にするためのソリューションを検討します。

この取り組みについて複数の公開評価報告書が書かれているにもかかわらず、次に何が起こったのかは、この取り組みを担当するカリフォルニア州当局によって公に詳述されることはなかった。事件に詳しい情報筋によると、ロサンゼルス郡での事件は、数カ月後にセブン・カップスと州との契約が突然打ち切られる要因となったという。セブン・カップスの契約終了までに、同社は推定670万ドルを受け取った。

一部の州住民にプラットフォームへのアクセスを提供するためにセブンカップスと契約したカリフォルニア州精神保健サービス局（CalMHSA）は声明でMashableに対し、「初期段階の後、サービス、ツール、プロセスは次のとおりであると判断された」と述べた。 7 Cups が使用したものは、プロジェクトの対象者のニーズを満たしていませんでした。」

実際、CalMHSAは、CEOのグレン・モリアーティが契約解除に異議を唱えた後、最終的にセブン・カップスと和解に達した。 Mashableが公記録法を通じて取得したこの和解案には、いずれの当事者も和解案の存在、条件、条項を開示することを禁じる機密保持条項が含まれていた。この条項には、適用される法律、規則、規制、または公記録法のような政府機関の方針に準拠するために開示が必要な場合など、いくつかの例外がありました。

和解の一環として、セブンカップスは代理店に対する「財務上の義務」を果たすためにCalMHSAに46万382ドルを支払い、CalMHSAは「対価」として同社に30万9277ドルを支払った。

和解合意ではセブン・カップスの契約終了の理由は特定されていなかったが、マッシャブルが実施した調査では、荒らし行為や、歓迎されない性的・露骨な言葉遣いを含む不適切なコメント、さらには児童性的虐待に関する非治療的な議論に関する重大な懸念が判明した。プラットフォーム。

マッシャブルが調査した2018年7月の無関係な刑事事件では、ペンシルベニア州バトラー、アンソニー・ジョセフ・スミスという名の42歳の男が、15歳の少年を装ってセブン・カップスのティーンコミュニティにアクセスした。彼は 14 歳のユーザーに会い、彼女に自分自身の児童性的虐待の内容を送信するよう強要した。彼女の両親は彼らのコミュニケーションを知り、当局に通報した。スミス氏は2019年に投獄されたが、カリフォルニア州当局は犯罪行為が行われる前にセブン・カップスとの契約を締結しており、事件については何も知らなかったようだ。

それでも、カリフォルニア大学アーバイン校は、Tech Suite の評価のために CalMHSA から資金提供を受けました。同社の公開報告書では、セブンカップスに関連する安全性の問題についてはほとんど言及しておらず、なぜ同社が契約を失ったのかについても説明していない。カリフォルニア大学アーバイン校医学部の主任研究者兼教授であるダラ・ソーキン博士は、Mashableから送られた事実確認のレビューやTech Suiteに関する質問への回答を拒否した。 CalMHSAは、カリフォルニア大学アーバイン校の研究者らが安全性に関する詳細な懸念を公開報告書に記載することを禁止したかどうかについてはコメントを避けたが、和解の機密保持契約により、研究者らが安全性に関する懸念に言及することが事実上禁止された可能性がある。

カリフォルニアに本拠を置く憲法修正第1条連合の法務ディレクターであるデビッド・ロイ氏は、マッシャブルの和解案を検討した。オープンな政府訴訟の専門家であるロイ氏は、CalMHSAが公文書の請求に応じてコピーを開示することを妨げるものではなかったため、CalMHSAが和解に秘密保持契約を含めたことで法律に違反したわけではないと指摘した。

しかし、ロイ氏によると、この条項は、そもそも存在を知らなかった文書の要求を国民に実質的に強制することにより、何が起こったのかを知り、当局の責任を問う国民の能力を損なったという。この条項には、CalMHSAが和解内容を開示する前にセブン・カップスに通知しなければならないという規定も含まれており、これによりセブン・カップスが文書の公開差し止めを求めて訴訟を起こすことが可能になる可能性がある。

ロイ氏は機密保持条項について「これは非常に悪いことだと思う」と述べた。 「政府機関がこのようなことをすることは決して許されるべきではないと思います。」

コロラド大学ヘレン＆アーサー・E・ジョンソンうつ病センターの副所長として行動健康における技術革新を研究している研究者、マット・ミシュカインド博士は、カリフォルニアのようなプロジェクトで問題点や否定的な結果を開示しないと、さらなるユーザーの増加につながる可能性があると述べた。消費者がプラットフォーム使用の潜在的なリスクについてまったく知らされていない場合、損害が発生します。ミシュカインド氏はMashableと話すまでTech Suiteに関与していなかったし、それに精通していなかった。

透明性の欠如はまた、学術界や業界が急速に成長するメンタルヘルス アプリ市場における重大な間違いから学ぶ機会を奪った。近年、Wisdo Health、HearMe、Circles など、数多くの感情サポート プラットフォームが立ち上げられています。

「公的資金が使われる場合、私たちが学んだことの一部は公共の利益になるはずですが、そうでない場合、なぜそうされないのでしょうか？」マッケイ氏はマッシャブルに語った。

ベンチャーキャピタルのファンドや投資家が、弱い立場にある人々に無料または手頃な価格で精神的サポートを提供するという崇高な意図を持って製品に数千万ドルを注ぎ込み、雇用主や保険会社がそれらを行動健康製品のポートフォリオに組み込もうとしている中、カリフォルニア州ではセブンカップの実験が行われている。ユーザーの安全に関する重大な疑問を引き起こします。

何が起こったのかを再現するために、Mashable は、定期的に公開されている会議の議題と議事録を調査しました。精神保健サービス監視・説明責任委員会、メンタルヘルス支出の数十億ドルを調査する機関。プロジェクトの四半期および年次評価レポート;非営利擁護団体である Cal Voices が 2019 年と 2020 年に提出した公文書請求を通じて入手した、この取り組みに関連する政府通信、請求書、内部文書と会議議事録。マッシャブルはまた、プロジェクトの実行に詳しい数人の人物にインタビューしたが、彼らは自分の経験を語る権限がなかったり、セブンカップスと機密保持契約を結んでいなかったりするため、匿名を希望した。同団体の事務局長スーザン・ギャラガー氏によると、公記録請求に応じてカル・ヴォイスが受け取った文書には和解内容は含まれていなかったという。

これまで詳細には報道されていなかったこれらの出来事は、メンタルヘルス提供システムにおける最も厄介な問題のいくつかを解決するために、規制されていないデジタル技術を活用することのリスクについて、さらに別の警鐘を鳴らしている。

「素晴らしい機会です」

Innovation Technology Suite Project (Tech Suite) は当初、7 Cups と、人工知能とデジタル バイオマーカーを使用して精神疾患の発症を予測することを目的とした、現在は廃止されているプラ​​ットフォームである Mindstrong という 2 つのアプリを特集していました。

両氏には、2002年から2015年まで国立精神衛生研究所（NIMH）の元所長だったトーマス・インセル博士という説得力のある強力な大使がついていた。彼はNIMHを辞め、アルファベットのプレシジョン・ヘルス会社であるVerilyに入社した。ある情報によれば、インセル氏はその後マインドストロング社の社長を務め、両社が契約を結んだ際にはセブン・カップスの諮問委員も務めたという。州が発行した2018年の報告書。

2017 年 2 月、当時 Verily でセブン カップスの諮問委員を務めていたインセル氏は、心のサポート会社に関する情報を含むプレゼンテーションを行った への公開会議でメンタルヘルスサービス監視・責任委員会。イノベーションプロジェクトなど、メンタルヘルス介入に充てられる納税者の資金の特定の流れを審査します。インセル氏はマッシャブルに対し、同委員会からイノベーションに関するプレゼンテーションをするよう誘われたこと、そしてアドバイザーになることに同意した以外はセブンカップに参加したことは一度もなかったと語った。当時、インセル氏の娘はセブン・カップス社の臨床イニシアチブ担当ディレクターとして雇用されていた。

イベントに参加した、またはイベントを知っていた関係者3人によると、数カ月後、委員会のメンバーはメンタルヘルス分野のイノベーションを探るため、Google-Verily本社で行われた終日の会議に参加した。

利害関係者が事前に資料を確認し、特定のメンタルヘルス プログラムや提案についてコメントする機会がある通常の委員会会議とは異なり、この招待者限定の集会はイノベーションに関する広範な議論に焦点を当てていました。ある参加者は、使用する可能性のあるアプリのプロトタイプを作成するために、「イノベーション インキュベーター」の小グループに分かれたことを思い出しました。

ロサンゼルス郡精神保健局は2017年10月までに、「仮想メンタルヘルスケアプラットフォームの経験を持つ1社以上のテクノロジー企業と協力する」複数郡イノベーションプロジェクトの提案を委員会に提出した。このプロジェクトの目標は、とりわけ、精神保健サービスへのアクセスを改善し、社会的つながりを高めることを目的としていました。の提案の説明この取り組みの計画は、Google-Verily での委員会の会合後の 6 月に開始されました。

州はすぐに提案要請を出しました。 2018 年春までに、7 Cups と Mindstrong の両方が、3 年間で 3,500 万ドルのプロジェクトの唯一の 2 ベンダーとして選ばれました。 (Tech Suite は最終的に名前変更されました)ヘルプ@ハンドさらに多くの郡が参加するにつれて予算は 1 億 100 万ドルに増加しました。)

この野心的な取り組みの資金は、高額所得者に課せられるいわゆる億万長者税から賄われた。 2004 年に有権者によって承認された提案 63 は、メンタルヘルスの予防活動と治療のための収入を生み出すことを目的としていました。提案 63 を通じて割り当てられる資金は、州の歳入に応じて年ごとに異なります。その34億ドルを調達すると推定される2023-24年度に。歴史的に、郡は収入の 5% を Tech Suite などのメンタルヘルスへの革新的なアプローチに費やすことが求められていました。一定期間が経過しても、各郡がイノベーション資金を使用しなかった場合、その資金は国庫に戻り、他の郡に分配されることになる。

3月、カリフォルニア州民は提案63ドルの使い方を徹底的に見直すことを目的とした提案を可決した。イノベーションに対する義務はなくなり、郡は支出が必要になります税収の 3 分の 2 は、住居を持たず精神疾患を抱えている人々のための住宅と 24 時間サービスに当てられます。

7 Cups が Tech Suite 契約を受け取ったとき、同社の創設者兼 CEO の Glen Morarty は次のように言いました。プラットフォームフォーラムでニュースを祝った同氏は、このプラットフォームが里親青少年、新米母親、高校生、聴覚障害者コミュニティのメンバー、およびすでにメンタルヘルスケアを受けている人々のサポートに焦点を当てていくと共有した。

「この提携で私が気に入っているのは、カリフォルニアのより多くの人々にリーチできるようになるだけでなく、このパートナーシップによってセブンカップに追加のリソースがもたらされるということです」と彼は書いている。 「これにより、7 Cups の Web サイトとアプリを改善し、バグをより迅速に修正し、新しいチームメンバーを雇用する素晴らしい機会が得られます。そうですね、[原文どおり] 世界中のすべての人により良い総合的なケアを提供できるようになります。」

セブンカップの衝撃的な安全問題

セブン・カップスはプロジェクトから打ち切られる前に、ロサンゼルス、オレンジ、カーン、モードックを含む人口の多い郡や田舎の郡に住むカリフォルニア州民が、思いやりのある聞き手であるはずの誰かとつながるのを支援するために、13か月で推定670万ドルを受け取った。 Cal Voicesが公的記録請求を通じて入手した文書から財務データを分析した結果によると、理想的には、このサービスは人々、特に地方の住民の孤立感を軽減し、精神的健康と感情的な幸福を改善するのに役立ちます。

しかし、プロジェクトが進行するにつれて起こったことは、はるかに複雑で、厄介なものでした。

ロサンゼルス郡精神保健局のミミ・マルティネス・マッケイ氏は、セブン・カップスの安全性に関する主張に関するツイートを見る前に、すでにこのプラットフォームについて独自に懸念を抱いていた。 今年初めにテストした後。

「7 Cupsのユーザーとしての私自身の経験では、人々がプロフェッショナルであるとは感じませんでした」とマッケイ氏はMashableに語った。

彼女も心配していました ロサンゼルス郡の住民は、セラピーなどのより正式な支援を受けることができる地域リソースのリストに簡単にアクセスできないことになります。

マッケイ氏はツイートを精査し、その中には成人のセブンカップユーザーが同プラットフォームの十代のユーザーを恋愛関係に誘導したという疑惑が含まれていた。

マッケイ氏はXユーザーと電子メールを交換し、「私たちはあなたが私たちに共有したこれらの懸念を非常に真剣に受け止めています」と述べた。 Mashable は通信文書を確認し、匿名ユーザーの身元を確認しました。

被害者として言及されているユーザーが匿名だったため、Mashable はツイートに示されたオンライングルーミングに関する具体的な主張を精査できなかった。しかし、7 Cups に対する別の Mashable の調査では、禁止されたユーザーがバーナー アカウントを使用してプラットフォームにすぐに戻ることができるなど、プラットフォームの安全性へのアプローチにおける重要な欠陥が特定されました。定期的に嫌がらせや虐待を受ける、複数の逸話レポートとともに成人ユーザーが未成年者を手入れしようとしていたのではないかという懸念。

マッケイさんは、カリフォルニア州精神保健サービス局（CalMHSA）でこの取り組みを監督する州当局者にこの主張を直接伝えたと信じている。彼女は、代理店がこの申し立てを真剣に受け止めたことを思い出した。 Cal Voices による公記録請求を通じて入手した州文書は、X の事件について CalMHSA に警告したというマッケイの説明を裏付けるものと思われる。

テック・スイートに関連する問題で同局が顧問を務めたサクラメント地域の法律事務所、マーフィー・キャンベル・アリストン・アンド・クイン（現クイン・コバルビアス）がカリフォルニアMHSAに提出した請求書には、事件の数日後に行われたセブン・カップスの安全性に関する議論に関連した容疑が示されている。匿名のツイートが投稿されていました。

2020年にロサンゼルス郡精神保健局から解雇されたマッケイ氏は、2022年に郡を相手取った不当解雇訴訟で和解した。マッケイ氏は、解雇の原因の一部は、Tech Suiteプロジェクトに関連するものを含む部門の慣行に疑問を呈したことにあると述べた。

カリフォルニア州当局が国民に語らなかったこと

CalMHSA またはその弁護士が Tech Suite と 7 Cups に関連する懸念を提起したのはこれが初めてではありませんでした。

問題は2018年末から2019年初めにかけて提起されていたが、状況は2019年4月にエスカレートした。記録請求を通じて入手した文書やプロセスに詳しい情報筋によると、参加郡のスタッフと請負業者のグループが7つのカップをテストしていたという。 。テスターは他のユーザーとメッセージをやり取りしたり、公開チャット ルームに参加したりしました。彼らの懸念を知る情報筋によると、これらのテスターの中には、遭遇した出来事に動揺している人もいたという。

テスターはハンドル名とプロフィール写真が不適切であることに気づきました。望まない性的なメッセージを受け取った人もいます。悪意のある者は、プラットフォームに参加している人々を名指しで罵倒したり、嘲笑したりしました。不適切な行為には性的フェチや家庭内暴力に関する記述が含まれていたとされる。あるテスターは、性的満足のために足の写真を交換するよう求められたと報告した。テスターの中には、性的な出会いのために直接会うことを要求するユーザーにメッセージを送った人もいた。 Mashable はこれらの懸念事項に関するドキュメントをレビューしました。

あるテスターは、児童性的虐待の仮想行為を生々しく詳細に説明したセブンカップユーザーとのメッセージを報告した。マッシャブルは、何が起こったのかに詳しい関係者にこの事件の詳細を確認した。

これらは、カリフォルニア大学アーバイン校が作成する四半期および年次の公開評価報告書にはほとんど記載されていません。これらの文書は、プロジェクトの進捗状況に関する唯一の完全な公的な説明を提供しました。

で四半期報告書2018年9月から2019年2月までをカバーしたこの調査では、研究者らはセブン・カップスに対し「リスナーをより注意深く精査する」よう簡潔に推奨した。評価者自身も、南軍の旗をシンボルとして使用したユーザーを文書化しましたが、リスナーの質が低い例として含まれている詳細はこれだけです。

カル・ヴォイス社の公記録請求を通じて入手したこのプロジェクトに関する郡報告書によると、カリフォルニア州中部のベーカーズフィールド市があるカーン郡は、2019年4月までにセブン・カップスの使用を中止した。

その報告書では、カーン郡はセブンカップズが地域社会に「ふさわしくない」と感じていると指摘している。同郡のメンタルヘルスの患者の中には、家庭内暴力、性的虐待、その他の種類のトラウマの過去を持つ人もいた。レポートでは、リスナーの「質」に関する懸念など、アプリに対する複数の不満が指摘されています。 「モデレートされていないチャット ルーム、モデレートされていないリスナー」;そして、リスナーにならないように「危険な人々をふるい落とす」ことの難しさ。さらに、郡はこれらの安全性の問題を解決せずにアプリを承認することを懸念していました。

カリフォルニア大学アーバイン校の研究者らはこの期間中、カーン郡当局者と定期的に連絡を取っていたが、独自の報告によると、これらの問題は四半期評価から除外されました。

2019 年 8 月に 7 Cups がプロジェクトから完全に終了したとき、その価値はただ 1 つだけでした。四半期報告書での一文の言及、表面化した憂慮すべき安全上の問題については何も認めていない。年次報告書の中で、2020年2月に出版された、カリフォルニア大学アーバイン校の研究者は、セブンカップスが州との契約を失った理由を再び省略しました。研究者らは安全性の懸念については詳細には触れなかった。

セブン・カップスの契約解除の要因に詳しい関係者らが匿名を条件にマッシャブルに語ったところによると、同社が特定の機能に対する郡の要求を迅速に実装できていないのではないかという懸念に加え、安全上の問題が重大であるとのことだ。

これらの情報筋の中には、郡レベルの職員を含むカリフォルニア州当局がテクノロジーやプラットフォームに対して素朴または非現実的な期待を抱いており、新しいアイデアを反復するのにどれくらいの時間がかかるかを理解していないと指摘する人もいた。同時に、郡当局者らはセブン・カップスが特定の種類の質の高いピアサポートを提供していると信じていたが、それがほとんど提供されていなかったことを知って不満を感じていたと、経験に詳しい関係者らは語った。

モリアーティ氏はメールでMashableに対し、郡のテスターが特定した安全性に関する懸念事項については知らされておらず、最終的に同社はプラットフォームに望ましい機能を組み込んだと述べた。

「私たちが思い描いていたような形で郡にサービスを提供できなかったことを残念に思っています」と彼は述べた。

精神保健サービス監視・説明責任委員会の委員を務めていた委員たちも、セブン・カップスがプロジェクトから突然外されたことに困惑していた。

2020年2月にサクラメントで開催されたTech Suiteの進捗状況に関する唯一の公開会議で、コミッショナーのイタイ・ダノビッチ博士は、プロジェクトを「高い基準」に保っていると述べ、それが「目標通り」であるかどうかを尋ねた。会議議事録によると。

「この質問に答える際の課題の1つは、このプロジェクトに関するすべてのプレゼンテーションが完全に異なっているということだ」とダノビッチ氏は議事録のコメント要約の中で述べた。 「セブンカップなど、過去のプレゼンテーションの重要な要素であったものが何の説明もなく消えてしまったものがいくつかあります。」

別の委員は会議の発表者に、セブン・カップスはもはやプロジェクトの一部ではないことを確認するよう求めた。この時点で、CalMHSAはセブンカップスとの和解に同意しており、機密保持契約に従うことになった。同委員会の事務局長トビー・ユーイング氏によると、同委員会は和解の当事者ではなかった。

当時、CalMHSAのプログラムディレクター兼広報担当者だったジェレミー・ウィルソン氏は、セブン・カップスがベンダーではないことを認めた。同氏は、「ピアチャット製品はこのプロジェクトにおける郡のニーズに適合しないと郡が判断した」と説明した。議事録によると。同氏はまた、同社がこの取り組みのための新製品を特定するために2019年9月に発行された第2回の提案要請に応募しないことを選択したことにも言及した。

このテーマを再検討しようとする支持者らの努力にもかかわらず、Tech Suiteは再び委員会の議題に上ることはなかった。ユーイング氏はマッシャブルに対し、委員会は「現時点では」テックスイートを議題に戻すことは検討しておらず、同委員会は学校のメンタルヘルスや自殺予防戦略の強化といった「差し迫ったニーズ」に焦点を当てていると語った。

Cal Voicesのエグゼクティブディレクターであるスーザン・ギャラガーは、委員会にこの取り組みを再検討するよう求めた支持者の1人である。同氏はMashableに対し、Cal Voicesやその他の利害関係者グループは、安全性、プライバシー、消費者にとっての有用性などの問題に関して、同委員会に対してTech Suiteに対する懸念を長年にわたって提起していたと語った。この非営利団体は 2019 年に Tech Suite に関する最初の公的記録要求を行い、2020 年には追加の文書を入手するために 2 回の要求を提出しました。

2022年1月に委員会に宛てた書簡の中で、ギャラガー氏は同委員会に対し、この取り組みの「成果と予算を真剣に評価する」よう促した。 Mashableと話すまで、ギャラガー氏はテスターが7カップを使用した後に浮上したより深刻な安全上の懸念について知らなかった。

「私にとってはそれほど驚くべきことではありませんが、私たちが助けるべき立場にある弱い立場の人々に同じようなことが起こっていたかもしれないと思うと非常にショックです」と彼女は語った。

マット・ミシュカインド博士はMashableに対し、セブン・カップスに関する懸念を完全に開示できなかったことにより、消費者が同プラットフォームやその他の同様のプラットフォーム（現在はいくつかある）上でより適切に情報を入手し、危害から身を守る機会を奪われたと語った。

ミシュカインド氏は、州当局者には国民に情報を提供する倫理的義務があると付け加えた。

「納税者の税金で費用が支払われるのであれば、そこには透明性があるべきだと思う。人々は、何か、特にかなり大きなものがなぜうまくいかなかったのか、そしてそれに対する推奨事項や解決策が何なのかを知る必要がある」とミシュカインド氏は語った。 「そういうことだと思うよすべき仕事。それがどのように機能するのかを言うのは私がとても世間知らずであることを私は知りません。」

7カップで何が起こったのか

モリアーティ氏は2019年に郡指導部に提出した非公開報告書の中で、同社が安全性の懸念に対処する必要があることを認めた。同氏は、人間による不適切なコンテンツの報告や検閲を引き起こすキーワードのリストを使用する「事後的なアプローチ」から、「はるかに高度な監視」への移行について説明した。同社は、「ゲスト」ユーザーと「未認証」ユーザー、つまりサービスへのサインアップに電子メール アドレスを使用せずにアカウントを作成したユーザーのアクセスを制限しました。

セブンカップスはまた、「望ましくない方法」での行動に関連する行動を検出し、制裁するために、「信頼スコアリング」と組み合わせて「疑惑スコアリングメカニズム」の使用を開始しました。

「私たちは現在、人々が助けを得るのを非常に困難にしつつ、安全性を高めるという緊張関係のバランスをとるために実験を続けています」と彼は書いている。

Mashable の最近の7 カップに関するレポートは次のことを示していますその一部の同じ問題がプラットフォームを悩ませ続けています。トローリング行為を行ったユーザーは、禁止された後でもプラットフォームにアクセスできます。同プラットフォームにおける現在の安全問題に詳しい関係者によると、昨夏、そのようなユーザーの一人が一部のメンバーに自殺するよう指示したという。

モリアーティ氏はマッシャブルに対し、同社は安全対策を「継続的に」改善しており、セブン・カップスの契約が終了した5年前よりも関連する課題は減ったと語った。

2019年の報告書におけるモリアーティ氏の口調は楽観的で、「我々にはやるべき重要な仕事がたくさんあると信じており、我々が始めた仕事を継続できる光栄に感謝している」と述べた。

郡の代表者とCalMHSAスタッフが出席した2019年9月の指導者会議の議事録によると、7カップスは2019年8月31日に当初の契約終了の30日前の通知を受け取った。

CalMHSAとの和解は数カ月後の11月1日に発効した。10月末、モリアーティ氏はセブン・カップスのスタッフ10人を解雇した。事件に詳しい関係者によると、この決定は影響を受けた従業員に衝撃を与え、衝撃を与えたという。

7カップで11月6日のフォーラム投稿, モリアーティは「何人かを手放さなければならなかった」と発表した。同氏は以前にもカリフォルニアの取り組みについて投稿していたが、発表の中でそれについては言及しなかった。ただし、サイト全体のコスト削減には、安全上の理由から、モデレートされていないグループ チャット ルームの閉鎖が含まれていたと同氏は述べた。

おそらく、いつでもチャット ルームにアクセスすることに慣れていたユーザーの失望を予想して、モリアーティ氏は一体感を訴えようとした。

「これがあなたが望む場所であり、スタートアップの課題を乗り越えながら安全性を高めるという私たちの試みに寛容であるなら、私たちはお互いをサポートし、一緒に問題に取り組み、一度に1つずつ解決していきます。 」とモリアーティは書いた。

セブンカップの失敗にもかかわらず、カリフォルニア州は何らかの形のピアサポートを組み込んだデジタルメンタルヘルス製品を諦めていません。 1月に州医療サービス局は、アプリへのアクセスを開始しました13 歳から 25 歳向けの Soluna と呼ばれます。ユーザーは匿名でサインアップして、モデレートされたその他の福利厚生機能にアクセスできます。できるフォーラム「質問を投稿したり、アドバイスを受けたり与えたり、あるいは気になったことについて何でもチャットしてください。」

California 7 Cups の実験から何を学ぶか

セブン・カップスがなぜカリフォルニアとの契約を失ったのか具体的に国民が知らなかったことを考えると、同社は広範な批判や影響にさらされていない。

しかし同年、モリアーティ氏はカリフォルニアに本拠を置く非営利医療システムであるサッターからの巨額の寄付を得て、「ボランティア、臨床医、テクノロジーを通じて、質が高く、手頃な価格で革新的なメンタルヘルスケアへのアクセス拡大を支援する」非営利団体セブン・カップス財団を立ち上げた。 7 カップ財団が 2020 年に返還した健康。

モリアーティ氏は、この資金は新米母親に教育を提供することを目的としていると述べた。財団はサッター・ヘルスに45万ドルを返済したが、モリアーティ氏によれば、これは同団体のシステム・メンタル・ヘルス・サービスの元最高経営責任者（CEO）であるジョン・ボイド氏が未使用資金の残りを要求した後に発生したという。 2018年にセブン・カップスがカリフォルニア州の郡にサービスを提供する契約を結んだとき、ボイド氏はプロジェクトへの資金提供を承認する州委員会の委員を務めた。サッター・ヘルスはこの件についてコメントを控えた。

セブンカップのユーザーの中には、継続して利用している人もいます。匿名で共有する 自分自身のネガティブな経験これには、荒らし行為や虐待行為の疑いが含まれます。

Tech Suite について知る前の 2023 年 2 月に、Mashable がこれらの苦情のいくつかについてモリアーティ氏に尋ねたとき、同氏は、このプラットフォームの巨大な規模とリーチは、否定的な経験が必ず発生することを意味すると指摘しました。

モリアーティ氏は電子メールで、「どんなに努力したり、変更を加えたりしても、結局のところ、人は人間であり、間違いを犯したり、役に立たない行動をしたりするものだ」と書き、資格のある専門家にも同じことが起こり得ると付け加えた。 「人間というのは、免許を持っているか否かに関わらず、厄介なことがあるのです。」

7 Cupsで何が起こったのかを明らかにしなかったことは、同様のスタートアップに対する監視が低下することも意味した。

Wisdo Health、インセル博士を含む 7 Cups の競合企業アドバイザーは昨年、コロラド州のメンタルヘルス非営利団体と、州内の成人がプラットフォームを利用できるようにする契約を結んだ。あ提携を発表したプレスリリース同州のメディケイド加入者へのリーチに特に重点を置くと述べた。

Mashable は報告の過程で Wisdo Health に関連する重大な安全性の懸念を知りませんでしたが、業界全体はまだ解決していない、あるいは明確にしてさえいない感情サポートプラットフォームを使用するリスクを消費者に伝えます。

また、そのようなプラットフォームが、セラピーや、人々が自分の思考や感情をより適切に管理できる治療法であるコンピューターベースの認知行動療法など、他のメンタルヘルス介入と同等かそれ以上に優れていることを示す証拠はありません。

それでも、保健福祉省にはウィズド・ヘルスが含まれる社会的つながりを改善するためのリソースのリストに含まれているのは、権力ブローカーがこのモデルを真剣に受け止めていることの明らかな兆候です。

カリフォルニア大学アーバイン校の透明性の欠如も波及効果をもたらしている。

2023年1月、スティーブン・シューラー博士を含むカリフォルニア大学アーバイン校の研究者らは、論文を発表しましたジャーナルで Tech Suite を評価する仕事についてJMIR形成研究。著者らは安全性の問題について簡単に言及したが、7 つのカップの名前は明らかにしなかった。この論文には、CalMHSAが「機密性を確保するために原稿を検討した」という承認が含まれていた。

著者らはチャットフォーラムでいじめや虐待を監視することを推奨した。

「サービスプロバイダーもまた、ピアサポートプラットフォームやチャットルームで起こる可能性のある不適切なウェブベースのやりとりについての懸念を共有していた。サービスプロバイダーの一人は、『しかし、これらのチャットルームは監視されていないので、誰でも気軽にアクセスできてしまう』と述べた。ひどいことをたくさん言っているのに、その行動を監視する人は誰もいませんでした、そして私たちはそれを知りませんでした」と研究者らは書いている。

昨年の夏、資金を失い閉鎖するまで、シューラー氏は消費者がデジタルメンタルヘルスツールを精査できるように設計された非営利ウェブサイト「One Mind PsyberGuide」を率いていた。のPsyberGuide による 7 Cups のレビューには安全上の警告は含まれていませんでしたが、アプリの対象ユーザーの 1 人が青少年であることに注意してください。このアプリの信頼性評価は 5 点満点中 3.64 でした。

あメンタルヘルス アプリの使用に関する 2022 年の調査パンデミック中の苦境に対し、7 Cups が介入の 1 つとして選択したのは、PsyberGuide によって「高評価」だったことも理由の 1 つです。シューラー氏はメールでMashableに対し、7 CupsとTech Suiteについてはコメントできないが、安全上の警告はPsyberGuideの透明性評価に反映されるだろう、と語った。透明性評価は7 Cupsでは実施されていない。 「したがって、私たちの信頼性審査に関係するものは何も安全性の問題に言及するものではありません」と彼は書いた。

インセル氏とモリアーティ氏はマッシャブルに対し、何年もお互いに話をしていないと語った。インセル氏の娘は2019年5月に同社を退職した。

同氏は、米国にはデジタルメンタルヘルスに関する規制インフラ、あるいは少なくともCalMHSAのような機関がデジタルメンタルヘルス企業を厳密に評価する方法を知るためのベストプラクティスが必要だと信じていると付け加えた。

「カリフォルニアの[T]ech [S]uiteで何が起こったのかは分かりません」とインセル氏はMashableに書いている。「しかし、いくつかの教訓は得られるはずだ」

あなたがオンラインで性的搾取を受けている子どもである場合、またはオンラインで性的搾取を受けている子どもを知っている場合、あるいはオンラインで子どもの搾取が行われているのを目撃した場合は、それを警察に報告することができます。 サイバーティップラインによって運営されています。 行方不明の搾取された子どもたちのための国立センター。