オンラインでの安全を保つために何が必要かを決めるのは誰ですか?そして、彼らはどのような機能が私たちにメリットをもたらすのかをどのようにして知るのでしょうか?
で火口、重要な役割を果たす 1 人の人物デートアプリの安全機能については、Tinder の製品完全性担当上級副社長である Rory Kozoll 氏が担当します。 Kozoll は、ユーザーのやり取りを敬意を持って安全に保つことを目的としたアプリ内ツールとリソースを開発するチームを率いています。
Tinder は多数の新しい安全性アップデートと機能をリリースしました、最も注目すべきは長押しレポート機能で、チャット メッセージをタップアンドホールドしてレポート プロセスを直接開始できます。これは、ハラスメント、ヘイトスピーチ、またはアプリの規定に違反するその他の攻撃的なテキストを報告することが容易になったことを意味します。コミュニティガイドライン。
オピニアムがTinderに代わって実施した最近の調査によると、18～25歳の72パーセントが身体的な安全性と同じくらい精神的な安全性を懸念しているという。この調査はオンラインでのやり取りを広く調査したもので、18～25歳の40パーセントがオンラインでヘイトスピーチを目撃したことがあり、30パーセントの人がオンラインで有害なメッセージを送信し、後で後悔していることを認めていることも判明した。これに加えて、Tinder は既存のサービスを拡張しています。「それは気になりますか？」そして「よろしいですか？」ヘイトスピーチ、ハラスメント、性的搾取の分類を拡大するための機能です。
女性や社会から疎外されたジェンダーにとって、出会い系アプリやソーシャルメディア、あるいは単にオンライン上に存在するだけで、性的嫌がらせ、同意のない、望ましくない性的メッセージを受信するだけでなく、次のような違反も経験します。サイバーフラッシュ。
Tinder はユーザーが必要とする安全機能をどのようにして知るのでしょうか?
コゾル氏はMashableに対し、Tinderの安全ツールがどのように開発されているか、そしてそのプロセスにフィードされる4つの主要な情報源について語った。
「私たちのメンバーは、何か気になることがあると私たちに言います。それは私たちに、問題を解き明かして、何が問題なのか、そして私たちがその問題を軽減するためにどのように貢献できるかを理解する必要があるという合図になります。」と彼は言います。 「2番目の情報源は、私たちがデータで非常にはっきりと確認できる情報です。そして3番目は、ジェンダーセーフティ分野とLGBTQIA分野、その他の過小評価されているグループの両方で、多くの外部パートナーと協力して情報を提供しているということです。」
もっと欲しいセックスとデートの話あなたの受信箱にありますか？ Mashable の新しい週刊誌にサインアップするアフターダークのニュースレター。
4番目の情報源は「科学というよりも少し芸術に近い」とコゾル氏は言い、「製品の直感」に言及している。 Tinder の従業員もこのアプリを使用しており、プラットフォーム上で何を変える必要があると考えているかを伝えるために、報告し、自分の経験について話し合います。
マッシャブル・アフター・ダーク
Tinderの「これは気になりますか?」この機能は実体験から生まれました。
Tinder の「これは気になりますか?」の場合このツールがアプリに導入されるきっかけとなったのは、現実の出来事でした。このツールは機械学習を使用して攻撃的な可能性のあるメッセージにフラグを立て、会話に有害な言葉が入ったときにメッセージ受信者に自動メッセージを表示します。このプロンプトにより、ユーザーは希望に応じて悪い動作を報告することができます。
もっと欲しいセックスとデートの話あなたの受信箱にありますか？ Mashable に登録するトップストーリーとセールのニュースレター今日。
この機能がリリースされる前に、Kozoll 氏と彼のチームは攻撃的なメッセージのカテゴリーを調査していました。コゾル氏の言う「もっと前のめりな話」（つまり、露骨な性的メッセージ）について考慮すべき重要な要素は次のとおりです。同意。
「人々は、もっと前向きな話をするためにドアを開けるかもしれません。私たちは、全員の安全を確保することと、全員が快適に過ごせるようにすることの間の境界線を常に意識し、自分自身や自分の価値観をメンバーに押し付けないようにしていきたいと考えています」 」と彼は言います。
コゾル氏と彼のチームは、アプリ上で人々が遭遇する可能性のある問題の実例を常に観察していると語った。
「私は妻と夕食に出かけ、サンタモニカのレストランまで歩いていました。この車が若い男たちを乗せて通り過ぎて、そのうちの一人が窓から身を乗り出し、罵声を浴びせられました。振り向くと若い女性がいるのが見えました。一人で私たちの後ろを歩いていて、彼女が男たちの罵声に明らかに不快になっているのがわかりました」と彼は説明します。 「彼らは運転を続けたので、私は本能的に振り返ってこう言いました。『おい、大丈夫か？一緒に歩きたいか？』彼女は同じレストランに歩いていたことが分かりました。」その瞬間、コゾルさんの妻は彼にこう言った。「実際にただ『大丈夫？』と尋ねる人がどれほど珍しいか知らないでしょう」
「それが種でした。これらのメッセージがこの人にとって問題があるかどうかはわかりませんが、大丈夫かどうかを尋ねるだけでも問題はありません。そして、そこが『これは気になりますか？』という質問です。」から来ました」と彼は付け加えた。
ここでTinderは実際にどのような役割を果たしたいのでしょうか?
安全上のニーズを考慮する際にTinderのチームが直面する課題についてコゾル氏は、「全員が快適に過ごせるようにすると同時に、自分の意見を表現したり、望むような会話をする自由を与えることとの間の適切な境界線を見つけることだ」と語る。持つこと。」
「私たちは自分たちをパーティーの主催者だと思っており、ゲスト全員を招待しました。人々が意気投合し、エキサイティングで新しい人に出会うことを願っています。私たちは人々に話し方を教えるためにここにいるのではありません」しかし、誰かが部屋の向こう側を見て、「ここはとても不快だ」というような視線を送ったら、私たちは介入して状況を解決するのを手伝う必要がある場合があります。パーティーを離れる、それが私たちが試みる役割です遊ぶためだよ」と彼は言う。
では、なぜTinderはヘイトスピーチの範囲を広げたのでしょうか?コゾル氏は、それは社会における言語の進化の仕方に関係があると言う。
「言語は常に進化しており、絵文字も常に進化しており、人々はますます創造的になっており、私たちが行っていることを回避しようとはしていません。しかし、言語だけが常に変化しているので、私たちはそれに適応する必要があります」本当に急速にそれに向かっていきました」と彼は言います。
「理解を深めていくにつれて、これらのモデルを常に更新していくつもりです」とコゾル氏は付け加えた。 「これは永遠に続く作業であり、機械学習モデルとキーワード リストを進化させて、これらの単語が出現するコンテキストと、辞書に出現する新しい単語をより適切に識別できるようにします。」
オンラインデートの世界で安全を保つ方法について詳しくは、こちらをご覧ください: