アレックス・クラムは最も一般的なものを簡単に暗唱できます性差別的、人種差別的、同性愛嫌悪的な中傷。彼女は、あなたがこれまで聞いた中で最も憎しみに満ちた言葉のいくつかを知っています。そして約1年間、彼女はそれを毎日何度も繰り返し読みました。
25 歳のクラムさんは、オンラインのコメントや荒らし行為を管理する仕事のおかげで、そのような悪質な行為に堪能になりました。ユーザーを物議を醸すトピックについて議論するよう促すサイト、Debate.org のコンテンツ スペシャリストとして、Chrum 氏はインターネット コメントの暗く、時には有毒な泥の中に足を踏み入れなければなりませんでした。毎日、彼女は 50 ～ 200 件の疑わしい投稿をふるいにかけて、何を公開し、何を放置するかを決めようとしました。
「正直に言って、これは私がここ（仕事）で行った中で最も精神的に疲れるものでした」とクラムはMashableに語った。
イリノイ州スウォンジーの机に座って、彼女は自分の役割を楽しんだり嫌ったりしたりを繰り返した。このサイトのディスカッションの多くには、重要な政治的および社会的問題に関する活気に満ちた前向きな会話が含まれており、Chrum は議論を奨励することで繁栄しました。しかし、彼女は司会者として、一部の人たちが中傷を中心に議論を組み立て、性別、人種、セクシュアリティに基づく人道的攻撃を開始するのをリアルタイムで見ていた。
英文学を専攻し、ジェンダー研究を副専攻したクラムさんは、時折不満がこみ上げてきた。コメントモデレーターの仕事に就くまでの人生はバブルのようなものでした。サタンが同性愛者を創造し、神が男性に奉仕するために女性を造ったと多くの人が今でも信じていることを、彼女は知らなかった。しかし、クラムはこの現実をただ認めることができなかった。その代わりに、彼女の仕事は、あらゆる攻撃的なアイデア、汚い言葉、さらにはベールに包まれた脅威について深く考える必要がありました。
私たちのほとんどは、このバージョンのインターネットを見ていません。いわゆる攻撃の対象になっていない限り、荒らし、ソーシャルメディアのカスを避けるのはかなり簡単です。不快なスレッドからクリックして離れたり、非難すべきことを言った友人のフォローを解除したり、社会的交流に対する蝿の王のようなアプローチで悪名高いサイトを避けたりします。 Chrum のような人は、罪のないユーザーと、常識の範囲を試したいスリルを求めるユーザーの間の一時しのぎです。しかし、オンラインで私たちの残りの部分を守ろうとすると、個人的な犠牲を払うことになり、心と精神を消耗させることになります。
「一人の個人がそのようなことを一日中、毎日行うのは間違いなく負担です」とクラム氏は言う。 「それは不可能です。」
このジレンマは、あらゆる規模のソーシャル メディア サイトを悩ませています。最近では、ソーシャル プラットフォーム上で匿名ユーザーが誰かに容赦なく嫌がらせをするという、注目を集める事件が起こらない日は 1 週間もないようです。
たとえば8月には、故ゼルダ・ウィリアムズの娘がロビン・ウィリアムズ、放棄された ツイッターそしてインスタグラムユーザーが彼女の父親の遺体のフォトショップ加工された写真を送ったと伝えられた後。
ごめんなさい。もっと上に登るべきだった。これをデバイスから削除するのはかなり長い間、おそらく永遠に続くでしょう。時間が解決してくれるだろう。さようなら。— ゼルダ ウィリアムズ (@zeldawilliams)2014 年 8 月 13 日
わずか数週間後、ビデオゲームにおける女性の表現を分析するウェブシリーズの創設者であるアニタ・サーキーシアンは、最新エピソードの放映後、再び強姦と殺人の脅迫を受けた。しかし今回は、オンライン攻撃者が彼女の自宅の場所を発見したようで、サーキージアンさんは当局の関与を余儀なくされた。
私と私の家族に対して、非常に恐ろしい脅迫がいくつか行われました。今すぐ当局に連絡してください。— Feminist Frequency (@femfreq)2014 年 8 月 27 日
イゼベルについては、ゴーカー女性ニュース専門のサイトでは、匿名ユーザーが容赦なくコメントに暴力的なポルノの画像を埋め込みました。の数ヶ月にわたる問題つい最近解決されました。
私たちは内面の生活についてはあまり知りませんインターネットを精査する人々の。私たちは、彼らが最悪のコンテンツから私たちを守ろうとしていることを当然のことと考えていますが、そうすることが彼らの幸福や精神的健康にどのような影響を与えるかを声に出して疑問に思うことはほとんどありません。
インターネットの規制における彼らの役割は、ほとんど過小評価されています。モデレーターはウェブを動かす慣性のほんの一部にすぎず、オンライン コミュニティを安全にするために私たちが構築したインフラストラクチャは、よく言えば有望な即興であり、最悪の場合は恥ずかしいほど壊れています。数週間の間にウィリアムズ氏、サルキージアン氏、イゼベル氏に対して仕掛けられた攻撃は、そのことをはっきりと示している。
そして、オンラインでの攻撃や荒らしの問題が大規模であることはわかっていますが、その猛攻撃と戦うことがどのような心理的影響を与えるのかはまだ理解していません。
ブリッジウォーター州立大学の心理学教授で、ネットいじめに焦点を当てて研究を行っているエリザベス・イングランダー氏は、オンラインでの虐待行為や言論を緩和することがどのようなものかを具体的に研究していないためだと述べた。
有益な比較として、モデレーターをデジタル版の警察官や緊急治療室の看護師と考えるとよいかもしれない、と彼女は言いました。モデレーターは、同じような直感的な生と死の場面を目撃するわけではありませんが、彼らの仕事の性質上、私たちのほとんどが避けようとする人間の経験の側面にさらされます。
インターネットでは、これには児童ポルノの特定や、強姦や殺害の脅迫の確認などが含まれる場合があります。イングランダー氏は、時間が経つにつれて、ほとんどの専門家は自分の人生をばらばらにする方法を見つけ、目にしたトラウマから自分自身を切り離し、場合によってはトラウマに対して鈍感になることさえあると付け加えた。
しかし、初期対応者が精神的苦痛を経験したときに何が起こるか、そしてそれをどのように治療するかを説明するかなりの研究もあります。モデレーターに対するそのようなガイドラインはなく、誰がこの責任を引き受けることを許可されるべきか、そのためにはどのようなトレーニングが必要かについて確立された基準もありません。
彼らの話が聞かれることはめったにありませんが、これらの答えのない質問によって生活が直接影響を受けるテクノロジー労働者がいます。フェイスブックたとえば、毎週約 100 万件の虐待的なコンテンツの報告が届きます。カリフォルニア州メンローパーク、ロンドン、インドのハイデラバードのスタッフは、これらの申し立てを 24 時間体制で調査しています。 Instagram では、ユーザーは 1 日あたり平均 6,000 万枚の写真をアップロードしており、同社はこのサービスが他のユーザーの「中傷、ストーキング、いじめ、虐待、嫌がらせ、または脅迫」に利用されないようモデレーターを雇っています。 Twitter には、ユーザーの攻撃的な行動を調査する「信頼と安全」チームがあります。
でレディットでは、モデレーターがサイトの多くのコミュニティをボランティアで監視しているため、嫌がらせの標的になることは珍しいことではありません。最近の糸このトピックに関しては、ヘイトメールや殺害の脅迫を定期的に受け取っているモデレーターから数十の返信が寄せられました。一部のモデレータは荒らしに対抗することを楽しんでいたが、グループは独自の荒らしも作成したプライベートスレッド彼らのストーリーを共有するための「セラピー [サブレディット]」として。
Debate.org に意見セクションを追加するというアイデアユーザーが正式な審議に参加するのではなく、自分の意見を簡単に話し合うことができるのは、ある意味実験のようなものでした。当時、サイトのコミュニティマネージャーだったChrum氏は、特定の種類の行為を禁止する行動規範を施行するための基本的なトレーニングを受けただけだった。冒とく的な言葉や悪口を言わないでください。他のメンバーに対する個人攻撃は禁止します。人種的、性的、宗教的中傷をしないこと。露骨であれ暗黙であれ、暴力による脅しはありません。
[編集者注記: これらは、Chrum が精査しなければならなかった本当のコメントです。投票して記事の一番下までスクロールして、あなたも彼女と同じ決断を下したかどうかを確認してください。]
意見セクションが大きくなるにつれて、Chrum の 2 台のコンピューター モニターのうちの 1 台にコメントが殺到しました。彼女はヘッドフォンを装着し、気分に応じてレッド・ツェッペリンやリル・ウェインをかけて、夢中になっていました。
彼女は、サイトの行動規範に基づいて一部のコメントをすぐに拒否することができたが、その他のコメントは挑発的なコメントと不快感の間の微妙な境界線をまたいでいた。たとえば、ユーザーが同性愛者がいなければ世界はより良い場所になるだろうと述べた場合、それは暴力的な脅迫や中傷としてみなされるのでしょうか、それとも単に道徳的な観点からなのでしょうか?男性が女性を殴るのは許されることなのかと誰かが尋ね、ユーザーがその女性は殴るに値するかもしれないと答えた場合、それは同サイトが大切にしているとしている「知的で考えさせられる会話」にふさわしいと考えるべきだろうか？
ユーザーの意図を解釈するプロセスで、Chrum は疲弊してしまいました。見知らぬ人の心理を探ろうとするとき、クラムさんは時折、コンピューターのモニターに録画されたアートワークに目を落としていました。彼女のお気に入りの紫と緑の落ち着いた色で装飾された小さなカードには、「心を落ち着かせて、人に親切にしましょう」と書かれていた。
このスローガンはクラムの信条となったが、従うのが難しいこともあった。たとえ憎しみに満ちたコメントをめぐってユーザーと対立したくても、彼女は自制しなければならなかった。コメントを熟読することの累積的な影響は日食のようになり、彼女の日々に影を落としました。
「（サイト上の）ほとんどはポジティブなものです」と彼女は言う。 「私は個人的に判断を下さなければならないので、ネガティブな面が多く見えます。一日の終わりに家に帰ると、憂鬱な気分になることが何日も続きました。」
そのコメントは日中彼女を不安にさせ、その後は家で夢中になった。彼女は一日中働き、週末にもサイトをチェックしました。時々、彼女はコメントについてまったく考えないようにして瞑想した。職場では、特に残酷なコメントを読んだ後、彼女は数人の同僚に激怒した。
「私たちはその悲惨さを一緒に分かち合うことができます」と彼女は言いました。 「人々は、直接誰にも決して言わないようなことをインターネット上では時々言うということを知って、私に安心感を与えてくれます。」
そして、それがこの問題の核心であるように思われる。私たちは職場や学校の給食の席でのそのようなやりとりを容認しないが、インターネットのより卑劣な暴発を言論形態として定義する、声高で揺るぎない勢力が存在する。守られる。
フンボルト州立大学のコミュニケーション講師であり、デジタル文化の専門家であるホイットニー・フィリップス氏は、これに反対する。ハラスメントを明確に擁護することで、女性やその他長らく疎外されてきたグループがターゲットとなっている人々の声を即座に沈黙させることができると彼女は述べた。
「あなたはどちらの側にいますか？」フィリップスは尋ねた。 「あなたは侵略者の側につきますか？それとも、より生産的な方法でコミュニティに貢献できる人々と連携しますか?」
Chrum さんは、これらの難しい質問について熟考しながら、自分の個人的な見解が意思決定に微妙に影響を与える可能性があることにも留意し続けました。彼女は自分自身を反人種差別主義者、フェミニストであり、レズビアン、ゲイ、トランスジェンダー、クィアコミュニティの声高な支持者であると説明しています。
「私にとって不快なものが、他の人にとっても不快なものになるとは限りません」と彼女は言う。その一方で、ユーザーが女性や同性愛、人種に関するギリギリの罵倒コメントを読んで、自分自身や他人を傷つけようとするのではないかと彼女は懸念した。
この哲学的かつ倫理的なむち打ち症の真っ只中にいたとき、彼女はコメントが何らかの形で「有意義で思慮深い」議論を促進しなければならないという考えに何度も立ち返った。 「このうち何人が本質的に荒らしをして注目を集め、人々を興奮させようとしているのでしょうか？」彼女は自問するだろう。 「正当なものを何も議題に上げていない場合、コンテンツはおそらく当社の行動規範を通過せず、公開されないでしょう。」
Chrum 氏は、これらの理由と、サイトのガイドラインへの明らかな違反を理由に、コメントの 50% を拒否したと推定しています。
これらの決定を下す際の感情的および精神的な負担サイトにおける Chrum の役割が根本的に変わっていなかったら、この状況は続いていたでしょう。
昨年、このサイトは姉妹会社である CrowdSource.com が開発したモデレーション モデルを採用しました。
Overstock、Klip、Staples などをクライアントに持つ CrowdSource は、契約社員とその意思決定の質を監視するアルゴリズムを利用して、モデレートという不定形な雑務に取り組んでいます。同社は、許容可能なコンテンツに関するガイドラインに関するトレーニングを受けている人材を人材の中から抽出し、サンプル シナリオでテストします。受講生のスコアは、クラウドソースで最も信頼できる請負業者の対応に基づいて測定され、受講生はその判断の信頼性に関するランキングを獲得します。
クライアントの 1 つのコンテンツを複数の請負業者がレビューする場合があるため、コンテンツを公開するかどうかの決定は通常、1 人ではなくアルゴリズムによって行われます。クラウドソースの従業員は、ポルノや扇動的な言葉などの項目の評価をオプトアウトすることもできます。
アルゴリズムを使用すると、モデレータの負担が軽減されると同時に、不快なコンテンツからユーザーを守る最善の方法にまだ取り組んでいる企業に予測可能性が提供されます。
CrowdSource.com の CEO である Stephanie Leffler 氏は、「クライアントが、専門的に作成されたガイドラインや自信を持っている一連のガイドラインを持って当社に相談に来ることはほとんどありません」と述べています。
クロム氏はこの移行を歓迎した。彼女は請負業者にハラスメントに関するガイドラインを与え、議論は頻繁に白熱したものだと語った。現時点では、Debate.org はアルゴリズムを使用せず、多数決モデルを使用しているため、少数のモデレータが投稿を評価し、公開すべきかどうか投票します。
現在、Chrum さんはサイトでの作業に週に 5 ～ 10 時間を費やしているだけで、その時間をクラウドソースのそれほど集中していないプロジェクトに取り組むことができます。 「一日の終わりには、ずっと良い気分で家に帰ります」と彼女は言いました。
これは、単一のサイトとモデレーターに対する 1 つのソリューションにすぎません。また、50人から100人の献身的なメンバーからなるDebate.orgの中核グループがサイトを非公式に規制し、ユーザーが行動規範に危険なほど違反しそうになった場合に連絡するために行っている活動も反映されていない。
Chrum 氏は、サイトは明確なガイドラインとメンバーシップへの期待から始める必要があると主張します。規則に従わない者は必要に応じて検閲されるか、完全に破門されるべきである。
もちろん、メンバーシップがグローバルで無秩序に広がっているサイトでは、これを実行するのははるかに困難です。たとえば、Twitter には月間アクティブ ユーザー数が 2 億 7,100 万人おり、荒らしや攻撃的な行為が驚くべき頻度で発生するプラットフォームとして知られています。ユーザーが虐待行為で報告され、その後サービスによって処罰された場合でも、別の装いで簡単に戻ってくる可能性があり、これはほとんどのソーシャル サイトが直面している問題です。
問題が膨大であるにもかかわらず、一部のサイトは異なるインターネット文化の創造を目的とした新しいポリシーを採用しています。 8月、アグリゲーターサイトFark.com女性蔑視を追加投稿の削除につながる可能性のある違反のリストに追加します。同時に、Ask.com は国際的な質疑応答サイト Ask.fm を買収し、ただちにハラスメント ポリシーの全面的な見直しに着手しました。
Chrum のような人々にとって、新しいルールは必ずしもモデレータによるひどいコンテンツの閲覧を減らすことを意味するわけではありません。だからこそ、これらの従業員を潜在的な危害から保護することが不可欠かつ論理的な次のステップとなります。
この仕事が彼女に計り知れない負担を与えたことを知っているクラムさんは、実際、司会者としての疲れ果てた旅に意味を見いだした。
「全体的に見て、私は人間として成長しました。ネガティブなことを個人的に捉えないようになったからです」と彼女は語った。 「家に帰ってコメントをじっくり考えていましたが、今ではそれがより生産的な方向に向けられています。この件について有意義な会話をしてから、次に進みましょう。」
それでも、その成長はほろ苦い取引でした。
「非常に感情的に感じるものを見ると、たとえその人のことを知らなくても、それは心に残ります」と彼女は言いました。 「それが顔も人間も分からない単なるコメントであり、次から次へとコメントが続くと、人間性への信頼を失います。」
コメント管理キー:
「フェミニズムは間違っているのか？」への反応が出版されました。
「女性は権利を持つべきか?」への回答は出版されなかった。
「米国では同性婚を合法化すべきか？」への回答は出版されなかった。
「トランスジェンダーの手術は合法であるべきか?」への回答は出版されなかった。
「人種差別は正当化されるのか?」への反応が出版されました。