ソーシャルメディアプラットフォームの最も暗い部分を一掃する場合、「目に見えない、心の外に」は機能しません。
それがドキュメンタリーだザ・クリーナーズPBSで月曜の夜に放送されるこの番組では、暴力的で生々しい不穏な画像や動画が容赦なく浴びせられているフィリピンのコンテンツモデレーターについて暴露している。テレビ公開に先立ち、サンフランシスコで行われた上映会で、映画製作者のハンス・ブロック氏とモーリッツ・リースヴィエック氏は、ドキュメンタリーの被写体が「私たちに話しかけるのに十分勇気がある」と称賛した。
マニラは、Facebook、Instagram、YouTube、Google、Twitter などの大手ソーシャル メディアおよびコンテンツ サービスのコンテンツ モデレーションの事実上の本社となっています。しかし、有害な作業をアウトソーシングしても問題が解決されるわけではありません。
ザ・クリーナーズドイツ人二人組の映画製作者たちは、フィリピンの首都でサードパーティのコンテンツレビュー会社に時給 1 ～ 3 ドルを稼いでいる 5 人の元司会者と知り合うことに時間を費やした。モデレーターたちは、不適切なコンテンツを排除する企業で働いた経験や、何がプロパガンダ、芸術、ニュースであるかを決定する際に果たす役割を匿名で共有した。
この映画は、交代で何千もの不快な投稿を閲覧することでモデレーターが直面する問題を取り上げており、特定の画像の削除に関するプラットフォームのポリシーにまたがる検閲の問題も検証しています。危険なフェイクニュースが次のようなプラットフォームで拡散しています。ミャンマーのフェイスブック、少数民族ロヒンギャが迫害されている場所。この映画では、ある女性がロヒンギャ民族として耐えてきた恐怖と、フェイスブックが彼女の国を危険な状態にして逃亡した経緯を語ります。
マッシュ可能な光の速度
これは、新しい出来事いずれにしても、現在では訴訟が定期的に起きています。ほんの数カ月前、Facebookの元モデレーターがプラットフォームが精神的損害を与えたとして訴訟を起こした。マイクロソフトの元従業員が訴訟を起こした児童ポルノのレビューによるトラウマの疑いの後も同様の理由で。しかし、コンテンツのモデレーションは依然として人間の作業者に任されています。 2017 年の短いドキュメントモデレータ インドからの参加者は、これらの労働者が自分たちが課せられている種類の仕事に対していかに準備ができていないかを垣間見せた。ザ・クリーナーズ自殺した同僚を知る人々へのインタビューを特集している。彼は自傷行為のビデオを専門としていた。
解決策としてはロボットの司会者が必要だと感じますが、映画が探求しているように、AIはまだ文脈やグレーゾーンを把握していません。言論の自由と検閲の間の闘争により、人間は望ましくない役割を担わされ続けています。のベトナム戦争中に裸で走っている少女の象徴的な写真技術的にはヌードガイドラインに該当します。 "消去！"映画の中で写真を見せられた司会者がこう言う。
でシネマ映画祭先週サンフランシスコで行われた上映会で、映画製作者らは、人間は写真を分析し、それが実際に何を意味するのかをつなぎ合わせるのが得意だと語った。しかし、それにはコストがかかります。二人はデジタル清掃の仕事を「精神的虐待の一形態」と呼んだ。あるモデレーターは首切りビデオの専門家で、何百ものビデオを見てきました。別の人は、児童ポルノを見ることが彼女を永遠に不安にさせたと語った。
仕事の秘密的な性質により、心理的問題がさらに複雑になります。映画製作者らによると、労働者らはLinkedInのプロフィールに自分の役職名を載せないこと、家族に仕事の詳細を共有しないことなど、強い圧力をかけられているという。どの企業のコンテンツを見ているのかを特定することさえ、コード名で議論されるはずだ。
モデレーションの背後にいる人々の注目が高まるにつれて、企業はより多くの情報を共有する必要があります。 Facebookは7月、安全チームを今年末までに2万人に増員し、その中には7,500人のコンテンツ審査員が含まれると発表した。
「この仕事は誰にでも向いているわけではない」とフェイスブックは記事で書いた。ブログ投稿採用と研修のプロセスと、会社がメンタルヘルスのリソースと快適な職場環境で「審査員への対応」をどのように行っているかを詳しく説明します。
ザ・クリーナーズ 米国ではPBSで放送される現地時間月曜日午後10時。