ソーシャル メディア プラットフォームは歴史的に、10 代の若者でいっぱいの家を管理する親のように、コンテンツのモデレーションを実行してきました。つまり、私の屋根の下に住んでいるなら、私のルールに従ってください。しかし、ソーシャルメディアが私たちのオフライン生活の中でますます普及し、より本質的に政治的なものになるにつれて、疑問は次のようになりました。本当に屋根の所有者は誰ですか、その規則は誰が決めますか、そして私たちの市民的自由は危機に瀕していますか？
ドナルド・トランプ次期大統領政権下では、コンテンツ管理の政治化が最高潮に達するまで、この議論はさらに激化するだろう。
どうやってここにたどり着いたのでしょうか？
コンテンツモデレーションの進化はゆっくりと始まり、ソーシャルメディアの影響力が増大するにつれてその速度は増しました。何かをしなければならないことがますます明らかになりました。フェイスブック、ツイッター、 そしてYouTube遊んだ主要な役割でアラブの春、2010年代に政府の汚職に対抗してアラブ世界で起きた一連の抗議活動。フェイスブックが使われていたのは、活動家が組織するためのツール、しかし、それはすぐに物議を醸しました。 YouTube暴力的な動画を許可するかどうかで悩んでいるエジプトとリビアの活動家が警察の拷問を暴露したことへの対応として、教育またはドキュメンタリーの目的で提供された。同じ頃、Twitterが「国別ツイート非公開」ポリシーを導入。
2013年に、Facebookのモデレーションオフィスから文書が流出Facebook が正確にどのようなコンテンツをモデレートしているかを示しました。翌年、オンラインの過激化の問題がソーシャル メディア プラットフォーム全体で浮上しました。 YouTube、特定の暴力的な動画を一度の上映後に許可する方針を撤回ジャーナリストのジェームス・フォーリー氏斬首刑は急速に広まった。 Twitterは反発に直面した野放しの嫌がらせ女性主導の解放をめぐってゴーストバスターズこれにより、コンテンツ モデレーションの変更が行われました。
舞台裏では、コンテンツを管理した人々がひどい労働環境を報告。そして迎えた2016年。
誤った情報と偽情報ヒラリー・クリントン氏とトランプ氏の間の米大統領選挙を悩ませた。にもかかわらずFacebookが事実確認プログラムを開始、プラットフォームは誤った情報の拡散と選挙干渉を阻止するのに苦労しました。ミャンマーではロヒンギャ民族が大規模な民族暴力行為に直面していたFacebook コンテンツを活用した。その間、Facebook Liveは自殺や銃撃を放送する場所になった、を含むフィランド・カスティーリャ殺害。 2018年には、TikTokが中国でローンチそして同じ年に、Twitter、政治的誤情報の影響を抑制するために7,000万個のボットを削除。その年の後半、YouTube が初の透明性レポートを公開、そしてFacebookはその監視委員会、ユーザーがその決定に異議を申し立てることができます。 2019年にはチャーチ教会テロ事件が発生し、Facebookライブで放送されました、につながりましたクライストチャーチ、オンラインのテロリストと暴力的過激派コンテンツを排除するための行動喚起、「テロリストや暴力的過激派によるインターネットの悪用を防ぐための呼びかけの規定の下で協力する」国家グループ。Twitterはユーザーによるコンテンツ削除に対する異議申し立てを許可したその年の後半、そして最終的にはTikTokが国際的に開始されました。
その間ずっとトランプが大統領だった。彼は署名したオンライン検閲の防止に関する大統領令を対象とした通信品位法第 230 条そして、プラットフォームがコンテンツを管理する方法において、彼自身や他の保守派に対する偏見とみなしたものを抑制することを目指した。これはその後に来ましたトランプ大統領のツイートの多くは、誤解を招く情報としてツイッターによって報告された。彼と党員らはツイッター、フェイスブック、グーグル反保守的な偏見が生まれ、議会の公聴会とモデレートされたコンテンツの調査これは、テクノロジー政策会社アンカー・チェンジの創設者兼最高経営責任者（CEO）で、元フェイスブック幹部のケイティ・ハーバス氏が「評判」と呼ぶ一種の影響だ。
パンデミック、1 月 6 日、そして政治化のピーク
その後、新型コロナウイルス感染症（COVID-19）が襲来した。世界的な感染症に関する誤った情報が蔓延した、その結果、さらに多くの人が亡くなりました。オンラインのコンテンツを管理するルールは、増え続けるヘイトスピーチ、選挙に関する誤った情報、健康上の誤った情報といった現象に対抗するために国際的に拡大されました。 Facebookはターゲティングポリシーを導入ホロコースト否定コンテンツ、憎悪グループ、組織化された民兵組織、陰謀論、Twitterが透明性センターを立ち上げた。
しかし2021年1月6日が転換点。 Facebook、Twitter、YouTube などのプラットフォーム当時のトランプ大統領のアカウントが禁止またはロックされた期間中に暴力を扇動したとして、国会議事堂襲撃。
Mashable のトップ ストーリー
「トランプの脱プラットフォーム化は振り子のピークだったと言っていいだろう」とテクノロジー政策会社アンカー・チェンジの創設者兼最高経営責任者（CEO）で、元フェイスブック幹部のケイティ・ハーバス氏はマッシャブルに語った。 「それ以来、次の 4 年間で、[プラットフォームは] どれだけのコンテンツを削除するかという点で、もう少し中心に戻ってきました。[そして] 彼らはそれについてずっと静かになっています。彼らはそれについて政治的標的にされることを望んでいないため、この件についてそれほど透明性を保っていないのです。」
私たちは今どこにいますか？
それ以来、トランプはすべてのソーシャルメディアプラットフォームに復帰しました。しかし、焦点は変わっていない。共和党は、コンテンツの節度が保守的な声を沈黙させると主張している。 TechFreedom の社長である Berin Szóka 氏は Mashable にこう語った。「検閲とは、誰かが好まないコンテンツの管理にすぎません。」
イーロン・マスク氏自称「言論の自由絶対主義者」 ツイッターを買収2022年後半にこのレトリックに拍車をかけた。 2023 年 1 月、下院共和党は「連邦政府の兵器化」に関する小委員会保守的な見解に対する検閲疑惑をターゲットにしている。最初の公式行為の一つとして、彼らは研究グループに手紙を送りました。あらゆる書類を要求するコンテンツモデレーションに関するこれらのグループと連邦政府またはソーシャルメディア企業との間のやり取りの記録。一方、ジョー・バイデン大統領の政権が新型コロナウイルス感染症に関する誤った情報を抑制するようプラットフォームに圧力をかけたとの訴訟があり、司法長官らはこれは不法行為だと主張した。言論弾圧の一種。
メタは注目すべき変化を遂げています。政治的な内容への焦点を減らした、特に競合他社である Twitter においてスレッドハーバス氏は、これは「必ずしもコンテンツのモデレーションではないが、どのような種類のコンテンツを人々に提示するかどうかを決定するものである」と述べている。
コンテンツモデレーションの将来には何が起こるのでしょうか?
トランプ次期大統領はコンテンツモデレーションを選挙キャンペーンの課題に据えている。 FCCのリーダーに指名されたブレンダン・カー氏もすでにこの議題に同調しており、解体を呼びかける彼が「検閲カルテル」と呼ぶものと、「一般のアメリカ人に言論の自由の権利を回復する」試みについてだ。
「そのためには、テクノロジー企業をいじめるか、彼らが伝えたくない言論を伝えるよう要求する必要がある」とショーカ氏は語った。 「共和党はコンテンツの管理をめぐって対立している。」
ハーバス氏が言うように、この「戦争」は立法と評判といういくつかの異なる面で展開される可能性が高い。評判によれば、テクノロジー企業幹部らによる議会公聴会がさらに増え、トランプ氏のXに関する投稿が増え、コンテンツモデレーション全般に関する疑わしいエネルギーが増えるだろう。法的には、興味深い道が待っています。
ショーカ氏が言うように、カー氏はセクションの資格基準に関してトランプ氏の指示に従う可能性が高い。230免疫力、「異議を申し立てられた言論が違法かどうかに関係なく、出版者や講演者の活動に対して完全な免責を与える。」これは、フェイスブックが、フェイスブックが所有し、その資金で運営しているプラットフォーム上で起こる誤った情報、ヘイトスピーチ、その他のあらゆる行為に対して責任を負わないことを意味する。
「（共和党は）第230条を利用するだろう。そうすることで『我々は何も要求していない』と言えるからだ」とショーカ氏は語った。 「民間企業として、何をするのも自由だ。しかし、第 230 条の免除を望むなら、中立でなければならない。中立であるかどうかは私たちが決める。」
ハーバス氏は今後の混乱を予想しているが、第230条が実際に変更されるかどうかについては疑問を呈しており、「おそらくそれを巡る議論や討論が行われるだろうが、第230条が実際に変更されるかどうかは、私は懐疑的だ」と述べた。
同時に、AI の台頭により、コンテンツ モデレーションの未来が再構築されています。 「今後4年間、人々が情報をどのように消費するかによって、今日私たちが話していることはまったく無関係になり、まったく違ったものになるだろう」とハーバス氏は語った。 「AIは、ニュースフィード、人々のインセンティブ、投稿内容、それがどのようなものであるかについての私たちの考え方を変えるだけであり、それがどのように政治化されるかという点でテクノロジー企業に新たな課題をもたらすでしょう。」
慌てたほうがいいでしょうか？おそらくそうではありません。ハーバス氏によると、トランプ第2期の下でコンテンツモデレーションがどのようになるかを予測するのはまだ時期尚早だという。しかし、私たちは目を開いておかなければなりません。コンテンツモデレーションのルールとそのルールを誰が作成するかは、政治権力、国民の認識、テクノロジーの進化によってますます形作られており、言論の自由、企業責任、オンラインスペースの規制における政府の役割を巡る戦いの舞台となっている。