人工知能は未来の手段です。しかし、Facebook のコンテンツモデレーションに関しては、まだ現状がほとんどです。
ほぼ20億人のユーザーが強力ソーシャルメディアの巨人は、この状況を変えるために猛烈なペースで取り組んでいる。
シリーズとしてFacebookの内部スライドが流出どのコンテンツがコミュニティ基準に違反するかを同社がどのように判断しているかを明らかにしたところ、メンローパークに本拠を置くFacebookは、どの投稿を残し、どの投稿を残すかの決定を未だに骨と骨の髄までコミュニティ運営チームに大きく依存していることが分かる。
言い換えれば、Facebook CEO マーク・ザッカーバーグの努力にもかかわらず、AIをプッシュするですべてのもの、人間は依然としてコンテンツ管理のねぐらを支配しています。しかし、それは変わりつつあります。
フェイスブック3月に発表された自殺や自傷行為を考えているユーザーを特定するよう設計されたAIシステムを導入する予定だという。その AI はパターン認識を使用して、投稿とその周囲のコメントが、自殺の危険性を示すものとして特定された以前の投稿と類似しているかどうかを判断します。そうであれば、問題の投稿を見たFacebookユーザーには、自傷行為を報告するためのオプションがより目立つように表示されることになる。
重要なのは、最終的には実際に行うかどうかの決定です。作る報告は人々に委ねられています。 AI だけでは解決できませんが、役に立ちます。
Facebook の人工知能は、たとえテキストやタグが付いていない場合でも、私たちが投稿した写真に何が含まれているかを判断する能力も向上しています。会社2月に指摘された同社の AI ベースの画像認識ツールにより、ユーザーは写真から、誰かが黒いシャツを着ているかどうかなどを検索できるという。
マッシュ可能な光の速度
写真に写っているものを識別し、特定の種類の投稿の背後にある意図について十分な情報に基づいて推測できるこれらの進歩は、人間が毎日 Facebook に投稿される暴力、虐待、脅迫を乗り越える上で大きな資産となります。 Facebookの広報担当者が認めたように、マッシュ可能, 人間のモデレーターを支援することが、現時点では同社の自動化システムの主な目的です。
しかし、これらのシステムが写真に何が写っているのか、また一部の投稿を引き起こしている可能性のある意図を判断できるのであれば、サイトに投稿された問題のあるコンテンツにフラグを立てて削除するためにも使用できるでしょうか?たくさんあるからね。によるとガーディアン, Facebook では、わずか 1 か月で、性関連の恐喝やリベンジポルノの可能性のある事件が 54,000 件投稿されました。
現時点では、答えはノーのようです。これにはいくつかの理由が考えられるが、Facebookの広報担当者は、コンテンツモデレーションの聖杯であるコンテキストの理解に関しては、同社の自動化システムでは十分ではないと認めた。
そしてまだうまくいきません。 クレジット: ジャスティン・サリバン/ゲッティ
Facebook にとって、投稿のコンテキストは、投稿をサイトから削除するかどうかを決定する上で非常に重要です。しかし、それはおそらく、文脈がそうであることが部分的には理由です。文脈に応じた、特にガイドライン自体が非常に曖昧な場合、AI は電話をかけるのに苦労します。
ルールを守る性的および暴力的なコンテンツ。が入手した流出したFacebook文書によると、ガーディアン、非常に不穏な 2 つの投稿は、コミュニティ運営チームによって別の方法で扱われます。 「#刺してシオニストの恐怖になる」と投稿するのはOKではありませんが、「お父さんが顔を壊す前に、小さな女の子は自分自身を守る必要がある」と投稿するのはOKです。
もしネット上の反応どのような兆候であっても、なぜこれらの一方がOKで他方がダメなのかを理解するのは人間にとって困難です。人工知能はどうやらそれほど進歩しているとは言えないようです。
Facebook がこの状況を変えたいと望んでいることは明らかであり、同社はサイト上のビジュアル コンテンツの監視に AI を導入する取り組みをすでに進めています。
「私たちは写真やビデオを調べて、チームがレビューすべきコンテンツにフラグを立てることができるシステムを研究中です」とザッカーバーグ氏は記事で説明した。2月の公開書簡。 「これはまだ開発の初期段階ですが、一部のコンテンツを調査し始めており、すでに全レポートの約 3 分の 1 がコミュニティのコンテンツをレビューするチームに生成されています。」
これと同じレベルの AI 自動化を、私たちが投稿する言葉や投稿するコンテキストの監視に適用できるかどうかは、まだわかりません。私たちが確かに知っていることが 1 つあります。Facebook はそのために懸命に取り組んでいるということです。
一方で、世界で最も影響力のあるテクノロジー企業の一つであっても、それは依然として人間の責任にかかっています。