フェイスブックが発表さまざまな「ソーシャルオーディオ」製品先週。この動きは理論的には理にかなっていますが、これらの新しいスペースをどのように調整するのかという厄介な問題も引き起こします。
これらの製品は、4月19日にDiscordサーバーであるSidechannelでのCasey Newton氏へのインタビューで正式に発表された。Facebookはいくつかの異なる機能を追加します: Rooms の音声のみのバージョン。 Soundbits、基本的にはTikTokですが、オーディオ用です。クラブハウススタイルのライブオーディオルーム。そして彼ら自身のポッドキャスト。
ClubhouseやTwitterのSpacesなど、他の多くのソーシャルメディア企業がすでにオーディオ分野に参入していることを考えると、これはプラットフォームの方向性としては驚くべきことではない。しかし、これらの製品が登場すると、フェイスブックが誤った情報、ヘイトスピーチ、ハラスメントを管理する必要があるスペースがさらに3つ増えることになる。
過去数年間が私たちに何かを教えてくれたとすれば、それは、節度は Facebook の得意分野ではないということだ。 「」に対する説得力のない試みからフェイクニュース」と横行誤った情報の拡散におけるその役割にヘイトスピーチを助長する, Facebook は、モデレーションの世界において必ずしもリーダーではありませんでした。さえモデレーター自身マーク・ザッカーバーグの偽善とパンデミック中の健康無視について声を上げた。
Sidechannel での Newton とのインタビューの中で、ザッカーバーグ氏は、このプラットフォームが音声のテキストとビデオのモデレートに学んだことの一部を使用する予定であると述べました。
「私たちは、広範な完全性、信頼性、安全性に関する作業の両方から、この点で少し練習を積んできました。おそらく現時点で、さまざまな有害なコンテンツを識別できる最も高度な AI ツールを構築したと思います。 「テロ活動から児童搾取、暴力を扇動する人々まで、これらすべてのカテゴリーにわたって」とザッカーバーグ氏は述べ、「私たちは、そうしたものを積極的かつ自動的に特定できるツールの構築においてますます上手くなり、私たちのチームはそのすべてに取り組んでいると思う」と語った。ものは似ています会社全体に 1,000 人の従業員が座っているため、AI 側かエンジニアリング側だけが担当しています。」
Facebook はテキストやビデオのモデレート、特に米国における英語コンテンツのモデレートを改善してきましたが、ライブ音声のモデレートは難しいことで知られています。
マッシュ可能な光の速度
「これは実際、ビデオゲーム業界が非常に長い間苦労してきたことだ」と名誉毀損防止連盟の技術社会センターのアソシエートディレクター、ダニエル・ケリー氏はMashableに語った。あ2020年に実施したADL調査オンライン ゲームでハラスメントを経験している人の約半数が、ボイスチャットでもハラスメントを経験していることが判明しました。ケリー氏は、「音声チャットのモデレーションに関しては、テキストコンテンツと同じレベルのテクノロジーの発展がない」ため、これに対処するのは難しいと述べた。
「ライブストリーミングオーディオ特有の問題は、それがFacebookであっても他のプラットフォームであっても変わらない」とケリー氏は語った。 「私は、ヘイトの緩和に関するFacebookの実績を指摘したいと思います。Facebookは、自社の中核製品（FacebookやInstagram）におけるヘイトにテキストで対処することを修正していない、あるいは十分に取り組んでいません。」
ただし、Facebook は音声モデレーションを最初から始めているわけではありません。たとえば、Discord などの他のプラットフォームは、長年にわたりライブオーディオをモデレートしてきました。
「音声は一時的でリアルタイムであるため、モデレートするのがより困難です」と Discord の最高法務責任者である Clint Smith 氏は Mashable に語った。 「事後の調査はより困難です。しかし、私たちはこれを 6 年近く続けてきました。そのため、2015 年の設立以来、生の声を提供しており、コンテンツモデレーションに対する私たちのアプローチはライブ音声に非常にうまく機能すると考えています。」
Discordは音声をまったく録音しません。代わりに、サーバーにはコミュニティ モデレータが存在し、誰が滞在するか、誰が会話からブロックされるか、何を話してよいのか、何を話してはいけないのかを制御します。さらにサポートが必要な場合は、信頼と安全のチームにメッセージを送信できます。一方、Twitterスペースは、オーディオを 30 日以上保存します対処すべき問題がある場合。クラブハウスすべての音声を削除しますユーザーレポートがない限り。
「録音は複雑なテーマであり、コミュニティレベルで取り組むのが最善だと思う」とスミス氏は述べ、Discordにはユーザーが会話を録音できる製品や機能はないが、ユーザーはサードパーティのツールを使用できると付け加えた。 「コミュニティは、そのレベルで、音声を永続的なものにするか一時的なものにしておくかを決定します。コミュニティの選択は重要だと思います。また、音声の録音に関するコミュニティの立場がコミュニティのイベントの参加者に知られ、理解されることも重要です。」
Facebookは、ライブ（さらに言えば録音）音声をどのように管理する計画をまだ示していない。そして、製品とそのモデレーションガイドラインに関するさらなる情報がリリースされるまで、それはわかりません。
「何に対して強制すべきかという問題もある」とザッカーバーグ氏はサイドチャンネルで語った。 「それはオープンな議論になるだろう。5年前に遡れば、もっと多くの人が表現の自由の側に立っていたと思う。今でも多くの人がそうしているが、より多くの人が集まる波もまた高まっている」彼らは基本的に、より多くのものを何らかの方法でブロックまたは制限するよう求めています。」
Facebook の新しいツールがそれぞれ公開されるにつれて、音声がどのようにモデレートされるかについてはさらに詳しく明らかになるでしょうが、待たなければならないという事実は、より大きな問題を物語っています。
「理想的な世界であれば、Facebook はこのスペースを作成しているという事実と、ライブ ストリーミング コンテンツのモデレーションを実際に適切に行うためのテクノロジーをクラッキングしたという事実を発表するはずです」とケリー氏は述べた。 「そして彼らはそんなことはしなかった。」