インターネットは、すべての子どもが成長する過程のある時点で必然的に魂を盗むことになりますが、中には YouTube の強力なアルゴリズムを操作することでそのプロセスを加速させている人もいます。
YouTube や、2015 年にサービスを開始した子供向けのファミリー向けアプリである YouTube Kids にも、子供向けの不気味で奇妙で暴力的なクリップが頻繁に登場します。そして YouTube のポリシーは、誰かが苦情を言うまではほとんど手を出さないことです。
たとえば、YouTube とキッズ アプリの両方に表示された、以下に埋め込まれたビデオを見てみましょう。再生を押すと、最初は画面が見覚えのある漫画のキャラクターと安っぽい音楽でいっぱいになります。しかし、エルサとスパイダーマンが武装すると事態は急変します。自動兵器。
自分たちの子供のクローンと一緒に、ハルク、バットマン、エルサ、スパイダーマンは、小さな双子から銃を盗んだジョーカーのような悪者を殺します。
さらに 30 分近くにわたって、この不穏なビデオは、このような暴力的なエピソードと「If you're happy and you know it」の合唱の間を行き来する。
適切なキーワードを使用して必要なクリップをアップロードすると、不適切なコンテンツが子供の目の前に表示される可能性があります。ページ上に他の子供向けコンテンツがある場合、これは特にうまく機能するようです。
アルゴリズムゴールド
上記のエルサの銃撃戦は、YouTube にとってさえ信じられないほど奇妙です。若い視聴者を視聴に誘導するために、YouTube Kids の比喩やトレンドを模倣しています。ビデオのタイトルは「Bad Kids & Learn Colors Giant Watermelon Finger Family Song Nursery Rhymes | Learning Video For Kids」です。ナンセンスに聞こえるかもしれませんが、YouTube を見る子供がいるなら、それはアルゴリズムの宝です。 「Bad Kids」、「Learn Colors」、「Finger Family」、「Nursery Rhymes」、「子供向け学習ビデオ」はすべて人気の検索キーワードであり、YouTube とそのキッズ アプリでは通常、これらのキーワードが上位に表示されます。
チャンネル登録者数は 797,000 人を超え、バトルVSデスバトル(新しいタブで開きます)は、他の数十の同様のビデオとともにビデオをホストしています。エルサの銃撃戦は500万回以上再生されており、先月アップロードされた。キッズ アプリからアクセスしたことを考えると、何百万人もの子供たちが視聴できました。マーケティング会社Sensor Towerのアプリ分析によると、このアプリはリリース以来、App StoreとGoogle Playから世界中で5,000万回ダウンロードされている。
エルサの銃撃戦の動画は、他の問題のあるコンテンツとともに、YouTube にコメントを求めた後、キッズ アプリから削除されましたが、YouTube には残っています。動画はアプリと YouTube 自体の両方で公開できます。
2015 年の開始以来、YouTube は繰り返し安全性を売り込んだ(新しいタブで開きます)キッズアプリの。しかし、YouTube とそのキッズ アプリはユーザーの報告に依存しているため、誰かがクリップにフラグを立てない限り、そのクリップは何百万人もの子供たちに見られる可能性があります。 YouTube は、奇妙な動画がすり抜けてしまうという問題があることを認識しています。初めてアプリをインストールすると、次のような安心感を与えるメッセージが表示されます。
YouTube Kids アプリで紹介されるコンテンツは、アルゴリズム フィルタリング、ユーザー入力、および人間によるレビューによって選択されます。YouTube は次のことを試みてきました。これをポジティブに解釈してください(新しいタブで開きます)組み合わせですが、不適切な動画が検索をすり抜けてしまいます。によると、キッズアプリの検索結果に表示される動画はアルゴリズムによって選択されており、人間によるレビューの対象ではないという。Googleのサポートページ(新しいタブで開きます)YouTube用。
「私たちは YouTube Kids の動画を可能な限り家族向けにするよう努めており、フィードバックを非常に真剣に受け止めています。問題のあるコンテンツを私たちの注意を引いてくれる人々に感謝しており、誰でも簡単に動画に報告できるようにしています」と YouTube の広報担当者は述べた。声明。 「フラグが設定された動画は 24 時間年中無休で手動で確認され、アプリに属さない動画は数時間以内に削除されます。より制限されたエクスペリエンスを希望する保護者には、アプリの検索機能をオフにすることをお勧めします。」
お金、お金、お金
子供向けビデオが YouTube で最も視聴されているクリップの 1 つであることを考えると、大きな収益が得られます。によると、サードパーティ評価トラッカー Social Blade(新しいタブで開きます)、Battle VS Death Battle チャンネルは年間 92,000 ドルから 150 万ドルの収益をもたらす可能性があります。広告から(新しいタブで開きます)。コメントが無効になっており、関連付けられたソーシャル メディア アカウントがなく、連絡先情報もないことから、このチャンネルは明らかに目立たないように行動しようとしています。
エルサの銃撃戦ビデオのタイトルに子供向けの検索語が使われていることを考えると、この不気味なビデオやその他の類似したビデオが、非常に奇妙な漫画に興味を持つ大人向けに作られたものである可能性は低い。さらに、このチャンネルはネットワーク Mango Kids によって管理されており、同社は自らを「幼い子供たちにとって簡単な学習先」と称しています。 Mango Kids が管理する他のチャンネルのほとんどは、完全に奇妙ではありますが、十分に無邪気であるように見えます。
インドに本拠を置くマンゴー・キッズは、その運営、チャネル、対象者に関する情報提供の要請に応じなかった。しかし、これだけではなく、同様のスタイル、キャラクター、歌、または SEO キーワードを使用して、子供向けに疑わしいコンテンツを作成する YouTube チャンネルがいくつかあります。 （下のビデオをチェックしてください。）
ショックを受けた両親
そうですね、不気味な動画が多すぎるので、幼児に YT や YT Kids を見させるのは完全にやめました。
「彼女と一緒に座って見ることができない限り、私は自分が見るために事前に選別したYouTubeビデオをダウンロードします」と別の人は書いた。
キッズアプリで「銃」という単語を簡単に検索すると、このチュートリアル(新しいタブで開きます)本物のコイルガンの作り方について。このクリップは明らかに子供向けではありませんが、どういうわけかキッズ アプリにフィルタリングされています。これは、アルゴリズムがどのように問題を引き起こす可能性があるかを示すもう 1 つの例です。 (「セックス」や「裸」などのその他の不適切な単語はアプリ上で除外されました。)
保護者は簡単にビデオを報告し、アプリから削除してもらうことができますが、そのビデオには膨大な量のコンテンツが含まれているため、子供が問題のビデオを視聴した後にのみ削除される可能性があります。検索機能をオフにすると、子供が見られる動画が制限され、それが効果があるように見えますが、アプリ内の動画の数が大幅に制限されます。
アルゴリズムと人々のせいにする
子供が見ているものをすべて監視できない場合は、厳選されたサービスを使用するのがより安全な選択肢です。 YouTube のユーザー作成コンテンツは、Hulu のキッズ セクションのような精力的な審査プロセスを経ていません。
しかし、従来のコンテンツ レビュー プロセスでも、常にすべてを把握できるわけではありません。 Netflixは先月、ある漫画の中にNSFWの絵が描かれていることに気づいた保護者がそれについてツイートし、反発に直面した。それが引っ張られるきっかけとなった(新しいタブで開きます)。
Facebook、Twitter、YouTubeなどの巨大テクノロジー企業はいずれも、自社のアルゴリズムを過信し、コミュニティに自らを監視させているとして批判に直面している。彼らのリーチは、アルゴリズムだけで警察するには大きすぎることが何度も証明されており、残念なことに、人々はインターネット上でひどい行為をし続けるでしょう。たとえこれらの企業がコンテンツをより厳密に監視したとしても（Facebookは次のことを約束した(新しいタブで開きます)）、コミュニティが反発する可能性があります。
インターネットが誰のポケットにも入っているおかげで、子供たちが年齢にふさわしくないものを見ないようにする濾過装置や設定は決して存在しません。インターネットはポジティブなツールにもなり、汚水溜めにもなり得ます。それは、すべての親が適切なときに子供と話し合うべきことです。
長期的には選択肢は限られていますが、少なくとも、不気味な YouTube 動画から子供たちを守ることに関しては、親にはある程度の権限があります。検索機能をオフにするだけでは不十分な場合は、キッズ アプリを削除し、YouTube のサイトをブロックする(新しいタブで開きます)お子様のデバイスから。
ユーザーが作成したコンテンツにはリスクが伴いますが、親がリスクを負う必要はありません。
著者
ブライアン・コーバー
編集者
ブリタニー・レヴィン・ベックマンとケイト・ソマーズ・ドーズ
美術
アンバー・デル・モラル