TikTok でコンテンツのトリガーを避けることはほぼ不可能です

マッシャブルのシリーズアルゴリズム私たちの生活と未来をますます制御する謎のコード行を探ります。

TikTokのアルゴリズムはほぼあまりにも関連性のあるコンテンツを提案するのが得意ですが、一部のユーザーの精神的健康に悪影響を及ぼす可能性があります。

TikTok 上でコンテンツのトリガーを回避することはほぼ不可能であり、アプリの終わりのない For You ページの性質により、ユーザーは簡単に特定のトリガー用に厳選された提案コンテンツをスクロールすることになる可能性があります。

たとえば、乱れた食生活を賛美する動画がTikTokで人気を博している。 # flatstomach のタグは 4,420 万回再生されています。タグ #proana と #thinsp0 は、拒食症促進と薄いインスピレーションの略で、それぞれ 210 万回と 446,000 回の再生回数を記録しています。上級編集者のレイチェル・シャーリーン・ルイスはこう書いている。ビッチ, プロアナ文化とインターネットは、TikTokがティーンエイジャーの携帯電話に普及するずっと前から絡み合っていた。ソーシャルメディアの初期の頃、若者はフォーラムや掲示板を利用して体重減少を追跡し、ダイエットのヒントを交換していました。 2010年代初頭、鋭い鎖骨やワイフィッシュの胸郭を美化する摂食障害のブログがTumblrで隆盛した。ごく最近では、摂食障害をテーマにした Twitter アカウントのコミュニティが使用されました。ミーム会員に制限的な食事療法を続けるよう奨励するためです。

他のプラットフォームでも ED (摂食障害) コミュニティの断片に遭遇する可能性はありましたが、ユーザーは意図的にそのコミュニティを探すことで見つけられる可能性が高くなりました。しかし TikTok では、ユーザーは興味に基づいてアルゴリズムによってコンテンツを提供されます。ユーザーが #diet または #covid15 のタグが付いた動画を長時間視聴した場合、このフレーズは次のことを指すために使用されます。隔離中に体重が増えた再生回数は 210 万回に達しており、このアプリは今後も減量やダイエットに関するコンテンツを提案し続けます。緑茶、餅、その他摂食障害のコミュニティで人気の低カロリー食品で生き延びているという食事日記を並べるのは、滑りやすい坂道だ。

TikTokのコンテンツ諮問委員会のメンバーであるテクノロジー倫理学者のDavid Polgar氏は、TikTokのFor Youページを大きな水源に接続されたホースに例えています。 TikTok は、ユーザーが楽しめるかどうかわからないコンテンツを大量に提供するのではなく、アルゴリズムを使用してホースを通る水の「流れ」をより適切に制御します。

ポルガー氏は電話で、「ある種のエコーチャンバーのフィルターバブルを強化していないことを確認し、誰もウサギの穴に落とさないようにすることについて、非常にデリケートな疑問を引き起こす」と電話で語った。 YouTube が受信したと彼は指摘した。大きな反発昨年、ユーザーの視聴履歴に基づいて、ますます過激化する右翼の陰謀動画を示唆したとして、

私のED TikTokへの転落は、皮肉なことに、摂食障害の回復に鈍感であるとして人気クリエイターを批判するビデオから始まりました。 5,600万人のフォロワーを持つ19歳のTikTokダンサー、アディソン・レイ・イースターリングは6月に次の理由で暴行を受けた。彼女のスポンサーシップを宣伝する身体醜形障害についての曲に合わせてアメリカン・イーグルと一緒に踊りました。ライトウォッシュのママジーンズを着たイースターリングは、ビーチバニーズのコーラスに合わせて踊ります。「プロムクイーン」。歌する「ママ ジーンズ」というフレーズが含まれていますが、その前に「黙って、カロリーを計算してください。ママ ジーンズが似合うことはありませんでした。」という歌詞が前にあります。

イースターリングさんは他のTikTokユーザー、特にED回復に携わるユーザーからの反発に直面した。でデュエット1曲現在は削除されている動画では、若い女性が栄養チューブをフレーム内に引きずり込み、イースターリングのダンスを嘲笑している。他のユーザーは、摂食障害がどれほど深刻であるかを指摘するために、摂食障害に関する自分の経験をビデオにキャプションを付けました。ある人は、イースターリングのスポンコンがいかに鈍感であるかを指摘しようとした。記述彼女自身の制限的な食生活。別のTikTokユーザーは、摂食障害がどれほど破壊的なものになるかをグラフィックで強調しようとした数え上げる彼女はかつて自分の腹を切り落とすことを空想していたことを。

イースターリングを批判しようとして、TikTokユーザーは意図せずして、摂食障害を蔓延させるまさに競争という心理に陥ってしまった。摂食障害患者の治療を専門とする管理栄養士のアシュリー・リトウィン氏は、回復期であっても症状を比較することで競争力が得られる可能性があるとMashableに語った。摂食障害に苦しむ人の多くは、ただ痩せることだけを目指すのではなく、最も薄い。回復中の人は、最も病気になりたいとさえ思うかもしれません。

「摂食障害の人は、部屋やソーシャルメディア上で最も具合が悪くない限り、自分が『それほどひどい』とは感じないことがあります」とリトウィンさんは電子メールで述べた。 「これは非常に危険です。なぜなら、EDの人は、最も病気であることに『勝つ』ためにあらゆる努力をし、そこに到達するために自分の体を極度に傷つけることが多いからです。」

氷を噛む、食べ過ぎた後に排出するなどの極端な習慣を強調してイースターリングを非難するのは、実際にはもっとイースターリングのオリジナルのダンスよりもEDの回復に有害であり、誰かがその行動を真似して再発する可能性があるためです。私がカロリー計算、極端な運動、その他の自滅的な習慣を説明する善意ではあるが間違ったコンテンツに取り組んでいたとき、私の For You ページにはフィットネスとダイエットに関するコンテンツがさらに表示されるようになりました。 #edrecovery のタグが付いた動画を「いいね」してからわずか数日後、私の For You ページに、食事を抜いてガムを噛んでお茶を飲むことで平らなお腹を実現した女性の動画が表示されました。

TikTokユーザーのFor Youページに掲載されるのはEDコンテンツだけではありません。自傷行為、自殺、性的暴行、虐待、精神的健康問題、その他の潜在的に刺激的なトピックに関する動画がアプリ上で流通しています。他の形式のソーシャル メディア プラットフォームと同様に、刺激的なコンテンツへの遭遇を完全に防ぐことは不可能です。ただし、TikTok は独自の構造になっており、続くユーザーが関与した場合にトリガーとなるコンテンツを表示します。

TikTokは中国資本による安全保障上の懸念がある中、より透明性を高める取り組みとして、明らかにしたそのアルゴリズムがどのように機能するかが数か月前に明らかになりました。ユーザーがビデオをアップロードすると、アルゴリズムは、ビデオを投稿したユーザーをフォローしているかどうかに関係なく、そのビデオに関与する可能性が高い他のユーザーの小グループにそのビデオを表示します。グループが「いいね」をしたり、共有したり、あるいは単に全体を視聴したりして、そのビデオに関心を持った場合、アルゴリズムによってそのビデオがより大きなグループに表示されます。もし彼らは好意的な反応があれば、そのビデオは再びより大きなグループに上映され、このプロセスはビデオが急速に広まるまで続きます。

個々のユーザーの興味を判断するために、TikTok はキャプション、サウンド、ハッシュタグなどのさまざまな指標を使用します。特定のフレーズでキャプションが付けられた動画を最後まで視聴するなど、ユーザーがこれらの指標を利用した場合、アルゴリズムはそれをゴーサインとみなし、同様の動画を推奨し続けます。

悪意は少ないよブラックミラーロボットの乗っ取りを予告するような計画、そして善意の機能における不幸な見落としのようなもの。トリガーとなる可能性のあるコンテンツを完全に禁止するという概念は、ソーシャルメディアプラットフォームのような民間企業に言論の自由の原則を守る義務があるかどうかについての議論を引き起こした。この種のコンテンツを管理することも非常に困難です。 TikTokユーザーは、特定のフレーズのスペルを間違えることで、TikTokのコンテンツフラグを回避することができます。たとえば、自殺は「suic1de」になったり、より病的で明るいビデオでは「aliven't」になったりします。タグ #thinspo はブロックされていますが、タグ #thinsp0 はブロックされていません。ユーザーは #depression のタグが付いたコンテンツを見つけることはできませんが、#depresion の視聴回数は 4 億 9,880 万回あります。

関連ビデオ: これがアルゴリズムの仕組みです

TikTok、Twitter、YouTube のいずれであっても、一部のソーシャル メディア ユーザーは、トラウマになる可能性のあるコンテンツについて議論する際にトリガー警告を使用する非公式の社会契約に同意しています。トリガー警告は、特に物議を醸す教室では、保守的な批評家はこの用語を、難しい会話を処理できない大学生と関連付けます。トリガー警告は元々、PTSD の生存者がトラウマ的な内容を回避できるように設計されていましたが、効能疑問です。非公式な実験で、TikTok ユーザーの loveaim は、拒食症に苦しみながら最低体重だった自分の写真を 2 つのトリガー警告とともに前置きします。そして、写真を見せる代わりに、他のTikTokユーザーに呼びかけた。

「これは、トリガー警告が何の役にも立たないことを証明しています」とloveaimsは彼女の中で書いたビデオ。 「人々はそれらを無視するでしょう。彼らは、人々が投稿する非常に刺激的で問題のあるコンテンツについて『他の人に警告』しません。」

では、再発の可能性をスクロールすることに巻き込まれないようにするにはどうすればよいでしょうか?クリエイターがコンテンツのトリガーを完全に回避することを期待することはできませんし、潜在的に有害なコンテンツとして「考慮される」ものについて全員が同じ基準を持つことを期待することもできません。

TikTok 上でトリガーを積極的に回避することも困難ですが、ユーザーがトリガーを回避することを示すことはできます。興味がない特定の動画で特定の音声や特定のユーザーをブロックすることはできますが、キーワードをブロックすることはできません。 TikTok のコンテンツ諮問委員会のメンバーとして、Polgar 氏は、ユーザーが表示するコンテンツをより適切に制御できるように、より多くのカスタマイズが利用できるようにしたいと考えています。

「誰かにとって不快なものがあり、それを彼らが示した場合、そのコンテンツが再び表示される可能性を減らすためのより良い機能が必要です。それは彼らの決定であるべきだからです」とポルガー氏は述べた。

さらに、プラットフォームはメンタルヘルス組織とよりうまく連携して、特定のフラグ付きフレーズに関連するリソースを提供できます。たとえば、新型コロナウイルス感染症（COVID-19）に関する誤った情報が蔓延していることに対応して、TikTokは特定のキーワードがタグ付けされた動画にバナーを追加し、ウイルスがどのように広がるのか、また感染を防ぐ方法についての情報をユーザーに誘導した。ポルガー氏は、同プラットフォームはメンタルヘルス関連の団体と協力してユーザーにメンタルヘルスのリソースを提供する過程にあると述べた。

「多くのプラットフォームがやろうとしているのは、基本的に…それが攻撃的だったり刺激的だった場合に、率直に言って、より優れた、より直感的なデザインで、その見方を変更する簡単な方法を確保することです」とポルガー氏は続けた。 。ユーザーがトリガーとなる可能性のあるものに遭遇した場合、ユーザーを保護する「何かをクリック」できる必要があります。

一方、ユーザーは、精神的健康を害する可能性のあるコンテンツに関与しないことで、そのコンテンツを避けることができます。しかし、それは言うは易く行うは難しであり、再発を避けることがいかに難しいかを考えると、リトウィン氏はより極端な措置を提案している。アルゴリズムによって生成されたトラウマのスパイラルに陥っていることに気付いた場合は、アカウントを削除して、最初からやり直してください。

「これによりアルゴリズムがリセットされ、食べ物のアカウント、乱れた食事のアカウント、またはビキニのアカウントが常にフィード上に表示されなくなります」とリトウィン氏は書いている。彼女は、最近の患者が新しい TikTok アカウントを開始し、インテリア デザインや建築に関する動画を意図的に検索したと付け加えた。リトウィンの患者は、特定のタグが付いたビデオを視聴、共有、コメントすることで、ED 以外のコンテンツの見た目にも美しいフィードを厳選しました。 「そのようなアカウントを完全になくすことはできませんが、フィードの大部分がまったく異なる業界のものであれば、そのアカウントが登場したときに影響力を持つ可能性は低くなります。」

すでに多くのフォロワーを獲得していて、最初から始める必要がない場合は、食生活に関する動画の代わりに他のコンテンツを表示するようにおすすめページを作成することもできます。意図的に動画に取り組むことで、そうではありません食べ物やダイエットを中心とした TikTok ユーザーは、代わりに他のコンテンツを表示するようにアルゴリズムをトレーニングできます。

確かに、トリガーの可能性があるものが、厳選されたフィードを通過することがあります。そのような場合は、携帯電話の電源を切り、セラピストや愛する人などサポート担当者に電話して、気を紛らわせてもらうのが最善だとリトウィン氏は言います。

不快なコンテンツの網の中に閉じ込められていることに気付いたら、喜びをもたらしてくれるタグをフォローし始めてください。どうぶつの森島のデザイン、心地よい編み物ビデオ、最初の一歩を踏み出した生まれたばかりの子猫などが出発点として最適かもしれません。 TikTok でトリガーとなる動画に出会う可能性があるからといって、その動画が For You ページ全体を構成する必要があるというわけではありません。

自分の食行動について誰かに話したい場合は、全米摂食障害協会のヘルプライン（800-931-2237）に電話してください。 741-741 に「NEDA」とテキスト メッセージを送信して、訓練を受けたボランティアとつながることもできます。 危機テキスト行または、にアクセスしてください非営利団体のウェブサイト詳細については。

続きを読むからアルゴリズム:

• そもそもアルゴリズムとは何でしょうか?

• オンライン生活からアルゴリズムを禁止する方法

• セクシュアリティを定義するアルゴリズムは実際にはひどいものです。もっと良い方法があります。