Algorithms control your online life. Here's how to reduce their influence.

マッシャブルのシリーズアルゴリズム私たちの生活と未来をますます制御する謎のコード行を探ります。

2020 年の世界には、アルゴリズムに警戒すべき理由がたくさんあります。アメリカ大統領選挙の結果次第では、もう一つのチャンスが与えられるかもしれない。いずれにせよ、私たちがオンラインで誰と何を見るのか（そして何が見えないのか）をますます決定するこれらのハイテクデータ駆動型計算の影響を疑問視する時期が来ています。

アルゴリズムの影響は目まぐるしく拡大し始めており、文字通り何十億もの人々がその波及効果を感じています。今年は社会信用システムの不吉な年です。ブラックミラー中国政府が運営する「行動スコア」のようなサービスが正式に開始される予定だ。聞いているほど悪くないかもしれませんしかし、それは国民全体に対する金融信用やその他のインセンティブを強化または強化することになります。さらに 10 億の人間の命を脅かす未調査の、非の打ちどころのないアルゴリズムが 10 億も存在します。

英国では、今年の A レベル アルゴリズムを忘れている人はほとんどいないでしょう。 A レベルは 18 歳にとって重要な試験です。彼らは大学への内定を決めるか否かを決めます。新型コロナウイルス感染症（COVID-19）がそれらをキャンセルした。教師たちは、各生徒が何点を取るかを尋ねられました。しかし政府は、学校の過去の成績とともにこれらの数値をアルゴリズムに入力しました。結果: すべての教師の推定値の 40% が下方修正され、恵まれない地域の成績優秀な子供たちの大学進学が不可能になりました。ボリス・ジョンソンは結局撤退した「ミュータントアルゴリズム」のせいだ。それでも、元同僚首相は、このAレベルの大失敗で再選の可能性が台無しになる可能性があると考えている。

米国では、政府の影のアルゴリズムが実行されたり、私たちの生活が台無しになったりすることについて考える傾向はありません。まあ、あなたがさらなる犯罪を犯す可能性をアルゴリズムが予測する州の被告でない限りは別ですが（腹をくくって、マイノリティ・リポート）そして量刑について裁判官に助言する。米国の刑事司法アルゴリズムは、おそらく知られても驚くべきことではないが、営利企業によって運営されており、人種差別を永続させるとして非難されている。プロパブリカが発見したフロリダ州とウィスコンシン州の COMPAS などは、黒人被告は白人被告よりも「高リスク」とレッテルを貼られる可能性が2倍— そして、約 40% の確率で間違っていました。

もちろん、このような「ミュータントアルゴリズム」の欠陥は、あまりにも人間的な設計者の反映です。数学自体は人種差別主義でも階級主義でも権威主義的でもありません。アルゴリズムは単なる命令のセットです。厳密に言えば、キッチンにあるレシピ本にはそれらが満載です。他のレシピと同様に、アルゴリズムの品質はその材料に依存します。そして、その結果を食べなければならない私たちは、キッチンで何が起こったのかについて十分に考えていません。

関連ビデオ: これがアルゴリズムの仕組みです

数学者のハンナ・フライは、2018年の著書の中で、「私たちの周りでは、アルゴリズムが一種の便利な権限源、責任を委任する簡単な方法、何も考えずに実行できる近道を提供しています」と書いています。Hello World: アルゴリズム時代の人間であること。 「毎回 Google の 2 ページ目までクリックして、すべての結果について批判的に考える人がいるでしょうか?」

ただし、アルゴリズムをまったく使わずに生活してみると、アルゴリズムが存在しないことにすぐに気づくでしょう。アルゴリズムは、人間の頭脳よりも速く、効果的に複数の確率を計算できるため、多くの場合効果的です。 Google マップのルート案内を裏切ることができると考えて、長時間移動を続けたことのある人なら、この真実を知っているはずです。この思考実験はアルゴリズムのない日を想像してみる交通信号システムでも使用されていたため、ひどい渋滞に終わりました。

それでも、特にオンライン コンテンツの分野において、アルゴリズムが私たちのインターネット生活に与える影響について懸念するのは当然です。科学者がこの問題を研究すればするほど、人気の検索、ビデオ、ソーシャルメディアのアルゴリズムが私たちの脳を支配しているように思えます。研究によると、それらが私たちの気分を変える可能性があることがわかっています（Facebook自体がそれを証明した）そしてはい、2016年の投票でも（これが、トランプ陣営が今回Facebook広告に多額の投資を行っている理由を説明している）。

そこで、2020 年のアルゴリズムの全影響を知る前に、各主要コンテンツ サービスのアルゴリズムを見てみましょう。その多くは驚くほど簡単に私たちの生活から消去されます。

1. フェイスブック

地球上のどのアルゴリズムも、中国の社会信用システムでさえ、マーク・ザッカーバーグほどの力を持っていません。毎日、20 億人近くの人々が Facebook を訪れます。ほぼすべての投稿では、アルゴリズムがユーザーの関心を維持する可能性が最も高いと企業が判断した順序で投稿を表示できます。つまり、実際にどれほど親しかったかに関係なく、過去に関わった友人からの投稿がより多く表示されることになります。また、大規模な一進一退の争いを引き起こすコンテンツが上位に押し出されることも意味します。そしてザッカーバーグはそれを知っている。

「私たちのアルゴリズムは、人間の脳が分裂に惹かれる性質を利用している」と、Facebookが発掘した2018年の社内調査では警告されている。ウォール・ストリート・ジャーナル。これらの変異したアルゴリズムを放置しておくと、「ユーザーの注目を集めてプラットフォームの利用時間を増やすために、ますます意見を対立させるコンテンツ」が好まれることになるでしょう。

ザッカーバーグ氏は、より調和のとれた投稿を表示するためにアルゴリズムを微調整した場合、保守派が不当に影響を受けることを恐れ、この研究を棚上げしたと伝えられている。 Facebookの保守派にとっては良い4年間だった。審判を演じる2016年に彼らがニュースの編集に人間の編集者を使うのをやめるようザッカーバーグに請願して以来。Facebook で最もパフォーマンスの高い投稿2020年に。毎日、ベン・シャピロ、フランクリン・グラハム、ショーン・ハニティなどの名前がリストを占めています。

しかし、保守派ですらフェイスブックのアルゴリズムに対して不安を抱く理由がある。友達の人気の投稿を見ると、私たちをさらに憂鬱にすることが示されています。フェイスブック依存症というのは、うつ病性障害との相関性が高い。 2018年のレポートによると、いわゆる「スーパーシェアラー」は、あまりアクティブでないユーザーをかき消してしまうという。アルゴリズムに対するスーパーシェアラーの影響を減らそうとした幹部が突然会社を辞めた。

修正方法

幸いなことに、彼らの影響を自分で減らすことができます。 Facebook では依然としてタイムラインから並べ替えアルゴリズムを削除でき、すべての友達やフォローしているユーザーのすべての投稿を時系列の逆順に表示することができます (つまり、最近投稿されたものが一番上に表示されます)。 Facebook.com で、[ニュース フィード] の横にある 3 つの点をクリックし、[最新] をクリックします。アプリでは、[設定]、[もっと見る]、[最新] の順にクリックする必要があります。

結果？そうですね、ほとんど忘れていた古い友人に再会して驚くかもしれません。そして、彼らの投稿を操作すると、通常のタイムラインに戻ったときのためにコンテンツ アルゴリズムをトレーニングすることになります。私の経験では、逆時系列順は Facebook を閲覧する上で最もスリリングな方法ではありません。アルゴリズムはそれが何をしているのかを知っており、最もエキサイティングな投稿であなたの脳を固定します。しかし、それは素晴らしい修正です。あなたが毎日 Facebook を利用する 20 億人のうちの 1 人であれば、少なくとも週に 1 回はこのバージョンを試してください。

2. YouTube

YouTube の「次を見る」アルゴリズムは、Facebook が物議を醸す投稿を好むことよりも民主主義にさらに悪影響を与える可能性があります。私たちが視聴する YouTube 動画の約 70% は、サービスのアルゴリズムによって推奨されており、何があってもより多くの YouTube 動画や広告を視聴できるように最適化されています (平均視聴セッションは現在1時間を超えています）。

つまり、好きでも嫌いでも、視聴し続けることになるので、YouTube は物議を醸すコンテンツを優先します。そして、物議を醸しているコンテンツを 1 つ視聴すると、アルゴリズムはそれがあなたが興味のあるものであると判断し、その動画の視聴者が次に見ることを選択した種類のコンテンツにあなたを誘導します。これは、あなたの祖父母がどのようにして、比較的無害な Fox News ビデオを見ることから始めて、最終的に QAnon 陰謀論のウサギの穴に落ちていくのかを説明しています。

元GoogleプログラマーのGuillaime Chaslot氏は、YouTubeのアルゴリズムには3つの州の7万7000票で決まった2016年の選挙の結果を左右するほどの偏りがあった可能性があることを発見した。 「最初のクエリが『トランプ』であれ『クリントン』であれ、推奨された動画の80パーセント以上はトランプに好意的なものだった」と彼は述べた。書きました直後に。 「これらの勧告の大部分は分裂を招くフェイクニュースでした。」同様に、Chaslot 氏は、検索クエリから推奨された動画の 90% が「地球は平らですか?」ということを発見しました。はい、確かにそうです、と言いました。

これは米国だけの問題ではありません。YouTube アルゴリズムの政治的影響を示す最も重要な事例の 1 つはブラジルでした。そこでは、過激な右翼候補ジャイール ボルソナロが予期せず YouTube のスターになった後、大統領に選出されました。 「YouTubeの検索と推奨システムは、ブラジルでユーザーを極右や陰謀チャンネルに組織的に誘導しているようだ」2019年ニューヨークタイムズ調査見つかった。ボルソナロ氏の同盟者でさえ、彼の勝利の功績をYouTubeに認めている。

修正方法

[次へ] リストの横にあるオプションである自動再生をオフにすると、少なくとも YouTube のアルゴリズムが推奨するものを盲目的に視聴することはなくなります。レコメンデーションを完全にオフにすることはできませんが、少なくとも、テクノロジーにあまり詳しくない親族に対して、アルゴリズムが意見を優先して過激化するために最善を尽くしていることを警告することはできます。

チャスロットの非営利団体algotransparency.orgは、特定の日にサイト全体でどの動画が最も推奨されているかを表示します。今では、Fox News のコンテンツが上位に表示される傾向があることに驚かないかもしれません。 YouTube のおすすめアルゴリズムは、ユーザーの好き嫌いを学習するのに何年もかかっている場合、あなたには普通に見えるかもしれません。しかし、まったく新しいユーザーにはまったく別のものが表示されます。

3. インスタグラム

親会社の Facebook ではフィードを時系列の逆順に表示できますが、Instagram はそのオプションを完全に廃止しました2016年に遡って—「シャドウバンニング」に関するさまざまな陰謀論につながります。スクロールを長く続ければすべての写真やストーリーが表示されますが、特定の名前が頻繁にトップに表示されるため、ストーカーのように感じても仕方ありません。 (こんにちは、インスタグラム大好きさん!)

修正方法

現在2月のアップデート, Instagramでは、少なくとも、あなたがうっかり無視していた人を確認できるようになります。右下隅にあるプロフィール アイコンをクリックし、「フォロー中」の番号をクリックすると、「最もやり取りの少ないユーザー」と「最もフィードに表示されているユーザー」の 2 つのカテゴリが表示されます。前者をクリックしてリストをスクロールし、最も無視されているフォローに愛を与えてください。

アカウントをフォローした順序でフィードを並べ替えることもできますが、これは実に腹立たしいことです。単純に時系列のフィードを提供するだけでなく、なぜそのオプションを提供するのでしょうか?インスタグラムもそう言われています「最新の投稿」機能をテストしていますこれにより、最近の出来事を知ることができますが、まだすべてのユーザーに展開されていません。

4. ツイッター

ソーシャル メディアのライバルと同様に、Twitter は、最新順 (Twitter が長年知られている形式) 以外の方法で情報を表示できる方法を考え出すことに夢中になっています。創設者のジャック・ドーシーは、次のようなソリューションを導入しました。トピックをフォローする人だけでなく、最もエンゲージメントを高めたツイートをタイムラインに最初に表示します。

修正方法

これらの非時系列的な調整はすべて、ページ上部の「ホーム」という見出しに分類されます。その横にある星アイコンをクリックすると、従来の Twitter スタイルの「最新のツイート」に戻ることができます。すべてのソーシャル メディア サービスの中で、Twitter はその推奨アルゴリズムを最も無視しやすいサービスです。

最新のツイートで良いものを見つけるには、もう少しスクロールする必要があるかもしれません。もちろん、何が表示されるかは、タイムラインに浸っている時間帯によって異なります。それでも、最新のツイートは、ミュータント アルゴリズムに妨げられることなく、フォローしているユーザーからのさまざまな意見や情報を得るのに最適な方法です。

続きを読むからアルゴリズム:

• そもそもアルゴリズムとは何でしょうか?

• TikTok でコンテンツのトリガーを避けることはほぼ不可能です。

• セクシュアリティを定義するアルゴリズムは実際にはひどいものです。もっと良い方法があります。