12 unexpected ways algorithms control your life

マッシャブルのシリーズアルゴリズム私たちの生活と未来をますます制御する謎のコード行を探ります。

アルゴリズムのせいにする。

これは、インスタグラムのフィードに同じ 5 人の人物が表示され続ける理由や、YouTube が疑わしい「次の」動画のおすすめを表示する理由を考える際の常套句となっています。しかし、ソーシャルメディアフィードを台無しにする以上に、アルゴリズム（コンピュータプログラムに何をすべきかを指示する遍在的な命令）を責めるべきだ。

アルゴリズムあなたの人生における、ありふれた、しかしそれでも重要な決断の背後にあるもの。コードが人間の代わりになることはよくありますが、それは結果が確実であるという意味ではありません。アルゴリズムとしては、同様に欠陥がある彼らの人間の創造者として。

これらは、隠された計算によってユーザーの行動や経験が決定される方法のほんの一部です。

1. パンデミック中に外食できるなら

米国連邦緊急事態管理庁（FEMA）は、州指導部がいつどの事業の再開を許可すべきかを判断するために利用できる（そして現在も利用している）パンデミック予測アルゴリズムを作成した。

ツイートは削除された可能性があります

ブルームバーグが報告しているアリゾナ州知事は予測ツールを使用して、5 月の不運な再開を早めました。連邦政府のスケジュールは、州の再活性化計画に関する学術専門家の指針よりもはるかに早かった。それがどのようになったのかを私たちは見てきました。巨大なスパイクコロナウイルスの場合。

2. 大学に入学する

入学アルゴリズムによって、学業計画が成否を分けることもあります。あワシントンポスト調査によると、44 の学校が予測ソフトウェアを使用して、入学手続きで志願者に 100 点満点のスコアを与えていることが判明しました。このスコアでは、テストのスコア、自宅の住所、成績証明書、さらには訪問した Web サイトに至るまで、学生の申請のさまざまな側面が考慮されます。これらはすべて、生徒がその学校にどれだけ強いかを評価するために計算されたものです。

これらの公立および私立大学（外部コンサルティング会社と協力）は、学生が入学を許可された場合に入学するかどうかを予測しようとしているため、学生の関心やキャンパスとの相性の認識も計算されます。この計算は応募前に行われる場合があるため、可能性の高い候補者をターゲットにすることができます。

3. あなたの成績

英国では先週、教育省の当初の決定を受けて学生らが抗議活動を行った。アルゴリズムを使用するにはパンデミックによる閉鎖中に学生が大学入学の可能性を決めるテストを受けることができなかったため、成績を発行するためだ。生徒たちは、人間が過去の成績に基づいてスコアを計算しているのではなく、コンピューターがスコアを計算していることに気づきました。貧しい学校の生徒たちは、低い評価を受ける可能性が高くなりますより裕福な教育機関の学生よりもコンピューターの計算に基づいています。激怒した学生たちは学部に決定を撤回させた。

ツイートは削除された可能性があります

同様の状況により、今年の国際バカロレア プログラムでも機械に採点機能が与えられました。最終試験は実施できなかったため、プログラムは、同じ学校の元生徒の成績に加え、年の初めの成績と課題に基づいて生徒の成績を予測するアルゴリズムを構築したという。有線。多くの学生は、予想よりも低いスコアを受け取り、大学や他のプログラムに参加できなくなることにショックを受けました。 25,500 人以上の生徒、教師、保護者、その他の支援者が署名しました。オンライン請願プログラムに対しスコアスキャンダルを認め、問題を修正するよう要求している。

4. アパートを借りる

アルゴリズムは決定するだけではありません家賃はいくらですか, しかし、リースを契約できるかどうかさえコンピューターが判断してくれるかもしれません。身元調査ソフトウェアは、アルゴリズムを使用してテナント候補者のプロフィールを作成し、家主がどの応募者を選択するかを決定するために使用します。しかし、ニューヨークタイムズ調査によると、自動レポートの多くは誤った情報をまとめており、その多くは似た名前の間違った人物からのものであることが判明しました。

バックグラウンドチェックは迅速に生成され、人間が情報を検証することなく送信されます。虚偽の情報を理由に数百人の賃貸人が入居を拒否されたことを受け、審査を行う会社に対する訴訟が山積している。共通の姓を持つ人は、審査が不正確なため、レンタルできない可能性があります。

5. 住宅ローンの決定

あなたが黒人またはラテン系アメリカ人で、新しい住宅のローンを購入している場合、金利は高くなる可能性があります。貸出金利の計算に使用されるアルゴリズムには人種的偏見があります。カリフォルニア大学バークレー校の研究見つかった。こうした方式は、対面での差別事件を減らす傾向にあるが、融資を求める際にあまり買い物をしない申請者にとっては不用意にコストを増加させることになる。そうした申請者は、白人の住宅ローン希望者に比べて、黒人やラテン系アメリカ人であることが多い。

関連ビデオ: では、アルゴリズムはどのように機能するのでしょうか?

6. 保険の価格設定

保険はリスク評価がすべてですが、人間が申請書を審査するのではなく、ソフトウェアがどの程度危険に見えるかを判断します。企業は同じくらいスクラップします個人データできるだけあなたのことを。ある保険グループは、自動車保険の車に搭載されたトラッカーと同様に、顧客の行動を把握するためにウェアラブルやその他のデジタル トラッカーを使い始めました。保険会社があなたが不健康な食生活をしていたり​​、ほとんど運動をしていないと判断した場合、さらに請求される。

7. 雇用される

採用ソフトウェアは採用プロセスを合理化することを目的としています。しかし、名前、性別、民族、その他の人口統計に基づいて、特定の応募者が有利になる可能性があります。あなたの履歴書とカバーレターは、特に国内の大企業や世界的な企業に応募する場合、人の目に触れる前にスキャンされることがよくあります。世界経済フォーラムと説明します。

審査プロセスは応募者を絞り込むことを目的としているため、応募作品に特定のキーワードや教育要件が含まれていない場合は、応募を取りやめてください。このステップの後でも、AI ツールなどHireVue、ビデオ面接を評価して、対面面接が適切かどうかを判断できます。あなたの言葉の選択、口調、表情は、あなたが明示的に知っているわけではない雇用主の仕様に基づいて追跡され、計算されます。

8. 仕事のスケジュール

人間の管理者が労働時間を設定したり、休暇申請のスケジュールを変更したりする代わりに、多くの企業はソフトウェア サービスを使用しています。ある調査によると、ターゲットやスターバックスのような膨大な時間労働力を抱える大企業は、空き状況をシステムに組み込んでスケジュールを作成しているという。マザーボードの調査。

従業員向けソフトウェア会社クロノスのようなスケジュール管理サービスは、「スケジュールの不確実性」、つまり不安定で一貫性のない労働時間につながる可能性があります。これは有色人種の女性に最も影響を及ぼします。カリフォルニア大学バークレー校の研究昨年発売されたものを発見。

9. 仕事を辞めるかどうか

企業が従業員を働き続けるには退職面接が遅すぎます。代わりに、新しいアルゴリズム従業員が不満を抱き、退職する可能性がある従業員について、従業員が通知するかなり前に企業に警告することができます。

2人の研究者は、誰かが船から飛び降りようとしているかどうかを計算する方法を発見しました。このアルゴリズムは、組織の大規模な変更や、その人の仕事に対するつながりなど、いくつかの重要な要素を考慮して、あなたがそのポストを辞めようとしているかどうかを予測します。研究者らは、誰かが退職するかどうかを測定する主な指標として「離職ショック」と「定着度」を挙げている。ショックは、会社内での変化や私生活での変化である可能性があります。埋め込み度は、誰かが職場コミュニティとどの程度つながっているか、そして個人的な興味やスキルが日々の仕事や役職と一致しているかどうかを表します。

この情報は人事チームにとって非常に価値があり、人事チームは特定の従業員や状況の定着に重点を置くことができます。

10. ギグワーカーの収入はどれくらいか

ヨーロッパのウーバードライバーらが、インターネットへのアクセスを求めて訴訟を起こしている。秘密の計算配車会社はドライバーと旅行をマッチングするために使用しています。ドライバーらは、どのドライバーが特定の運賃を受け取るかをアプリがどのように決定するのか、またウーバーがどのようなプロフィールや履歴情報を追跡しているのかを理解するのは自分たちの権利だと主張している。ドライバーは、Uber アプリが個々の乗車ごとにどのように機能するかについては知らされていません。

食品や食料品の配達など、ほとんどのギグワーカーがどのように仕事を割り当てられるかについても、同様に不透明な状況だ。

11. 自分が犯罪の危険性があるかどうかを判断する

隠された計算により、実際に何かが起こる前に、犯罪を犯すかどうかを判断することができます。のニューヨークタイムズ英国の都市が作成し、十代の若者と「リスクにさらされている」若者に割り当てているリスクスコアについて報告しました。スコアは警察と政府の記録に基づいており、若者が何らかの社会プログラムに参加しているかどうかを確認します。また、学校への出席、他の「高リスク」の子供たちとのつながり、住宅や親に関するその他のデータも使用されます。

同様の計算は、次のようなアメリカの刑務所制度にも適用されています。フィラデルフィア。そこでのアルゴリズムは、最近釈放された個人に対する保護観察期間を決定します。

12. 出会い系アプリで誰とマッチングするか

出会い系アプリの利用以前のデータ誰が誰を好きになり、今後何が機能するかを予測します。したがって、アルゴリズムは、以前のマッチメイキングがどのように機能したかに基づいて、誰を候補者として提供するかを決定し始めます。このように研究論文調べてみると、左右にスワイプする前に、選択内容がすでに事前にフィルタリングされています。研究者らは、このシステム設計を「ユーザーの意思決定の自律性を無効にする」と呼んでいます。

ツイートは削除された可能性があります

抗議活動を行っている英国の学生の一人は、「すべてはコンピューターアルゴリズムのせいだ」と語った。

続きを読むから アルゴリズム:

• そもそもアルゴリズムとは何でしょうか?

• オンライン生活からアルゴリズムを禁止する方法

• セクシュアリティを定義するアルゴリズムは実際にはひどいものです。もっと良い方法があります。