今年のサンダンス映画祭では、AI に関する警告的な話があちこちで取り上げられましたが、空想的な SF のような話ではありませんでした。
新作ドキュメンタリー2本、社会的ジレンマそしてコード化されたバイアス、私たちのソーシャルメディアフィードを操作し、私たちの経済的または職業上の将来を決定し、路上で私たちを監視する、現在存在する人工知能の落とし穴を掘り下げ、そして彼らが発見したものはきれいではありません。
2 つのうち、社会的ジレンマ範囲が広く感じられます。 93 分にわたって、監視、資本主義、依存症、二極化について触れています。自尊心から民主主義に至るまで、あらゆるものに対するソーシャルメディアの悪影響を調査します。個人的な逸話や力強い嘆願、詳細なデータ分析を提供します。これらのトピックのどれも、それ自体で魅力的なドキュメンタリーになる可能性があります。それらをすべて 1 か所に集めて、社会的ジレンマ少し扱いにくいと感じるかもしれません。
おそらく『社会的ジレンマ』にすべての答えがあるわけではありませんが、質問を理解するための良いスタートにはなります。
この映画の強みは、オルロウスキーがテクノロジー業界の内部関係者や学者から収集した印象的な数々の対談インタビューにあります。ティム・ケンダル、Pinterest の元社長、Facebook の元マネタイズ担当ディレクター。トリスタン・ハリス、センター・フォー・ヒューメイン・テクノロジーの共同創設者は、アーカイブのニュース映像の中で「テクノロジー業界が持つ最も良心に近いもの」と述べた。そしてラシダ・リチャードソン、AI Now Institute 政策研究ディレクター。
彼の被験者たちは明らかに知識が豊富で、対処するよう依頼された問題に熱心であり、場合によっては、彼ら自身が構築に貢献したシステムに少なからず驚愕しています。こうした人たちが、ソーシャル メディア企業が採用している AI はあなたよりも賢いとあなたに警告したり、クリックさせるために採用された微妙なデザインの選択を指摘したり、ピザゲートを検索したことすらないソーシャル メディア ユーザーにどのようにしてピザゲートが提供されたのかを説明したりすると、あなたはそう思うでしょう。聞く傾向があります。
あまり効果的ではないのは、ソーシャルメディアに少しハマりすぎた10代の少年（スカイラー・ギソンド）を描いた安っぽい架空の場面が全体に織り込まれていることだ。 （ヴィンセント・カーシーザーは、自分のフィードで何を表示するかを決定する「アルゴリズム」として三重の役割を果たしています。）会話と演技には、教育ビデオの堅苦しく一般的な品質があり、物語が強調することを意図した緊急性そのものが損なわれています。
Mashable のトップ ストーリー
しかし最終的には、オルロウスキーは、単に「わかっているソーシャルメディアがどのように私たちをハッキングしているのか、そしてなぜそれが重要なのかについて。 2016年のフェイスブックの選挙問題の解決策を示唆するマーク・ザッカーバーグのアーカイブ映像に映画がカットされる頃には、もっとAI、私の聴衆は嘲笑するのに十分な知識を持っていました。多分社会的ジレンマすべての答えがあるわけではありませんが、質問を解決するのに良いスタートとなります。
ジョイ・ブオラムウィニ『コード化バイアス』 クレジット: サンダンス研究所
また、意図的ではないにしても、理想的な出発点としても機能します。コード化されたバイアス。シャリーニ・カンタイヤが監督したこのドキュメンタリーは、MIT の学生だったジョイ・ブオラムウィニが、顔認識テクノロジーでは特定のタイプの顔（肌の色が濃い女性のような）を識別するのが難しいことに気づいたことから始まり、彼女のウサギの穴を追跡して、その顔を調べます。一見些細な煩わしさの深刻な結果。
Kantayya は、人工知能の作成者の大部分が白人と男性であることによって人工知能に組み込まれた非常に人間的な偏見と、これらのブラックボックス プログラムが中立であると想定された場合に生じる問題、つまり公民権の侵害、雇用、住宅、そして刑事司法。公平な判断を通じてより平等な競争の場を作り出すどころか、コード化されたバイアスAI には既存の不平等を悪化させる可能性があると主張しています。
特に、Coded Bias は、まさにこれらの AI 問題によって不利益を被っている人々を中心に構築されています。
注目すべきは、この映画がまさにこれらの問題によって不利益を被っている人々を中心に構築されていることである。映画の中でインタビューされた専門家のほぼ全員が女性です。数学破壊の兵器著者キャシー・オニール（にも出演している人です）社会的ジレンマ）、ビッグブラザーウォッチディレクターウコッキーカルロ、そして未来主義者エイミー・ウェッブ。私たちは、顔認識ソフトウェアを導入しようとしている住宅プロジェクトの入居者、アルゴリズムによって成績が悪いとみなされて解雇された人気の教師、そして中国の国営社会信用システムを管理している若い女性に会いました。
これらを通じて、AI の偏見は抽象的な可能性ではなく、具体的な人間の懸念事項になります。そして、彼らを通じて、結集することが課題になります。この問題の巨大さ、あるいはその壊滅的な結果を避けることなく、コード化されたバイアスブオラムウィニらが特定した問題の解決に取り組むにつれて、徐々にインスピレーションを与えるような雰囲気に向かって進んでいます。
私たちは、彼女が下院で「アルゴリズム的正義は公民権に関する最大の懸念の一つである」と証言する機会を得たとき、あるいはカルロが英国の政治家ジェニー・ジョーンズとチームを組んで法的異議を申し立てたときの勝利を分かち合うよう招待されている。ロンドン市警による顔認識カメラの使用。
これらの勝利は、私たちに何かを思い出させるために不可欠であることが証明されています。できる完了します。 「誰かが何かをすべきだ」という漠然とした意味ではなく、アルゴリズムの使用を規制する法律を制定するよう政府に圧力をかけたり、欠陥のあるAIを不当な目的に使用している企業を非難したりする、より具体的な方法で。これらの小さな勝利が生み出す、「やればできる」という精神を持ち続けてください。コード化されたバイアスそして社会的ジレンマまだやらなければならない膨大な作業を引き受けるには、それが必要になるでしょう。