アマゾンの顔識別ソフトウェア Rekognition は、国会議員を正確に識別することさえできません。
アメリカ自由人権協会は、議員の写真と顔写真を比較することで、リアルタイムの顔識別ソフトウェア（群衆の中の一人一人の顔を識別できる）をテストしたところ、28人の議員が顔写真の人物と誤認された。
この研究は、顔識別ソフトウェアが悪影響を受けているという批判を強化するという理由で、議会に顔認識技術の使用を禁止させるACLUのキャンペーンの一環である。人種的偏見それらを作成する人々のこと。研究で検出された 28 件の偽陽性画像のうち、6 件の画像は議会黒人議員団からのものでした。さらに、有色人種議員は議会の約20パーセントしか占めていないにもかかわらず、依然として誤検知者の40パーセント以上を占めていた。
Amazon は全国の法執行機関に Rekognition を売り込むことに成功しており、ACLU は電子フロンティア財団などの他の公民権団体と結集して、政府機関がこの技術を監視に使用するのを阻止している（Amazon の主張では、その技術が何で作られたかではない）というのは、ACLUはそのような目的で都市に売り込まれていることを発見したが)。
ACLUのテクノロジー・自由人権弁護士ジェイコブ・スノー氏はこう語った。マッシュ可能同氏は議会議員の顔の検査を13ドル未満で実施したと述べており、結果が不正確であるにもかかわらず、いかに安価で入手しやすいかを浮き彫りにしている。誤検知者の中には見た目が似ているものもあったが、結局のところ、似ているということは同じ意味ではない、とスノー氏は述べた。
しかし、その類似性が生死を分ける可能性がある、と彼は言う。
「法執行機関でこの情報を提示する際に危険なことの 1 つは、照明、角度、年齢などに違いがある可能性があるため、写真だけを基にそれらが本物であると言うのは本当に難しい場合があるということです。同じ人間だ」とスノーは語った。 「顔認識は、法執行機関のユーザーに一致があることを示唆する可能性があります。そして、法執行機関のユーザーがシステムを信頼し、同じレベルの懐疑を適用しない可能性が高い、または合理的な可能性があります。」
Mashable のトップ ストーリー
顔写真で誤認された議員28名は以下の通り：ジョン・アイザクソン氏（共和党、ジョージア州）、エドワード・マーキー氏（民主党、マサチューセッツ州）、パット・ロバーツ氏（共和党、カンザス州）、サンフォード・ビショップ氏（民主党、ジョージア州）、ジョージ・バターフィールド氏（民主党、ノースカロライナ州） ）、レイシー・クレイ（民主党、ミズーリ州）、マーク・デソルニエ（民主党、カリフォルニア州）、アドリアーノ・エスパイラ（民主党、ニューヨーク州）、ルーベン・ガジェゴ（アリゾナ州民主党）、トーマス・ギャレット（共和党、バージニア州）、グレッグ・ジャンフォルテ（共和党、モンタナ州）、ジミー・ゴメス（カリフォルニア州民主党）、ラウール・グリハルバ（アリゾナ州民主党）、ルイス・グティエレス（イリノイ州民主党）、スティーブ・ナイト（共和党、カリフォルニア州）、レナード・ランス氏（共和党、ニュージャージー州）、ジョン・ルイス氏（民主党、ジョージア州）、フランク・ロビオンド氏（共和党、ニュージャージー州）、デビッド・ローブサック氏（民主党、アイオワ州）。 クレジット: ACLU
議会黒人幹部会は最近、次のような文書さえ書きました。手紙アマゾンの社長ジェフ・ベゾスに対し、同社が販売した顔認識技術が黒人、不法移民、抗議活動参加者に不当な影響を与える可能性について懸念を表明した。
オレゴン州ワシントン郡保安官事務所とオーランド警察署は両方ともすでに Rekognition を使用しています。
オーランドは Rekognition を操縦しているだけですが (2回目）、その使用はさまざまな理由でコミュニティから反発を受けています。その中には、最初のパイロットが一般の人々に相談せずに行われたこと、抗議活動が高まっているときに非常に多様な都市で起こっていることなどが含まれます。
「これは、特に法執行機関によって顔認識が導入された場合、一般の人々に実際の具体的な被害がもたらされる可能性があることを浮き彫りにしている」とスノー氏は述べた。
「私たちが得た一致結果の 100% は不正確でした。このことは、実際には一致が存在しない場合でも、顔認識が 2 つの顔の間に緊密な一致があることを示唆できることを非常に強調しています。」
おそらく議会議員たちは、誤認される側がどのような気持ちになるかを知っているので、反応するだろう。しかし、いずれにせよ、これは顔認識がいかに簡単に行われるかを示すもう 1 つの事件にすぎません。仕事ができない正しく。
更新: 2018 年 7 月 26 日、午後 12:07 EDTアマゾンは語ったマッシュ可能、「ACLU による最近の Amazon Rekognition のテストに関しては、テストで使用された信頼しきい値 (これは、Rekognition が一致を検出する可能性のパーセンテージ) の設定に関するベストプラクティスに従うことで、結果をおそらく改善できると考えています。 」
更新: 2018 年 7 月 27 日午前 11:51 PDTアマゾンが投稿したブログ投稿金曜日にはACLUによるツールの使用について言及された。 ACLUの結果は「誤解されている」と主張した。
公共の安全のシナリオに対してより高い信頼度の閾値を設定することを強調した。 「食品を識別するために機械学習を使用することと、顔の一致が法執行措置を考慮するのに正当であるかどうかには違いがあります。後者は深刻なビジネスであり、はるかに高い信頼レベルが必要です」と投稿には書かれています。
この投稿は、機械学習がどのようにプロセスであり、より多くのデータが追加されるにつれて常に改善されるかを説明するピザ焼きのたとえで終わりました。 「温度設定を間違えるとピザが焦げてしまう可能性があるので、オーブンを捨てるべきではありません」と投稿は締めくくられている。