誰が衛兵を守るのか？アマゾン！
アマゾンはリリースされたガイドライン法案を作成する際に議員に考慮してもらいたいと考えている顔認識ソフトウェアについて。この投稿により、Amazonマイクロソフトに入社このテクノロジーの規制、特に法執行におけるその適用を求めています。
ACLUが指摘しているように、アマゾンの提案は、テクノロジーの「悪用」を証明する責任を、製造元であるアマゾンではなく、テクノロジーを使用する人々に課している。驚き！
「弱い枠組みを提案しても、アマゾンの顔監視製品に対する責任が免除されるわけではない」とACLU上級立法顧問ニーマ・シン・グリアーニ氏は電子メールでMashableに語った。
AmazonはACLUテスト後に木曜日のブログ投稿でガイドライン案を掲載した差別的な可能性を示した顔認識技術である Rekognition のことです。アマゾンは先月叩かれた人権団体、自由人権団体、司法制度改革推進者を含む85の組織が法執行機関にこの技術を販売したことが評価された。のACLU は説明しますこの技術は「政府の手による悪用の準備ができている」とし、「有色人種や移民を含む地域社会に重大な脅威をもたらす」と述べている。
アマゾンは、自社のテクノロジーが差別にどのように関与しているかについてのACLUの分析を否定している。しかし同社は、Rekognition が物議を醸すことを少なくすることを期待して、立法ガイドラインを提出している。 Amazon はその提案に関するブログ投稿で次のように書いています。
私たちが Amazon Rekognition を提供してきた 2 年以上の間、法執行機関による悪用の報告は 1 件も受けていません。これまでの強力な実績を踏まえても、人々が顔認識テクノロジーが差別に使用されないように監視とガイドラインの導入を望む理由は理解できます。私たちは、個人の公民権を保護し、政府による顔認識技術の使用の透明性を確保する適切な国内法的枠組みを求める声を支持します。
そしてアマゾンの否定に対して、ACLUは「ノー」と言う。
「アマゾンは法執行機関による悪用の報告は一件も受けていないとしているが、つい先週報告されたばかりだ」気づかせた悪用の疑いがあったが、何の措置も講じなかったと伝えられている」とシン・グリアーニ氏は語った。
シン・グリアーニ氏は、AmazonのRekognitionソフトウェアを使用していることが知られている唯一の警察署であるオレゴン州ワシントン郡保安局が、ソフトウェアに99パーセントの精度閾値を設定するというAmazon自身の推奨を遵守していなかったことが判明した1月のGizmodoのレポートについて言及している。実際、Gizmodoによると、警察の広報担当者は、同署はいかなる閾値も使用していないと述べた。 (しきい値により、問題の画像と一致しない画像が一定の割合未満で除外されます。)
しかしアマゾンは、この投稿が最初に公開された後にMashableに送られた声明の中で、保安官事務所によるこの技術の利用を支持し、「法執行を支援し、公共の安全を向上させるための顔認識の利用の良い例」と呼んでいる。 AmazonはRekognitionを「21世紀の顔写真小冊子」と表現 警察が使用する多くのツールのうちの 1 つです。
「ワシントン郡保安官事務所は当初から、テクノロジーの使用とそれを管理する政策について完全に透明性を保っており、その使用に関して地方議会、議員、一般大衆と継続的かつオープンな対話を行ってきました。 Rekognition の使用から 2 年間、一般からの苦情は一度も報告されておらず、Rekognition の使用に関して地元の有権者との間に何の問題も発生していません」と Amazon は声明で述べています。
マッシュ可能な光の速度
アマゾンが提案したガイドラインの中で最も広範囲にわたる提案は、既存の公民権法はすべて顔認識技術に適用されるというものだ。つまり、顔認識が保護対象グループに対する差別に関与している場合には、責任を負わなければならないということだ。
このメモはまた、法執行機関が捜査のために人間の管理下で限られた能力の範囲内で顔認識を使用していることを示唆している。 Amazon は、顔認識結果を人間がレビューすることは調査に伴う必要があり、顔認識は 99% の信頼しきい値に維持されることを提案しています。 （繰り返しになりますが、ワシントン郡警察は、このようなことはしていないとギズモードに語ったそうです。） さらに、アマゾンは法執行機関に対し、そのテクノロジーの使用に関する透明性レポートを公開することを推奨しています。
アマゾンは、法執行機関以外の公共の場において、企業が顔認識を商業的に使用する方法を規定する国の法的枠組みを支持していると述べている。顔認識が使用されている場合には、それを人々に知らせるプラカードを設置することを提案しています。
「新しいテクノロジーは、悪用される可能性があるという理由で禁止されたり非難されるべきではない」とブログ投稿は結論づけている。 「代わりに、テクノロジーが適切に適用され、継続的に強化されることを保証するために、関係者全員の間でオープンで正直かつ真剣な対話が行われるべきです。」
Amazon の提案は人々の公民権とプライバシーを保護する上で重要ですか?まあ、ACLUは感銘を受けていません。
シン・グリアーニ氏は、「アマゾンの枠組みはひどく空虚に聞こえ、政府の手中にある自社技術の危険性に同社が適切に対処することを拒否していることを浮き彫りにしており、アマゾンが監視事業から完全に撤退する緊急の必要性を強化している」と述べた。
まず、同社の提案には、Amazon自体に適用される法的根拠がほとんどない。
その代わりに、「当社の顧客は、テクノロジーを使用する際に法律を遵守する責任がある」と強調している。これは、私たちはテクノロジーを作っているだけで、それを合法的に使用するかどうかは人々次第だと言っているのと同じです。これ自体は立法上の立場であり、必ずしも当然のことであるべきではありません。
ACLUも次のように指摘している。アマゾンも認めたそれは、顧客が顔認識を差別的に使用しているかどうかを事前に知る方法がないということだ。また、アマゾンがどの機関が自社製品を使用しているかを議会に共有しないことを考慮すると、透明性を求めるアマゾンの呼びかけは偽善的だという。 ACLU は、「しきい値を変更すると、何もない誰が抗議活動に参加するかを判断したり、移民を監視したり、有色人種のコミュニティをターゲットにしたりするために、法執行機関がテクノロジーを使用する必然性を減らすためです。」
そして、おそらく Amazon の提案に対する最も驚くべき明白な反対として、ACLU は、そもそも政府機関に顔認識の使用を許可する法律が存在しないと指摘しています。
「アマゾンは顔認証は法律に違反すべきではないとしているが、法執行機関による顔認証の使用を許可する書籍に関する法律が全く存在しないという事実を無視している」とシン・グリアーニ氏は述べた。
テクノロジー企業には長い歴史があります —鉄道の時代まで遡ります— 自分たちの活動を管理するまさに法律の制定に手を出すということだ。これは企業が「規制に賛成」と言えるようにすると同時に、規制が煩雑にならないようにする先制攻撃だ。
シン・グリアーニ氏は、「産業界には問題を巡る公の議論に参加する役割があるが、産業界が押し進める公共の利益にならない提案には警戒すべきだ」と述べた。
したがって、Amazon、あるいは実際には民間企業が「規制に賛成」と言うときは、必ずよく調べてください。本当に利益を得ているのは誰ですか「提案された」ルールから。
アップデート：この投稿は、オレゴン州ワシントン郡保安局とその顔認識ソフトウェアを擁護する Amazon の声明を含めて更新されました。