なぜ誰もが顔認識について懸念する必要があるのか

テクノロジーの世界は非常に急速に変化しているため、私たちが気づかないうちにディストピアが到来する可能性があります。

それが私たちが顔認識で進んでいる軌道のようです。テクノロジー業界の大手企業の中には、高度な顔認識システムを開発し、世界中の政府に販売しているところもありますが、一般の人々はそれがもたらすすべてのリスクを完全には理解していない可能性があります。

ニューヨーク州下院議員アレクサンドリア・オカシオコルテスのような著名な政治家と声を上げる顔認識の危険性についてはさておき、なぜこれほど多くの人がこの物議を醸すテクノロジーについてこれほど懸念しているのか、その理由に注目する時期が来ています。

それは本質的に不気味です

人々が顔認識に不満を抱く最初の最も明白な理由は、それが本質的に不快なものであるということです。政府の監視強化は長年にわたって注目を集めている問題であり、Amazon の Rekognition ソフトウェアのようなテクノロジーは、ディストピア的な未来をさらに現実味を帯びているだけです。

Rekognition が使用されているのは、警察裁判米国では、法執行機関が公共の場で顔をスキャンし、警察データベースの顔と照合できるようにする方法として導入されました。まるでSFの物語の中の極悪非道な政府がやるようなことのように聞こえますが、現実に起こっていることなのです。

これだけを見れば、なぜ人々がそれに反対したいのかを理解するのは難しくありません。

それはあなたの同意なしに起こる可能性があります

もう 1 つの大きな争点は、顔認識技術が一般大衆の同意なしに開発され、使用される可能性があることです。これは技術分野では新しいことではありません。たとえば、ソーシャル ネットワークに提供したデータが、おそらく十分に気づいていない疑わしい方法で使用されていることはほぼ当然のことです。

ただし、顔となると話は別です。 2019年の初めに、私たちは知ったIBMは、プラットフォーム上の写真に写っている人物に知らせることなく、顔認識AIをトレーニングするためにFlickrから画像をスクレイピングしていた。さらに、米国税関国境警備局は独自の顔認識プログラムのために空港に出入りする人々の写真を収集しています。

それらの写真のいくつかは、データ侵害に遭った5 月には、データが大量に収集されることについて誰もが気分を良くしなかったでしょう。

常に適切に動作するとは限りません

顔認識システムは現実世界のシナリオに導入されているため、少なくとも常に正しく動作すると想定するでしょう。残念ながら、その仮定は間違っています。

アンACLUの調査2018年には、AmazonのRekognitionソフトウェアが国会議員と警察の顔写真に写っている他の人物を誤って照合していたことが判明した。これらの誤検知のうち不釣り合いな数が有色人種の議員に属しており、顔認識に関する最大の懸念の 1 つが浮き彫りになっています。それは、白人男性ではない人々に対してかなり偏っているようです。

MITの研究者同様の結論に達しました2018年には、有色人種に顔認識を適用するとエラーが大幅に増加することが判明した。現在存在する顔認識は、それを作成した人々の偏見を反映している、というのが一般的な考え方です。

関連項目:

Rekognition が実際の警察署に導入されており、おそらくICEに販売, 有色人種との問題が法執行機関との大きな問題につながる可能性があるのは当然です。おそらくテクノロジーはさらに改良されるでしょうし、少なくとも 1 つの企業、マイクロソフトは問題を認めた、しかし、それによって傷つく可能性のある人々にとって、それは特に慰めではありません。

きちんと規制されてないんだよな

顔認識には、上で概説したように多くの問題が伴います。とはいえ、悪用されないように連邦政府による包括的な監視を受けている人々にとっては、もう少し受け入れやすいかもしれない。残念ながら、現時点ではそうではありません。

この技術はまだ十分に新しく、多くの人の目には発展途上の問題であるため、米国政府は顔認識に関する広範な規制をまだ可決していません。 5月に行われた一連の議会公聴会では、珍しい超党派の支持顔認識法については、少し勇気づけられるかもしれない。

もちろん、たとえそれが実現したとしても、おそらくそれは完璧な解決策ではありません。おそらく多くの人々は、現在の議会と大統領政権が顔認識に最適な法案を策定することを信頼しないだろう。

ただし、政府による解決策は必ずしも連邦レベルで提供される必要はないかもしれません。マサチューセッツ州サマービルとサンフランシスコには両方があります顔認証の禁止市レベルの法執行機関。連邦政府が何をすべきかを決めるまでの間、地元の政治家が介入してこれについて何か行動を起こす必要があるかもしれない。