人工知能大手のIBMは、法執行機関による顔認識技術の悪用で問題を起こした。
で議会への手紙今週、IBM CEOのアルビンド・クリシュナは、テクノロジー企業が人種的不正義と警察による虐待に対処しようとしているさまざまな方法について概説した。 「IBMは、正義と人種的平等を追求するために議会と協力したいと考えており、当初は警察改革、テクノロジーの責任ある利用、スキルと教育の機会の拡大という3つの重要な政策分野に焦点を当てたい」とクリシュナ氏は書いた。
クリシュナ氏は、テクノロジーを責任を持って使用する取り組みの一環として、顔認識ツールが大規模監視、人種プロファイリング、人権侵害にどのように悪用されているかを説明し、同社は今後「汎用のIBM顔認識または分析ソフトウェア」を提供しないと述べた。
マッシュ可能な光の速度
手紙でも次のことを認めた固有の偏見これらのツールに組み込まれており、それらがどのように使用され、頻繁に悪用されるかについて、さらなるテストと報告を求めました。過去には、IBM 独自のツールがどのように使用されていたかについて厳しい調査の対象となってきました。人種と性別に関するトレーニング システム。2019年3月、同社はスクレイピングを行っていたことが摘発された。何百万ものAI バイアスと戦うための多様性への取り組みの一環として、クリエイティブ コモンズでライセンスされた Flickr 写真を、撮影された人々の許可を得ることなく掲載しました。
警察によるジョージ・フロイドさん殺害後の全国的な大規模な抗議活動を経て、IBMは最終的に、責任ある人工知能ツールとソフトウェアの開発に関する自らの教訓を学ぶことができた。