【英文和訳】IBMが顔認識技術を放棄することを決定したのは、長年の議論を煽っていたからです。　IBM’s decision to abandon facial recognition technology fueled by years of debate

For digital rights advocates, the company’s move is a step toward ‘algorithmic justice’

デジタル権利擁護者にとって、同社の動きは「アルゴリズムの正義」への一歩となる

 

 

 

 

IBMの新たに昇進した最高経営責任者（CEO）が、同社が顔認識技術を放棄すると発表したとき、人種と正義をめぐる国民的な非難の中でそれを行ったが、同業他社の間でも同様の再評価が行われることを予感させる。

月曜日に議会議員に宛てた書簡の中で、CEOのArvind Krishna氏は、すべての研究、開発、生産を終了するという決定の中で、警察がこの技術を使用して「基本的人権と自由」を侵害する可能性を挙げていました。この件に詳しい人物によると、クリシュナ氏の動きは一夜にしてなされたものではなく、正確性、人種プロファイリング、大量監視の懸念をめぐる人権やプライバシーの擁護者からのこのような技術に対する2年以上の批判の集大成であったという。

その2日後、アマゾンは、同社の顔認識ソフトウェア「Rekognition」の警察での使用を1年間停止すると、同社のブログ記事で発表した。マイクロソフトは木曜日、連邦政府の規制が整うまで法執行機関への同社技術の販売を停止すると発表した。(アマゾン創業者のジェフ・ベゾスはワシントン・ポストを所有している)

マイクロソフトは、アマゾンやIBMが同様の動きをしたのに続き、その顔認識技術を警察に販売しません。

IBMの動きは、議会のメンバー、公民権擁護者、従業員から肯定的な反応を得ています。しかし、モーニングスターの株式アナリスト、ジュリー・ブサール・シャルマ氏は、顔認識技術が同社の事業のほんの一部を占めるにすぎないと指摘している。IBMは世界最大級のテクノロジー・コンサルティング企業で、時価総額は1050億ドルに上る。

AD

“部分的には、株式の観点から見て、IBMはそのような巨大な企業であるため、AIの領域でさえ、顔認識の収益でさえ、彼らはブレイクアウトしていないと思います。”財務的には、あまり影響はないと思います。”

IBMは他の種類の認識技術を保持するだろうと、同社の考えに詳しい人物は述べています。例えば、デバイスの認証に顔のスキャンを使用したり、農民のための作物検査や、空港で放置されたスーツケースを識別する警備員のような物体検出などです。

連邦政府の研究は、多くの顔認識システムの人種的な偏りを確認し、その拡大する使用に疑問を投げかける]

先月、ジョージ・フロイド氏が警察の拘留中に死亡したことで、警察の全面的な改革を求める声に火がついて以来、法執行機関における顔認証やその他のテクノロジーの使用に関する疑問が、改めて注目を集めている。研究者のJoy Buolamwini氏とTimnit Gebru氏は、2018年に「Gender Shades」プロジェクトで初めてこの問題に飛び込んだが、これはIBM、Microsoft、Face++の顔認識システムが白人男性よりも有色人種や女性を誤認していることを明らかにしたものだ。その後、2019年の国立標準技術研究所による連邦政府の研究を含め、結果を確認した研究がさらに続きました。

AD

ACLUは昨年、顔認証プロバイダーと契約しているFBIや司法省などを訴え、使用を阻止していた。

元2020年大統領候補のジュリアン・カストロ氏は火曜日のツイートで、顔認証ソフトウェアを大量監視に使用することを「危険な人権侵害」と訴えた。ジミー・ゴメス下院議員（D-カリフ州）もこの意見に反響し、2018年に自分や他の議員がAmazonの顔認証ソフトウェアによって誤認されたことをツイートで指摘した。

“This tech needs legislative guardrails NOW, Gomez wrote the tweet.

Amazonの顔認識ツールが28人の議員を犯罪で逮捕された人と誤認させた、研究結果が判明]

政府と法執行当局は、この技術は犯罪容疑者を迅速に特定するための強力な支援を提供するため、改革する価値があると主張しています。最終的には、今週までに、IBMはアルゴリズム正義同盟のようなデジタル権利活動家の側に加わり、この技術を改革することはできないと結論付けた。

AD

全米警察財団のジム・バーチ会長は電子メールで、財団はIBMの決定に拍手を送るとともに、同社が説明責任のためのインフラを開発し、パフォーマンスを評価するために法執行機関と協力していくことを期待していると述べた。

“私たちは、IBMがすべての人々の権利と公平性を守るために最善であると考える決定を下したことに拍手を送り、その技術がこのメッセージに反する方法で使用されているかどうかを最もよく知っているはずです。”私たちはまた、IBMの声明と警察改革への支援に拍手を送るとともに、IBMがそのソリューションと能力を、正しいことをして改革への道筋を追求しようとする警察組織が使用できるように努力することを期待しています”

クリシュナの書簡は、議会のブラックコーカスの議長であるカレン・バス下院議員（D-Calif）、コーリー・ブッカー上院議員（D-N.J.）、カマラ・D・ハリス上院議員（D-Calif）、下院司法委員会のジェラルド・ナドラー委員長（D-N.Y.）、および法執行の説明責任を強化するために、月曜日に「2020年の正義の警察法」を導入し、共同提案したヘイクーム・ジェフリーズ下院議員（D-N.Y.）に宛てたものです。

4月にCEOに就任したクリシュナ氏は、書簡の中で「Justice in Policing Act」への支持を表明し、IBMは警察改革、責任あるテクノロジーの使用、有色人種のコミュニティのための教育機会とスキルベースのトレーニングの拡大について議会と協力していきたいと述べています。

“私たちが目の当たりにしているのは、警察の残虐行為を終わらせ、警察官に説明責任を負わせ、透明性を求める変化を要求するために、すべての州で何千人もの人々が一緒に行進し、私たちの国で新しい運動が誕生したことです」とバスは、提案された法案についてのニュースリリースで述べています。”二度と世界は、我々がジョージ・フロイドとミネソタの通りで見たものを目撃することにさらされるべきではありません。”

 

Photo by Mikita Yo on Unsplash