【英文和訳】「在宅AI監視は間違った方向への動き」Work-at-home AI surveillance is a move in the wrong direction

 

 

 

 

 

私たちは皆、AI倫理のポスター・チャイルドとして顔認識に注目してきましたが、COVID-19の間に、別の懸念されるAIの形が静かに現れ、急速に進歩しました。それは、AIを利用した自宅での従業員の監視です。私たちは公共の場に出ているときに監視されることを心配するのは当然だが、今では家庭内でも監視されることが増えてきている。

従業員の監視は新しいものではありません。これは、仕事を実行するための最適な方法を決定するための「時間と動き」の研究で、20世紀の初めの近くにフレデリック・テイラーによって導かれた労働者の「科学的な管理」で本格的に始まった。これにより、企業経営は、人がどのように仕事をするかを最大限にコントロールすることに重点が置かれました。この理論の応用は現代にまで及んでいます。U.C.バークレー労働センターの2019年の報告書によると、アルゴリズミック・マネジメントは、労働者のパフォーマンスの技術的な規制が粒度が高く、拡張性があり、容赦のない、新しい形態のワークプレイス・コントロールを導入しているという。監視されている間にサボることはありません。

 

このような監視の実装は、主にアマゾンのような工場や倉庫で存在していました。最近では、中国科学院が建設現場でAIが活用されていると報告しています。これらのAIベースのシステムは、従業員が危険な場所に立ち入る前に、ゴーグルや手袋などの適切な安全装備を着用しているかどうかをコンピュータービジョンで確認することで、従業員にメリットを提供することができます。しかし、もっと悪質な利用例もある。報告書によると、顔認識機能を備えたAIシステムはCCTVカメラに接続されており、従業員が仕事をしているのか、「うろついている」のか、喫煙しているのか、スマートフォンを使っているのかを見分けることができるようになっているという。

 

昨年、ガートナーが239の大企業を対象に調査したところ、50%以上の企業が従業員の非伝統的な監視技術を使用していることがわかりました。その中には、電子メールやソーシャルメディアのメッセージのテキスト分析、誰が誰と会っているかの精査、生体情報の収集などが含まれています。アクセンチュアがC-suiteエグゼクティブを対象に行った調査では、62%の組織が新しいツールを活用して従業員のデータを収集していると報告しています。あるモニタリング・ソフトウェア・ベンダーは、ビジネスのあらゆる側面が、人の側も含めてデータ駆動化が進んでいると指摘しています。元インテルCEOのアンディ・グローブ氏が有名に語ったように、”偏執的な者だけが生き残る “というのは本当なのかもしれません。

ワークアットホームなAI監視
COVID-19の発症と多くの人がリモートワークで仕事をするようになったため、一部の雇用主は従業員が在宅勤務中に何をしているかを把握するために「生産性管理」ソフトウェアを利用するようになりました。これらのシステムは、パンデミックが始まって以来、採用が急増していると言われています。

雇用者の不安の高まりが、すべての船を持ち上げているように見える。従業員監視ソフトウェアのリーダーであるInterGuardは、COVID-19が米国で普及して以来、同社の顧客ベースは3～4倍に増加したと主張している。 Teramind社によると、現在の顧客の40%が、プランにユーザーライセンスを追加しているという。 スニークという名前がぴったりの別の会社は、パンデミックが始まったときに登録者数が10倍に急増したと述べています。

これらの企業のソフトウェアは、電話に費やした時間、電子メールの送受信数、あるいはスクリーンショットのキャプチャ、ウェブカメラへのアクセス、キーストロークの数によって決定されるコンピュータの前にいる時間の量など、活動を追跡することによって動作します。アルゴリズムによっては、各従業員の生産性スコアを作成し、それを経営陣と共有するものもあります。

 

Enaible は、そのリモート従業員モニタリング Trigger-Task-Time アルゴリズムは、”リーダーシップ科学と人工知能の交差点 “における画期的なものであると主張しています。このベンダーは、そのソフトウェアがリーダーに必要な情報を提供することで、より効果的にリーダーを導く力を与えている、と論説で述べています。この点では、我々 は技術の洗練された主にテイラー主義から進んでいるように見えます。ある大学の研究員は、これらは「規律と支配の技術であり、従業員に権力を行使する方法である」と述べています。

何が危険なのか
管理者には労働者の生産性について合理的な要求をする権利があり、「サイバー・ローフィング」を最小限に抑える権利がありますが、このような激しい観察は、AI 倫理の会話の中で別の前線を開きます。

米国では、1986年の電子通信プライバシー法に基づいて、従業員の監視はキーストロークに至るまで合法的に行われています。しかし、私たちは今、従業員を監視することが、プライベートな環境であるはずの自宅で従業員を監視することを意味する時代に生きています。

後の1984年に影響を与えたかもしれない1921年のディストピアロシアの小説「私たち」では、市民のすべては、当局による完全な監視を可能にするために完全にガラスで作られたアパートに住んでいます。今日では、Google HomeやAmazon AlexaのようなAIを搭載したデジタルアシスタントがすでに存在しており、家での発言を監視することができます。とはいえ、これらのデバイスが他の会話や画像を盗聴したり録音したりする例は数多くあり、プライバシーへの懸念を促しています。従業員を自宅で監視することで、私たちは事実上、仕事用コンピュータを目と耳のある別のデバイスに変えてしまいました。これらのツールは、仕事のやりとりだけでなく、私たちのデバイスでの言動やその近くでの行動を追跡することができます。私たちの家庭でのライフスタイルや仕事以外の会話を観察し、保険会社や信用発行会社などのリスク管理者がこのコンテンツを共有している場合には、そのデータに変換することができます。

おそらく、在宅勤務の監視は今では、オフィスだけでなく、自宅内の従業員のプライバシーの権利を危険にさらす現代の情報化時代の本質的な一部となっています。すでに主流メディアでは、従業員の監視製品のレビューが行われており、監視の実践を正常化しています。とはいえ、仕事と家庭の境界がすでに曖昧になっている世界では、生産性向上を装って従業員の一挙手一投足を監視するためにAI技術を使用することの倫理は、一歩踏み込みすぎている可能性があり、規制の可能性がある別の話題になるかもしれません。AIによる絶え間ない監視は、人間の労働力をロボット化してしまう危険性があります。

ゲイリー・グロスマンは、エデルマンの技術プラクティス担当シニアVPであり、エデルマンAIセンター・オブ・エクセレンスのグローバルリーダーでもある。