アマゾンはこれに関しては振り出しに戻りたいと考えているかもしれない。 小売大手が現在開発者に提供している顔認識ツール かなりの間違い アメリカ自由人権協会（ACLU）が実施したテストで、ニューヨーク・タイムズ紙が報じた。 このツールは、国会議員 28 名を国の立法府のメンバーとして特定するのではなく、代わりにこれらの人物を警察の容疑者として分類しました。 さらに悪いことに、不釣り合いな数のアフリカ系アメリカ人やラテン系の議会議員が誤って当選した。 人種プロファイリングが私たちの機械学習にどこまで組み込まれているかという疑問が生じています。 ソフトウェア。
今、議会は答えを求めています。 誤認された議員のうち５人は、アマゾンのジェフ・ベゾス最高経営責任者（CEO）との「即時」会談を要求している。 7月26日木曜日、議員。 ジミー・ゴメス、ジョン・ルイス、ルイス・グティエレス、マーク・デソルニエ、そして上院議員。 エドワード・マーキー氏は、オンライン小売大手になぜ不一致なのかを尋ねる手紙を送った。 しかし、これらの身分違い事件による個人的な持ち物を超えて、議員らは次のようなことを求めている。 「不正確な情報を防ぐために、このテクノロジーの欠陥にどのように対処するか」についての回答 結果。」
おすすめ動画
アマゾンは、最高経営責任者がこれらの会合に応じるかどうかをまだ示していない。
別の声明で議員は、 合同会社 Butterfield 氏は次のように述べています。「このテクノロジーに関連する不正確な結果に悩んでいます。 特に次のような人々にとって意図しない結果をもたらす明らかな盲点があるからです。 色。 このテクノロジーには広範囲にわたる経済的可能性がある可能性がありますが、Amazon には、このテクノロジーを使用するためのベストプラクティスについてユーザーをより適切にトレーニングすることをお勧めします。 テクノロジーの限界について率直かつ率直に考え、このテクノロジーの欠陥への対処を適切に支援できる有色人種の従業員をもっと雇いましょう。 テクノロジー。"
関連している
- Amazon プライム会員は、カラフルな Destiny 2 エキゾチックの無料パックを請求できます
- 中小企業経営者らはアマゾンのベゾス氏を批判するよう議会に要請
- アマゾン、警察による顔認識技術「Rekognition」の使用を1年間禁止
誤認された議員の中には下院議員も含まれていた。 ジョン・ルイスとボビー・ラッシュ、どちらも著名な公民権運動指導者であり、議会黒人議員団のメンバーでもある。 しかし、これら 2 名は (他の 26 名とともに) 選出された代表者として認められる代わりに、犯罪者として誤って告発されました。 これらの間違いは、ACLU が Amazon のソフトウェアを利用して、公的にアクセス可能な 25,000 件の顔写真のデータベースと照らし合わせて全議員の画像を分析したときに発生しました。 この結果、28 人の議会議員が誤って法律違反者として認定されることになり、これは 5% の誤り率に相当します。
「このテストは、顔認識には欠陥があり、偏っていて、危険であることが確認されました」と、北カリフォルニアのACLUのテクノロジーと自由権を専門とする弁護士、ジェイコブ・スノー氏はニューヨーク・タイムズに語った。
このテストに応じて、アマゾン ウェブ サービスの広報担当者ニーナ リンゼイは、ACLU が顔照合ツール (と呼ばれる) を使用したと述べた。 アマゾンの認識）Amazonの推奨とは異なります。 「現実のシナリオでは、Amazon Rekognition はほぼ専ら、対象範囲を絞り込むために使用されていることは注目に値します。 人間が自分の判断でオプションを迅速に確認および検討できるようにする」とリンジー氏は述べた。 声明。
同氏はさらに、ACLUがツールの「信頼閾値」をデフォルトの80パーセントに維持していると指摘した。 これは、グループが警察のデータベースと一致する顔を 80% 類似していると考慮したことを意味します。 ただし、Amazon が自社 Web サイトの例で同じしきい値を使用し、従業員の顔と ID バッジをどのように照合するかを示していることは指摘する価値があります。 リンジー氏は、警察署の場合、アマゾンはこの種の間違いを避けるために類似性 95 パーセントのしきい値を実装することを推奨していると述べた。
Amazonは以前、Rekognitionの販売で批判を浴びていた。 5月、ACLU主導の24の市民的自由団体がアマゾンのジェフ・ベゾス最高経営責任者（CEO）に書簡を送り、法執行機関へのソフトウェアの販売を中止するよう要請した。 これらの団体は、このソフトウェアが警察の容疑者だけでなく、抗議活動参加者や移民、一般大衆の監視にも使用される可能性があると懸念を表明した。 それ以来、アマゾンの従業員、投資家、学者らもアマゾンに対して同様の要求を行っている。
しかし、当分の間、ウェブ巨人にとってそれは考えられていないようだ。 Amazon の広報担当者は、「画像とビデオの分析がどのように世界に良い影響をもたらすことができるかについて、私たちは引き続き興奮しています。」と述べています。
7 月 27 日更新: 議会は、Rekognition ソフトウェアが犯した間違いに関して Amazon に回答を求めています。
編集者のおすすめ
- ああ！ 一部のAmazonプライム会員は43％の値上げに直面する
- Facebook、Google、Amazon、Apple の CEO の議会証言を視聴する方法
- アマゾン、アップル、フェイスブック、グーグルは7月に議会で証言する予定
- セン。 ジョシュ・ホーリー氏、アマゾンに対する刑事独占禁止法捜査を要求
- 米軍の顔認識は1km離れたところにいる人を識別できる
ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。
