Google 幹部が AI の仕組みを説明 人種差別を増幅させる可能性がある

グーグル幹部２人は金曜日、人工知能への偏見が米国ですでに社会から疎外されているコミュニティに悪影響を与えており、このような事態が起こらないようにするためにはさらなる措置を講じる必要があると述べた。 バツ。 アイエ、Google の責任あるイノベーションのアウトリーチ リード、および アンジェラ・ウィリアムズ、Google ポリシーマネージャー、講演 (IRLではありません) プライドサミット、世界中の女性、ノンバイナリー、トランスジェンダーの人々を対象としたテクノロジーに焦点を当てた世界最大のLGBTQ組織であるレズビアンズ・フー・テック＆アライズが主催するイベント。

で 別話す、彼らは機械学習テクノロジーがアメリカの黒人コミュニティやその他のコミュニティに害を及ぼすために使用される可能性がある方法、そしてより広く世界中で議論しました。

アルゴリズムの偏りは単なるデータの問題ではありません。 AI を使用する選択にはバイアスがかかる可能性があり、アルゴリズムの学習方法にもバイアスがかかる可能性があり、ユーザーがシステムに影響を受ける方法、システムと対話する方法、システムを認識する方法によってバイアスが強化される可能性があります。 チェックアウト @timnitGebruの仕事をもっと知りましょう!

- バツ。 アイエ？ (@TechWithX) 2020年6月26日

ウィリアムズ氏はAIの使用について議論した。 広範囲にわたる監視のためのその役割 過剰なポリシング、および偏った量刑のためのその実装。 「テクノロジーが人種差別的だというわけではありませんが、私たちは自分自身の無意識の偏見をテクノロジーに組み込む可能性があります」と彼女は言う。 ウィリアムズ氏は次のように強調した。 ロバート・ジュリアン・ボーチャック・ウィリアムズの場合、デトロイト出身のアフリカ系アメリカ人男性は、顔認識システムが自分の写真と万引き犯の防犯映像を誤って照合したため、最近誤って逮捕された。 これまでの研究では、顔認識システムは次のことを行うのが難しいことがわかっています。 さまざまな黒人を区別する. 「ここがA.I.の場所です。 …監視は現実の世界では非常に間違った方向に進む可能性がある」とウィリアムズ氏は語った。

バツ。 Eyeé はまた、A.I. がどのように機能するかについても説明しました。 「不当な偏見を拡大し、強化する」のに役立つ可能性があります。 より準ディストピア的で注目を集める用途に加えて、 A.I.、Eyeé は、Google 独自のテクノロジーを含む、一見ありふれた日常的なテクノロジーの使用にバイアスが入り込む可能性があることに焦点を当てました。 ツール。 「Google では、こうした課題に慣れているわけではありません」と Eyee 氏は言います。 「ここ数年、私たちのアルゴリズムが人々に悪影響を及ぼしているということで、何度も見出しを飾ってきました。」 たとえば、Google は次のツールを開発しました。

Google 幹部 2 人によると、これらの問題に対する包括的な解決策は存在しないという。 問題が見つかった場合は常に、Google は偏見を修正するために取り組んでいます。 しかし、アルゴリズムの設計からその設計に至るまで、バイアスがシステムに侵入する可能性のある潜在的な場所の範囲は、 データが生成される社会的コンテキストへの展開 – 常に問題が存在することを意味します 例。 重要なのは、このことを認識し、そのようなツールが精査され、多様なコミュニティがこれらのテクノロジーの使用について声を上げられるようにすることです。

編集者のおすすめ

• A.I.はできますか？ マイクロチップの設計において人間のエンジニアに勝てるでしょうか？ Googleはそう考えている
• BigSleep AI まだ存在しない写真を検索する Google 画像検索のようなもの
• Googleは、AIからYouTubeコンテンツのモデレーターを引き継ぐために人間を復活させた。
• フェイクニュース？ A.I. アルゴリズムにより、あなたが読んだ記事の政治的偏見が明らかになる
• A.I. アップスケーリングにより、1896 年のこの映画がまばゆいばかりの 4K で撮影されたように見えます

ライフスタイルをアップグレードするDigital Trends は、読者が最新ニュース、楽しい製品レビュー、洞察力に富んだ社説、ユニークなスニーク ピークをすべて提供して、ペースの速いテクノロジーの世界を監視するのに役立ちます。