Clearview AI 顔認識アプリはストーカー被害者にとって悪夢

シリコンバレーの傲慢の最新例は顔認識アプリだ クリアビューAI. によると、この小規模な新興企業のアプリは非常に強力であるため、誰かが通りであなたに近づいて写真を撮り、すぐにあなたの名前、住所、電話番号を知ることができます ニューヨーク・タイムズ紙の報道.

このテクノロジーは、次の 2 つのタイプの人にとって素晴らしいアイデアのように聞こえるでしょう。 法執行機関 そしてゾッとする。 支持者らは、この種の顔認識技術がストーカーや障害を持つ人々に恩恵をもたらす可能性があると懸念している。 家庭内暴力の履歴、および極悪非道な行為のためにあなたのすべてを調べようとする他の人 目的。

「このアプリのニュースが広まると、世界中の女性たちがため息をついた」と英国に本拠を置くプロプライバシー団体のプライバシー擁護活動家ジョー・オライリー氏はデジタル・トレンドへの声明で述べた。 「繰り返しになりますが、オンラインと実生活の両方での女性の安全は、これまで以上に侵襲的なテクノロジーを開発して収益化したいというテクノロジー系スタートアップ企業の願望の二の次になっています。」

Clearview は、部分的には、次のような人気のソーシャル メディア サイトから公開データをスクレイピングすることで機能します。 フェイスブック、Twitter、YouTube、Venmo など。 Facebook 社の広報担当者は Digital Trends に次のように語った。 フェイスブック 情報を削除したり、ディレクトリに追加したりすることは当社のポリシーで禁止されているため、当社は申し立てを検討中です。 この会社については、当社の規則に違反していることが判明した場合は適切な措置を講じます。」 ツイッター また 禁止すると言う このデータの使用。

虐待者のための新たなツール

ストーカー行為はネット上の女性にとって長い間問題となっているが、顔だけで相手を追跡できるツールは存在しない。 今のところ、Clearview は自社のサービスを法執行機関にのみ販売していると主張しており、法執行機関はこのテクノロジーに真に熱烈な評価を与えている。 「しかし、彼らは不思議なことに、このソフトウェアが悪者の手に渡れば、ほぼ誰に対しても嫌がらせやストーカー行為を行うために利用される可能性があるという事実については沈黙している」とオライリー氏は語った。 「ソフトウェアが一般に公開された場合、これを防ぐことは不可能でしょう。Clearview の投資家はそのシナリオが可能であることを認めています。」

「開発したテクノロジーが人間によって消費される場合、その欠陥について考えなければなりません」と、マーケティングおよび開発最高責任者のクリスタル ジャスティス氏は述べています。 全国家庭内暴力ホットライン . 「虐待者は常に自分のツールボックスに次のツールを探しています。」

このホットラインは 2015 年にデジタル虐待を独自のカテゴリとして報告し始め、それ以来、特に若者の間で件数が大幅に増加しています。 司法長官はデジタルトレンドに対し、2018年にホットラインには37万1000件の連絡があり、そのうち15％がデジタル虐待の苦情だったと語った。 ホットラインの数字によると、全国平均で女性の4人に1人、男性の7人に1人が家庭内暴力の被害者となっている。

「生存者は人口の大部分を占めています」とジャスティス氏は語った。 「テクノロジー企業はアプリを設計する際に、生存者のエクスペリエンスを考慮する必要があります。」

進行中の問題

これは、今日の時代において多くの破壊的テクノロジーを伴う永続的なパターンです。 2009 年に Uber がサービスを開始したとき、このテクノロジーは信じられないほどクールに思えました。 私たちはもはや、それぞれの都市のタクシー業界や無能な公共交通機関の奴隷ではありませんでした。

もちろん、Uber のモデルは、私たちが子どもの頃に教えられてきた「知らない人と一緒に車に乗ってはいけない」という社会通念を真っ向から覆すものでもありました。 10年と 数千件の訴訟性的暴行をめぐって 後から考えると、通説には理由があったようです。 多くの人にとって、お金を払ってでも見知らぬ人の車に乗るのは安全ではありません。

しかし、安全について考えるという要素や、常に自分の身体の安全を気遣いながら世界を移動しなければならないという要素は、多くの人々と同じように、 ウーバーのようなテクノロジー企業を設立した（主に白人の）男性たちは、女性や少数の性の人々のことを念頭に置いていなかったようだ。 のように ツイッター、他の多くの人たちと同じように。 彼らはただ、世界を変えるようなクールなものを作りたかっただけなのです。 それが邪悪な目的に使用されるという考えは、手遅れになるまで彼らの頭に浮かびませんでした。

家庭内暴力撲滅全国ネットワークの上級技術安全スペシャリストであるレイチェル・ギブソン氏は、プライバシーと安全性を最初からアプリに組み込む必要があると述べた。 「何かが善意で作られていることは別ですが、テクノロジーが悪用される可能性があることは承知しています」とギブソン氏はデジタル・トレンドに語った。 「私たちはそれを新しい技術、古い行動だと考えています。 [Uber が登場する前は] タクシーの中で人々がレイプされていましたが、私たちは最近のテクノロジーがストーカー行為や暴行などの昔ながらの行為をどのように助長するのかを考えなければなりません。」

Clearview のようなものは、法執行機関での用途はあるものの、一般の人々にとってどのように、あるいはなぜ役立つのかについて疑問が生じるのは確かだとギブソン氏は述べた。 「これらのものを一般消費用に作ることは、生存者を危険にさらすことになる。私たちは予期せぬ結果について考える必要がある」と彼女は言う。

裁判官は、公共の安全におけるテクノロジーの役割についての議論は変化していると見ていると述べた。 「MeToo以降、言説は変化した」と彼女は言う。 「そして、もう時間ですよ。 これは新しい問題ではありません。 必ずしも家庭内暴力が増加しているわけではなく、ようやく議論され始めていることがわかります。 そして今、テクノロジーがその一部であるという複雑な要素を組み込むことができるのです。」

ギブソン氏はまた、いくつかの「大手テクノロジー企業」と話し合ったと語った（ただし、そうはしなかった） どちらであるかを明記してください）、そして彼らは現在、プライバシーと 安全。

ClearviewはDigital Trendsに短い声明を出し、「これらの懸念を真剣に受け止めており、商用リリースの予定はない」と述べた。 で ブログ投稿と同社は、自社製品は一般公開されておらず、「法執行機関と選ばれたセキュリティ専門家のみ」が利用できると強調した。

あなたまたはあなたが知っている誰かが親密なパートナーによる虐待に苦しんでいると思われる場合は、全国家庭内暴力ホットライン 1-800-799-7233 に 24 時間年中無休でご連絡ください。

編集者のおすすめ

• AIを活用した解説が来月のウィンブルドンに登場
• イーロン・マスク氏がTwitterで生成AIプロジェクトを立ち上げたとの報道
• Google Smart Canvas がアプリ間の統合を強化
• Nvidia が AI Superpod プラットフォームを月額 9 万ドルでレンタル中
• ポートランド市、顔認識技術の私的および公的な使用を禁止