Die Clearview AI-Gesichtserkennungs-App ist ein Albtraum für Stalking-Opfer

Das jüngste Beispiel für die Hybris des Silicon Valley ist die Gesichtserkennungs-App Clearview AI. Die App des kleinen Startups sei so leistungsstark, dass jemand auf der Straße auf Sie zukommen, ein Foto von Ihnen machen und schnell Ihren Namen, Ihre Adresse und Ihre Telefonnummer herausfinden könnte, heißt es ein Bericht in der New York Times.

Für zwei Arten von Menschen klingt diese Technologie wahrscheinlich nach einer großartigen Idee: Strafverfolgung und gruselig. Befürworter befürchten, dass diese Art von Gesichtserkennungstechnologie ein Segen für Stalker sein könnte, Menschen mit einem Geschichte von häuslicher Gewalt, und alle anderen, die alles über Sie für einen schändlichen Menschen herausfinden möchten Zweck.

„Als sich die Nachricht von dieser App verbreitete, seufzten Frauen überall“, sagte Jo O’Reilly, eine Datenschutzbefürworterin des in Großbritannien ansässigen Unternehmens ProPrivacy, in einer Erklärung gegenüber Digital Trends. „Wieder einmal steht die Sicherheit von Frauen sowohl online als auch im wirklichen Leben an zweiter Stelle gegenüber dem Wunsch von Technologie-Startups, immer invasivere Technologien zu entwickeln und zu monetarisieren.“

Clearview funktioniert zum Teil, indem es öffentlich verfügbare Daten von beliebten Social-Media-Seiten wie z Facebook, Twitter, YouTube und Venmo, unter anderem. Ein Facebook-Unternehmenssprecher sagte gegenüber Digital Trends: „Scraping Facebook Informationen oder das Hinzufügen zu einem Verzeichnis sind gemäß unseren Richtlinien verboten, daher prüfen wir die Ansprüche über dieses Unternehmen und werden entsprechende Maßnahmen ergreifen, wenn wir feststellen, dass sie gegen unsere Regeln verstoßen.“ Twitter Auch sagt, es verbietet dieser Verwendung seiner Daten.

Ein neues Tool für Missbraucher

Stalking ist seit langem ein Problem für Frauen im Internet, und das ohne ein Tool, das jemanden nur anhand seines Gesichts aufspüren kann. Derzeit behauptet Clearview, dass es seine Dienste nur an die Strafverfolgungsbehörden verkauft, die die Technologie wirklich positiv bewertet haben. „Sie schweigen jedoch seltsamerweise darüber, dass diese Software in den falschen Händen dazu genutzt werden könnte, fast jeden zu belästigen und zu stalken“, sagte O’Reilly. „Dies wäre unmöglich zu verhindern, wenn die Software der Öffentlichkeit zugänglich gemacht würde – ein Szenario, das Clearview-Investoren als möglich eingeräumt haben.“

„Bei jeder Technologie, die Sie entwickeln und die von Menschen konsumiert wird, müssen Sie an die Mängel denken“, sagte Crystal Justice, Chief Marketing and Development Officer von die nationale Hotline für häusliche Gewalt . „Straftäter sind immer auf der Suche nach dem nächsten Werkzeug in ihrem Werkzeugkasten.“

Die Hotline begann 2015 mit der Berichterstattung über digitalen Missbrauch als eigene Kategorie und verzeichnete seitdem einen starken Anstieg der Zahlen, insbesondere bei jungen Menschen. Justice teilte Digital Trends mit, dass die Hotline im Jahr 2018 371.000 Kontakte erhalten habe und 15 Prozent davon Beschwerden über digitalen Missbrauch seien. Den Zahlen der Hotline zufolge sind im Landesdurchschnitt jede vierte Frau und jeder siebte Mann Überlebende häuslicher Gewalt.

„Überlebende machen einen so großen Teil unserer Bevölkerung aus“, sagte Justice. „Technologieunternehmen müssen bei der Gestaltung ihrer Apps die Überlebenserfahrung berücksichtigen.“

Ein anhaltendes Problem

Dies ist ein hartnäckiges Muster mit vielen disruptiven Technologien in der heutigen Zeit. Als Uber 2009 auf den Markt kam, schien die Technologie zu cool, um wahr zu sein. Wir waren nicht länger Sklaven der Taxiindustrie oder inkompetenter öffentlicher Verkehrsmittel in unseren jeweiligen Städten.

Natürlich widersprach Ubers Modell auch direkt der gängigen Weisheit, die uns als Kindern beigebracht wurde: Steigen Sie nicht in Autos mit Fremden. Zehn Jahre und mehrere tausend Klagenüber sexuelle Übergriffe Später schien es, als gäbe es einen Grund, der gängige Meinung war. Für viele Menschen ist es nicht sicher, in das Auto eines Fremden einzusteigen, selbst wenn man dafür bezahlt.

Aber dieses Element des Nachdenkens über Sicherheit oder die Tatsache, dass man sich durch die Welt bewegen muss und sich ständig Sorgen um die eigene körperliche Sicherheit machen muss, ist so vielfältig Frauen und Menschen aus Minderheitengeschlechtern scheinen den (meist weißen) Männern, die Technologieunternehmen wie Uber gegründet haben, nicht in den Sinn gekommen zu sein. wie Twitter, wie so viele andere. Sie wollten einfach etwas Cooles machen, das die Welt verändern würde. Der Gedanke, dass es für schändliche Zwecke genutzt werden könnte, kam ihnen erst in den Sinn, als es zu spät war.

Datenschutz und Sicherheit müssen von Anfang an in eine App integriert werden, sagte Rachel Gibson, leitende Sicherheitsspezialistin für Technologie beim National Network to End Domestic Violence. „Es ist eine Sache, dass etwas mit guter Absicht gebaut wird, aber wir wissen, dass Technologie missbraucht werden kann“, sagte Gibson gegenüber Digital Trends. „Wir betrachten es als neue Technologie, altes Verhalten. [Vor Uber] wurden immer noch Menschen in Taxis vergewaltigt, aber wir müssen darüber nachdenken, wie die Technologie heutzutage alte Verhaltensweisen wie Stalking und Übergriffe erleichtern kann.“

So etwas wie Clearview, sagte Gibson, wirft zwar seinen Nutzen für die Strafverfolgung auf, wirft aber sicherlich die Frage auf, wie oder warum es für die breite Öffentlichkeit nützlich wäre. „Die Herstellung dieser Dinge für den öffentlichen Konsum gefährdet die Überlebenden, und wir müssen über die unbeabsichtigten Folgen nachdenken“, sagte sie.

Die Richterin sagte, sie glaube, dass sich die Diskussion über die Rolle der Technologie in der öffentlichen Sicherheit ändern werde. „Seit MeToo hat sich der Diskurs verändert“, sagte sie. „Und es ist auch an der Zeit. Dies ist kein neues Problem. Wir sehen nicht zwangsläufig eine Zunahme häuslicher Gewalt, wir sehen, dass darüber endlich gesprochen wird. Und jetzt können wir in die komplexen Elemente einbeziehen, wie Technologie dazu gehört.“

Gibson sagte auch, sie habe Gespräche mit mehreren „großen Technologieunternehmen“ geführt (obwohl sie dies nicht wollte). Geben Sie an, welche), und sie sagten, dass sie jetzt „versuchen, beim Bauen auf Privatsphäre zu achten“ und Sicherheit.

Clearview gab Digital Trends in einer kurzen Erklärung bekannt, dass sie „diese Bedenken ernst nehmen und keine Pläne für eine kommerzielle Veröffentlichung haben“. In ein BlogbeitragDas Unternehmen betonte, dass sein Produkt nicht für die Öffentlichkeit zugänglich sei und dass es „nur Strafverfolgungsbehörden und ausgewählten Sicherheitsexperten“ zur Verfügung gestellt werde.

Wenn Sie glauben, dass Sie oder jemand, den Sie kennen, unter Missbrauch in der Partnerschaft leidet, wenden Sie sich rund um die Uhr an die nationale Hotline für häusliche Gewalt unter 1−800−799−7233.

Empfehlungen der Redaktion

• KI-gestützte Kommentare kommen nächsten Monat zum Wimbledon
• Berichten zufolge baut Elon Musk bei Twitter ein generatives KI-Projekt auf
• Google Smart Canvas sorgt für eine tiefere Integration zwischen Apps
• Nvidia vermietet seine AI Superpod-Plattform für 90.000 US-Dollar pro Monat
• Portland verbietet die private und öffentliche Nutzung von Gesichtserkennungstechnologie