Apple gaat iPhones scannen op afbeeldingen van kindermisbruik

Apple heeft gezegd dat het de apparaten van klanten zal gaan scannen op afbeeldingen van seksueel misbruik van kinderen in een poging jongeren te beschermen en de verspreiding van dergelijk materiaal te voorkomen.

Bij de aankondiging van deze stap op donderdag 5 augustus zei de technologiegigant dat het technologie in komende versies van iOS en iPadOS zal gebruiken om illegale kinderafbeeldingen op een door Apple gemaakt apparaat te detecteren. smartphone of tablet.

Hoe het werkt

Apple zei dat voordat een afbeelding naar de iCloud wordt geüpload, een detectietool genaamd neuralMatch een apparaat op het apparaat zal uitvoeren matchingproces met behulp van een database met beelden van seksueel misbruik die al bekend zijn bij het National Center for Missing and Exploited Children (NCMEC). Het bedrijf zei dat de technologie is ontworpen met de privacy van gebruikers in gedachten, en legt uit dat het geen rekening houdt met de privacy van gebruikers de afbeeldingen van het apparaat, maar gebruikt in plaats daarvan een digitale vingerafdruk die aan de inhoud is gekoppeld, waardoor het apparaat kan controleren op a overeenkomst.

Als het systeem beelden van seksueel kindermisbruik detecteert, wordt de zaak gerapporteerd aan NCMEC en doorgegeven aan de politie. Het Apple-account van de gebruiker wordt ook gedeactiveerd.

Berichten, Siri en Zoeken

De Berichten-app van Apple zal ook machine learning op het apparaat gebruiken om kinderen en hun ouders te waarschuwen wanneer ze seksueel expliciete foto's ontvangen of verzenden. Siri en Zoeken worden ook bijgewerkt, zodat als iemand een zoekopdracht uitvoert die verband houdt met seksueel misbruik van kinderen, Ze worden ervan op de hoogte gebracht dat hun interesse in het onderwerp schadelijk is voordat ze worden doorverwezen naar het aanbod van bronnen hulp.

Antwoord

Hoewel kinderbeschermingsgroepen de stap van Apple hebben verwelkomd, uiten anderen hun bezorgdheid dat het systeem op een achterbakse manier zou kunnen worden gebruikt.

Toonaangevend cryptografieonderzoeker Matthew Green van de Johns Hopkins Universiteit zei in een reeks tweets dat het systeem dat wel zou kunnen kunnen mogelijk door onverlaten worden gebruikt om onschuldige slachtoffers in de problemen te brengen door hen ogenschijnlijk onschuldige afbeeldingen te sturen die bedoeld zijn om te waarschuwen een waarschuwing.

Maar Apple houdt vol dat het systeem “een extreem hoog nauwkeurigheidsniveau heeft en een kans van minder dan één op 1 biljoen per jaar garandeert.” het ten onrechte markeren van een bepaald account”, eraan toevoegend dat een menselijke recensent een gemarkeerd rapport altijd zal onderzoeken alvorens te beslissen of het moet escaleren Het.

Het bedrijf zei dat als een gebruiker meent dat zijn account ten onrechte is gemarkeerd, “hij een beroep kan indienen om zijn account te laten herstellen.”

Maar er bestaat ook bezorgdheid dat autoritaire regeringen het systeem zullen proberen te gebruiken om burgers, zoals activisten die zich tegen een regime verzetten, in de gaten te houden.

Bij verdere analyse is zei Groen,,Ongeacht wat de langetermijnplannen van Apple zijn, ze hebben een heel duidelijk signaal afgegeven. Volgens hun (zeer invloedrijke) mening is het veilig om systemen te bouwen die de telefoons van gebruikers scannen op verboden inhoud. Dat is de boodschap die ze sturen naar overheden, concurrerende diensten, China en jou.”

De onderzoeker vervolgt: “Of ze op dat punt gelijk of ongelijk hebben, doet er nauwelijks toe. Dit zal de dam breken – regeringen zullen dit van iedereen eisen. En tegen de tijd dat we erachter komen dat het een vergissing was, zal het veel te laat zijn.”

Ondertussen zei John Clark, president en CEO van NCMEC, beschreef de zet van Apple als “een game-changer”, en voegde eraan toe: “Nu zoveel mensen Apple-producten gebruiken, zijn deze nieuwe veiligheidsmaatregelen levensreddend potentieel voor kinderen die online worden verleid en wier gruwelijke beelden in seksueel misbruik van kinderen circuleren materiaal."

Apple zei dat de wijzigingen als eerste in de VS zullen verschijnen in updates voor iOS 15, iPadOS 15, watchOS 8 en macOS Monterey later dit jaar.

Aanbevelingen van de redactie

• Een ander rapport suggereert dat de iPhone 15 Pro duurder zal zijn
• Hoe u uw iPhone snel kunt opladen
• Apple kan te maken krijgen met een ‘ernstig’ iPhone 15-tekort vanwege productieproblemen, aldus het rapport
• Ik zal woedend zijn als de iPhone 15 Pro deze ene functie niet krijgt
• Hoe u de Apple ID van iemand anders op uw iPhone kunt verwijderen

Upgrade uw levensstijlMet Digital Trends kunnen lezers de snelle technische wereld in de gaten houden met het laatste nieuws, leuke productrecensies, inzichtelijke redactionele artikelen en unieke sneak peeks.