Apple begynder at scanne iPhones for billeder af misbrug af børn

Apple har sagt, at de vil begynde at scanne kundernes enheder for billeder af seksuelt misbrug af børn i et forsøg på at beskytte de unge og forhindre spredning af sådant materiale.

Ved at annoncere flytningen torsdag den 5. august sagde teknologigiganten, at den vil bruge teknologi i kommende versioner af iOS og iPadOS til at opdage ulovlige børnebilleder på en Apple-fremstillet smartphone eller tablet.

Hvordan det virker

Apple sagde, at før et billede uploades til iCloud, vil et detektionsværktøj kaldet neuralMatch udføre en on-device matchningsproces ved hjælp af en database med billeder af seksuelt misbrug, der allerede er kendt af National Center for Missing and Exploited Children (NCMEC). Virksomheden sagde, at teknologien er designet med brugernes privatliv i tankerne, og forklarede, at den ikke ser en enhedens billeder, men bruger i stedet et digitalt fingeraftryk, der er knyttet til indholdet, der gør det muligt for den at tjekke for en match.

Hvis systemet opdager billeder af seksuelt misbrug af børn, vil sagen blive rapporteret til NCMEC og videregivet til retshåndhævelsen. Brugerens Apple-konto vil også blive deaktiveret.

Beskeder, Siri og Søg

Apples Messages-app vil også bruge maskinlæring på enheden til at advare børn og deres forældre, når de modtager eller sender seksuelt eksplicitte billeder. Siri og Search vil også blive opdateret, så hvis nogen udfører en søgning relateret til seksuelt misbrug af børn, de vil blive informeret om, at deres interesse for emnet er skadelig, før de sendes til ressourcetilbud Hjælp.

Respons

Mens børnestøttegrupper har hilst Apples skridt velkommen, giver andre udtryk for bekymring over, at systemet kan bruges på en underhåndsvis måde.

Den førende kryptografiforsker Matthew Green fra Johns Hopkins University sagde i en række tweets, at systemet kunne potentielt blive brugt af ondsindede til at lande uskyldige ofre i problemer ved at sende dem tilsyneladende uskyldige billeder designet til at anspore en advarsel.

Men Apple insisterer på, at systemet har "et ekstremt højt niveau af nøjagtighed og sikrer mindre end en ud af 1 billion chance pr. forkert markering af en given konto," tilføjer, at en menneskelig anmelder altid vil undersøge en markeret rapport, før han beslutter sig for, om den skal eskalere det.

Virksomheden sagde, at hvis en bruger føler, at deres konto er blevet fejlagtigt markeret, "kan de indgive en appel om at få deres konto genindsat."

Men der er også bekymring for, at autoritære regeringer kan forsøge at bruge systemet til at overvåge borgere, såsom aktivister, der modsætter sig et regime.

I yderligere analyse, sagde Green, "Uanset hvad Apples langsigtede planer er, har de sendt et meget klart signal. Efter deres (meget indflydelsesrige) mening er det sikkert at bygge systemer, der scanner brugernes telefoner for forbudt indhold. Det er det budskab, de sender til regeringer, konkurrerende tjenester, Kina, dig."

Forskeren fortsatte: ”Om de viser sig at have ret eller forkert på det punkt, er næppe ligegyldigt. Dette vil bryde dæmningen - regeringer vil kræve det af alle. Og når vi finder ud af, at det var en fejl, vil det være alt for sent."

I mellemtiden, John Clark, præsident og CEO for NCMEC, beskrev Apples træk som "en game-changer", og tilføjer: "Med så mange mennesker, der bruger Apple-produkter, har disse nye sikkerhedsforanstaltninger livreddende potentiale for børn, der bliver lokket online, og hvis forfærdelige billeder bliver cirkuleret i seksuelt misbrug af børn materiale."

Apple sagde, at ændringerne først ankommer til USA i opdateringer til iOS 15, iPadOS 15, watchOS 8 og macOS Monterey senere på året.

Redaktørernes anbefalinger

• En anden rapport tyder på, at iPhone 15 Pro vil være dyrere
• Sådan oplader du din iPhone hurtigt
• Apple kan stå over for "alvorlig" iPhone 15-mangel på grund af produktionsproblem, siger rapporten
• Jeg vil blive rasende, hvis iPhone 15 Pro ikke får denne ene funktion
• Sådan slipper du af med en andens Apple ID på din iPhone

Opgrader din livsstilDigital Trends hjælper læserne med at holde styr på den hurtige teknologiske verden med alle de seneste nyheder, sjove produktanmeldelser, indsigtsfulde redaktionelle artikler og enestående smugkig.