Maar sindsdien is Apple het toonbeeld van privacy geworden opstond de FBI in de schietzaak in San Bernardino, Californië. En om zijn nieuwe privacy-first-mentaliteit te evenaren, beperkt de iPhone-maker in wezen de hoeveelheid gegevens die hij over mensen verzamelt, terwijl hij de zaken toch anoniem houdt. Het is allemaal te danken aan een methode die het implementeert in iOS 10, genaamd differentiële privacy.
Apple probeert aan te tonen dat het verzamelen van gebruikersgegevens op mobiele apparaten niet altijd hoeft te betekenen dat de privacy van een gebruiker wordt opgeofferd.
Craig Federighi, senior vice-president software van Apple, herinnerde ons eraan dat Apple geen gebruikersprofielen samenstelt. En diensten als iMessage, HomeKit en FaceTime gebruiken end-to-end-encryptie om gegevens te beschermen, wat betekent dat wetshandhavers, criminelen of zelfs Apple er geen toegang toe hebben. Apple heeft nu duidelijk gemaakt hoe differentiële privacy zal werken HercodereniOS 10 zal de eerste keer zijn dat Apple differentiële gegevens begint te verzamelen. Maar het belangrijkste punt is dat deze gegevensverzameling opt-in is: de gebruiker zal toestemming moeten geven.
iOS 10 maakt gebruik van intelligentie op het apparaat om taken uit te voeren zoals het identificeren van mensen, objecten en scènes in Foto's, en stroomsuggesties voor het toetsenbord. De beeldherkenningsfuncties zijn niet afhankelijk van de foto's die gebruikers kunnen opslaan, maar van andere datasets. Apple heeft niet duidelijk gemaakt welke gegevens het gebruikt, maar het zijn zeker niet de in de cloud opgeslagen foto's van mensen.
“Als het gaat om het analyseren van uw gegevens”, zei Federighi tijdens de keynote van de Worldwide Developers Conference. “We doen het op uw apparaten en houden uw persoonlijke gegevens onder uw controle.”
Gegevens worden niet naar de cloud verzonden, in tegenstelling tot de gegevensanalyse van Google. Met differentiële gegevens probeert Apple aan te tonen dat het verzamelen van gebruikersgegevens op mobiele apparaten niet altijd hoeft te betekenen dat de privacy van een gebruiker wordt opgeofferd.
Wat is differentiële privacy en hoe werkt het?
Differentiële privacy is een wiskundige techniek die al enkele jaren wordt bestudeerd. Het is een methode om gegevens te verzamelen over een grote groep mensen, terwijl je zo min mogelijk leert over individuen in die groep.
“Vanaf iOS 10 gebruikt Apple technologie genaamd differentiële privacy om de gebruikspatronen van een groot aantal gebruikers te helpen ontdekken zonder de individuele privacy in gevaar te brengen”, zegt Apple. schrijft. “In iOS 10 zal deze technologie QuickType- en emoji-suggesties, Spotlight-deeplink-suggesties en Lookup Hints in Notes helpen verbeteren.”
In principe worden uw gegevens willekeurig verdeeld en vervolgens in bulk naar Apple verzonden, samen met andere gebruikersgegevens. Op die manier worden ze veilig verzonden. De techniek verzamelt populaire trends over wat mensen leuk vinden, willen en doen, zonder die gegevens ooit aan een specifiek individu te hoeven koppelen. Apple, hackers of wetshandhavingsinstanties zullen niet kunnen achterhalen van wie deze gegevens afkomstig zijn, en zelfs niet of het om een specifieke gebruiker gaat. onderdeel van de dataset.
Apple – WWDC 2016-keynote
Google gebruikt eigenlijk al sinds 2014 differentiële privacy in zijn Chrome-browser, maar de zoekfunctie gigant heeft ervoor gekozen om de techniek RAPPOR, Randomized Aggregatable Privacy-Preserving Ordinal, te noemen Antwoord. De mensen die RAPPOR hebben gecreëerd omschrijf het het beste als een techniek die het mogelijk maakt “het woud aan klantgegevens te bestuderen, zonder de mogelijkheid toe te staan om naar individuele bomen te kijken.”
“Voortbouwend op het concept van gerandomiseerde respons, maakt RAPPOR het mogelijk om statistieken te leren over het gedrag van de software van gebruikers, terwijl de privacy van de klant wordt gegarandeerd”, zegt Google schrijft in een blogpost. “De garanties voor differentiële privacy, die algemeen worden aanvaard als de sterkste vorm van privacy, zijn in de praktijk vrijwel nooit gebruikt, ondanks intensief onderzoek in de academische wereld. RAPPOR introduceert een praktische methode om die garanties te verwezenlijken.”
Welke delen van iOS 10 gebruiken differentiële privacy?
Apple brengt deze clientprivacy naar het iOS 10-toetsenbord, Spotlight-zoekopdrachten en Notes. Het is waarschijnlijk dat Apple de techniek eerst op deze diensten en apps test. Als dit lukt, zou het bedrijf uit Cupertino deze techniek voor het verzamelen van gegevens kunnen uitbreiden naar andere diensten zoals Maps.
“Wij vinden dat je geweldige functies en geweldige privacy moet hebben”, zei Federighi tijdens de keynote. “Differentiële privacy is een onderzoeksonderwerp op het gebied van statistiek en data-analyse dat gebruik maakt van hashing, subsampling en ruisinjectie om crowdsourced leren mogelijk te maken terwijl de gegevens van individuele gebruikers behouden blijven volledig privé. Apple heeft op dit gebied superbelangrijk werk verricht om differentiële privacy op grote schaal te kunnen implementeren.”
“Om de identiteit van een individu te verdoezelen, voegt differentiële privacy wiskundige ruis toe aan een klein voorbeeld van het gebruikspatroon van het individu.”
Dit vereenvoudigt het, maar hashen verandert gegevens in willekeurige tekens; subsampling betekent dat Apple slechts een klein deel van de gegevens gebruikt; en ruisinjectie gooit andere gegevens in om uw persoonlijke gegevens te verbergen.
“Om de identiteit van een individu te verdoezelen, voegt differentiële privacy wiskundige ruis toe aan een klein voorbeeld van het gebruikspatroon van het individu”, zegt het bedrijf in zijn iOS 10 preview-gids. “Naarmate meer mensen hetzelfde patroon delen, beginnen er algemene patronen te ontstaan, die de gebruikerservaring kunnen informeren en verbeteren.”
Door meer ruis in een gegevensveld te gooien, wordt onduidelijk waar de gegevens vandaan komen, maar er zullen trends ontstaan naarmate meer mensen hetzelfde patroon delen.
Hoe wordt iOS 10 beter?
Differentiële privacy is echter niet alleen bedoeld voor het verzamelen van gegevens; het kan zelfs helpen de dienstverlening te verbeteren.
“Er bestaat het idee dat hoe meer privacy je hebt, hoe minder bruikbaar de gegevens zijn,” zegt Aaron Roth, een assistent-professor in computerwetenschappen aan de Universiteit van Pennsylvania, die ook het boek over differentiële privacy schreef. ‘Daar zit een kern van waarheid in, maar zo eenvoudig is het niet. Privacy kan ook de bruikbaarheid van data vergroten door dit soort overfitting te voorkomen.”
Op het iOS 10-toetsenbord verzamelt Apple gebruikersgegevens om suggesties voor QuickType en emojiificatie te verbeteren. In plaats van te vertrouwen op uw eigen persoonlijke woordenboek op uw apparaat en dit bij te werken, zal Apple differentiële privacy gebruiken om emoji- en taaltrends bij al zijn gebruikers vast te stellen. Op die manier zie je misschien wat de meer populaire emoji's zijn, en kan er nieuw jargon verschijnen voordat je ze zelfs maar typt.
“Een van de belangrijkste hulpmiddelen bij het intelligenter maken van software is natuurlijk het ontdekken van patronen in de manier waarop meerdere gebruikers hun apparaten gebruiken”, zegt Federighi. "Misschien wil je bijvoorbeeld weten welke nieuwe woorden populair zijn, zodat je ze gemakkelijker op het QuickType-toetsenbord kunt aanbieden."
Zoeken met Spotlight profiteert ook van differentiële privacy. Als u momenteel op ‘Finding Dory’ zoekt, krijgt u links naar artikelen uit de Nieuws-app en webinhoud, evenals methoden om kaartjes te kopen als u apps zoals Fandango hebt geïnstalleerd. Dat is te danken aan deeplinking, een functie die vorig jaar in iOS 9 werd geïntroduceerd.
Maar hoe worden deze zoekresultaten gerangschikt? Waarom verschijnt het Apple News-artikel eerst vóór de resultaten van Fandango? Er zijn ook veel irrelevante resultaten die de zoekresultaten teisteren, en differentiële privacy helpt door u de populairste deep links te geven. Dus als iedereen het artikel van Apple News zou negeren en naar het resultaat van Fandango zou gaan, dan zal dat als eerste verschijnen.
Notes is op dit moment de enige andere service die gebruik maakt van differentiële privacy. Notities wordt een beetje slimmer in iOS 10. Behalve dat je het met meerdere mensen kunt gebruiken, kun je met de app ook met tekst communiceren om andere functies uit te voeren. Als u bijvoorbeeld een naam en nummer in Notities schrijft, stelt de app voor om een nieuw contact aan te maken. Deze suggesties zijn echter niet willekeurig. Differentiële privacy helpt Apple te weten wat voor soort aantekeningen mensen maken, en suggereert wat voor jou relevant is.
Wil je slimmere apparaten of privé-apparaten?
Roth, de meest prominente geest op het gebied van differentiële privacy, zei dat het werk van Apple ‘baanbrekend’ is. Apple laat ons zien dat het inderdaad kan hebben slimme functies terwijl ze toch de privacy van een gebruiker beschermen – en het bedrijf zei tijdens de keynote dat het zelfs minder gegevens verzamelt.
Vergelijk dat eens met de aankomende berichten-app van Google, Allo. De zoekgigant heeft geen end-to-end-codering ingeschakeld app-breed, omdat het zijn speciale Assistent-functies niet zou kunnen aanbieden binnen berichtenthreads. Allo heeft, net als Chrome, een incognitomodus die end-to-end-codering gebruikt, maar dit is duidelijk een compromis. Het is een manier om wat privacy te bieden, terwijl je toch alle slimme AI-functies behoudt. Facebook is gelijk naar verluidt overwegen een “modus” om end-to-end-codering in de Messenger-app mogelijk te maken.
Apple wil slimme functies aanbieden en heeft ook jouw gegevens nodig, maar het bedrijf wil de bestaande end-to-end-encryptie niet in gevaar brengen. Dus intelligentie op het apparaat en differentiële privacy zijn de manier om dat aan te pakken. Dit zal andere grote technologiebedrijven er zeker toe aanzetten om de hoeveelheid gegevens die zij verzamelen, en de manier waarop zij deze verzamelen, opnieuw te evalueren.
In de tussentijd zullen we moeten afwachten hoe ‘slim’ deze iOS-functies zullen zijn in vergelijking met die van Google en Google. Facebook kan dat doen, en we zullen waarschijnlijk in de herfst meer informatie zien over hoe differentiële privacy werkt in de nieuwe versie benadert.
Updates:
Bijgewerkt op 24-06-2016 door Julian Chokkattu: Ter verduidelijking van Apple toegevoegd over wanneer de differentiële gegevensverzameling zal beginnen, en dat dit opt-in is.
Aanbevelingen van de redactie
- Dit Snoopy Apple Watch-gezicht is te schattig – hier leest u hoe u het kunt krijgen
- Heb je een iPhone, iPad of Apple Watch? Je moet het nu bijwerken
- De 6 grootste iOS 17-functies die Apple van Android heeft gestolen
- Apple heeft eindelijk mijn grootste probleem met de iPhone 14 Pro Max opgelost
- iOS 17: Apple heeft niet de enige functie toegevoegd waar ik op heb gewacht
