Apple kompromissar inte smart med sekretess i iOS 10

Alla vill ha din data, och de får den – det är ovärderlig information som kan utveckla många aspekter av ett företag, från att förbättra själva tjänsten som erbjuds till att utöka intäktsströmmen. Det är priset för att använda gratistjänster från sådana som Google, Facebook och en uppsjö av andra företag, inklusive Apple.

Men Apple har blivit förebild för integritet ända sedan det stod upp till FBI i San Bernardino, Kalifornien, skjutningen. Och för att matcha sitt nya sekretess-först-tänkesätt, begränsar iPhone-tillverkaren i huvudsak mängden data som den samlar in om människor, samtidigt som den håller saker anonyma. Det är allt tack vare en metod som den implementerar i iOS 10 som kallas differentiell integritet.

Craig Federighi, Apples senior vice president för mjukvara, påminde oss om att Apple inte bygger användarprofiler. Och tjänster som iMessage, HomeKit och FaceTime använder end-to-end-kryptering för att skydda data, vilket innebär att brottsbekämpande myndigheter, brottslingar eller till och med Apple inte kan komma åt dem. Apple har nu förtydligat hur differentiell integritet kommer att fungera Enligt

Koda om, iOS 10 kommer att vara första gången Apple börjar samla in differentiell data. Men nyckelpunkten är att denna datainsamling är opt-in - användaren måste samtycka.

iOS 10 använder intelligens på enheten för att utföra uppgifter som att identifiera personer, objekt och scener i Foton och energiförslag för tangentbordet. Bildigenkänningsfunktionerna förlitar sig inte på användarnas lagrade foton utan på andra datauppsättningar. Apple har inte klargjort vilken data de använder, men det är definitivt inte människors molnlagrade foton.

"När det kommer till att utföra analys av dina data," sa Federighi vid Worldwide Developers Conference keynote. "Vi gör det på dina enheter och håller dina personliga uppgifter under din kontroll."

Data kommer inte att skickas till molnet, till skillnad från Googles dataanalys. Med differentiell data försöker Apple visa att insamling av användardata på mobila enheter inte alltid behöver innebära att man offra en användares integritet.

Vad är differentiell integritet och hur fungerar det?

Differentiell integritet är en matematisk teknik som har studerats i flera år. Det är en metod att samla in data om en stor grupp människor samtidigt som man lär sig så lite som möjligt om individer i den gruppen.

"Från och med iOS 10 använder Apple teknik som kallas differentiell integritet för att hjälpa till att upptäcka användningsmönstren för ett stort antal användare utan att kompromissa med individuell integritet," Apple skriver. "I iOS 10 kommer den här tekniken att hjälpa till att förbättra QuickType- och emoji-förslag, Spotlight-djuplänksförslag och uppslagstips i Notes."

I grund och botten är din data randomiserad och skickas sedan till Apple i bulk tillsammans med annan användardata - på så sätt skickas den säkert. Tekniken samlar populära trender om vad människor gillar, vill och gör, utan att någonsin behöva bifoga denna data till en specifik individ. Apple, hackare eller brottsbekämpande myndigheter kommer inte att kunna berätta vem denna data kommer ifrån, eller ens om en specifik användare är del av datamängden.

Google har faktiskt använt differentiell integritet sedan 2014 i sin Chrome-webbläsare, men sökningen jätten har valt att döpa tekniken till RAPPOR, Randomized Aggregatable Privacy-Preserving Ordinal Svar. Människorna som skapade RAPPOR beskriv det bäst som en teknik som gör att "skogen av klientdata kan studeras, utan att tillåta möjligheten att titta på enskilda träd."

"RAPPOR bygger på konceptet med randomiserat svar och möjliggör inlärning av statistik om beteendet hos användarnas mjukvara samtidigt som kundens integritet garanteras," Google skriver i ett blogginlägg. ”Garantierna för differentierad integritet, som är allmänt accepterade som den starkaste formen av integritet, har nästan aldrig använts i praktiken trots intensiv forskning inom akademin. RAPPOR introducerar en praktisk metod för att uppnå dessa garantier.”

Vilka delar av iOS 10 använder differentiell integritet?

Apple ger denna klientintegritet till iOS 10-tangentbordet, Spotlight-sökningar och Notes. Det är troligt att Apple testar tekniken på dessa tjänster och appar först. Om det lyckas kan Cupertino-företaget utöka denna datainsamlingsteknik till andra tjänster som Maps.

"Vi tror att du bör ha fantastiska funktioner och bra integritet," sa Federighi vid keynoten. "Differentiell integritet är ett forskningsämne inom områdena statistik och dataanalys som använder hashing, delsampling och brusinjektion för att möjliggöra … crowdsourcing-inlärning samtidigt som data från enskilda användare behålls helt privat. Apple har gjort en del superviktigt arbete på det här området för att möjliggöra att differentiell integritet kan distribueras i stor skala."

Detta förenklar det, men hash förvandlar data till slumpmässiga tecken; delsampling innebär att Apple bara tar en liten del av datan; och brusinjektion slänger in annan data för att dölja din personliga information.

"För att dölja en individs identitet lägger differentiell integritet till matematiskt brus till ett litet urval av individens användningsmönster", säger företaget i sin iOS 10 förhandsvisningsguide. "När fler människor delar samma mönster börjar allmänna mönster dyka upp, som kan informera och förbättra användarupplevelsen."

Att kasta mer brus i ett datafält döljer var data kommer ifrån, men trender kommer att dyka upp när fler människor delar samma mönster.

Hur gör det iOS 10 bättre?

Differentiell integritet är dock inte bara för att samla in data - det kan faktiskt hjälpa till att förbättra tjänsterna.

"Det finns den här idén att ju mer integritet du har, desto mindre användbar är data," säger Aaron Roth, en biträdande professor i datavetenskap vid University of Pennsylvania, som också skrev boken om differentiell integritet. "Det finns en viss sanning i det, men det är inte fullt så enkelt. Sekretess kan också öka användbarheten av data genom att förhindra denna typ av överanpassning.”

I iOS 10-tangentbordet samlar Apple in användardata för att förbättra förslag på QuickType och emojiifiering. Istället för att förlita sig på och uppdatera din egen personliga ordbok på din enhet, kommer Apple att använda differentiell integritet för att lokalisera emoji- och språktrender för alla sina användare. På så sätt kan du sluta se vad de mer populära emojierna är, och ny slang kan dyka upp innan du ens skriver dem.

"Naturligtvis är ett av de viktiga verktygen för att göra programvara mer intelligent att upptäcka mönster i hur flera användare använder sina enheter," sa Federighi. "Du kanske till exempel vill veta vilka nya ord som är trendiga så att du lättare kan erbjuda dem på QuickType-tangentbordet."

Spotlight-sökning drar också nytta av differentiell integritet. För närvarande, om du söker "Finding Dory", får du länkar till artiklar från News-appen och webbinnehåll, samt metoder för att köpa biljetter om du har appar som Fandango installerade. Det är tack vare djuplänkning, en funktion som introducerades förra året i iOS 9.

Men hur rankas dessa sökresultat? Varför visas Apple News-artikeln först före Fandangos resultat? Det finns också många irrelevanta resultat som plågar sökresultaten, och differentierad integritet hjälper dig genom att ge dig de mest populära djuplänkarna. Så om alla ignorerade artikeln från Apple News och gick till Fandangos resultat - det är vad som kommer att dyka upp först.

Notes är, från och med nu, den enda andra tjänsten som kommer att använda differentiell integritet. Notes blir lite smartare i iOS 10 — förutom att kunna använda den med flera personer, låter appen dig också interagera med text för att utföra andra funktioner. Om du till exempel skriver ett namn och nummer i Notes föreslår appen att du skapar en ny kontakt. Dessa förslag är dock inte slumpmässiga. Differentiell integritet hjälper Apple att veta vilken typ av anteckningar folk gör, och det kommer att föreslå allt som är relevant för dig.

Vill du ha smartare enheter eller privata enheter?

Roth, den mest framträdande tanken på differentiell integritet, sa att Apples arbete är "banbrytande". Apple visar oss att du verkligen kan har smarta funktioner samtidigt som de skyddar en användares integritet - och företaget sa vid keynoten att det till och med samlar in mindre data.

Jämför det med Googles kommande meddelandeapp, Allo. Sökjätten har inte aktiverat end-to-end-kryptering app-omfattande, eftersom det inte skulle kunna erbjuda sina speciella Assistant-funktioner i meddelandetrådar. Allo har ett inkognitoläge, som Chrome, som kommer att använda end-to-end-kryptering - men detta är helt klart en kompromiss. Det är ett sätt att erbjuda lite integritet, samtidigt som du behåller alla smarta AI-funktioner. Facebook är jämnt enligt uppgift överväger ett "läge" för att aktivera end-to-end-kryptering i Messenger-appen.

Apple vill erbjuda smarta funktioner och behöver din data också, men företaget vill inte äventyra sin befintliga end-to-end-kryptering. Så on-device intelligens och differentiell integritet är dess sätt att ta itu med det. Detta kommer säkert att få andra stora teknikföretag att omvärdera mängden data de samlar in och sättet på vilket de samlar in den.

Under tiden får vi vänta och se hur "smarta" dessa iOS-funktioner kommer att vara jämfört med vad som Google och Facebook kan göra, och vi kommer sannolikt att se mer information relaterad till hur differentierad integritet fungerar i den nya versionen under hösten närmar sig.

Uppdateringar:

Uppdaterad 2016-06-24 av Julian Chokkattu: Lagt till ett förtydligande från Apple om när differentiell datainsamling kommer att börja, och att det är opt-in.

Redaktörens rekommendationer

• Detta Snoopy Apple Watch-tavla är för sött - så här får du det
• Har du en iPhone, iPad eller Apple Watch? Du måste uppdatera den nu
• De 6 största iOS 17-funktionerna som Apple stal från Android
• Apple fixade äntligen mitt största problem med iPhone 14 Pro Max
• iOS 17: Apple lade inte till den funktion jag har väntat på