Apple nu compromite inteligența cu confidențialitatea în iOS 10

Sigla promoțională pentru WWDC 2023.
Această poveste face parte din acoperirea noastră completă Apple WWDC
mărul Craig Federighi
Toată lumea își dorește datele dvs. și le primește - sunt informații de neprețuit care pot dezvolta multe aspecte ale unei afaceri, de la îmbunătățirea serviciului oferit până la extinderea fluxului de venituri. Acesta este prețul utilizării serviciilor gratuite de la Google, Facebook și o multitudine de alte companii, inclusiv Apple.

Dar Apple a devenit modelul confidențialității de atunci s-a ridicat în picioare FBI-ul în cazul împușcăturilor din San Bernardino, California. Și pentru a se potrivi cu noua sa gândire de confidențialitate, producătorul de iPhone limitează în esență cantitatea de date pe care le colectează despre oameni, păstrând în același timp anonimatul. Totul se datorează unei metode pe care o implementează în iOS 10 numită confidențialitate diferențială.

Apple încearcă să arate că colectarea datelor utilizatorilor pe dispozitive mobile nu trebuie să însemne întotdeauna sacrificarea confidențialității unui utilizator.

Craig Federighi, vicepreședintele senior al software-ului Apple, ne-a reamintit că Apple nu creează profiluri de utilizator. Și servicii precum iMessage, HomeKit și FaceTime folosesc criptarea end-to-end pentru a proteja datele, ceea ce înseamnă că forțele de ordine, infractorii sau chiar Apple nu le pot accesa. Apple a clarificat acum cum va funcționa confidențialitatea diferențială Recodificați, iOS 10 va fi prima dată când Apple începe să colecteze date diferențiale. Dar punctul cheie este că această colectare de date este opt-in - utilizatorul va trebui să își dea consimțământul.

iOS 10 folosește inteligența de pe dispozitiv pentru a îndeplini sarcini precum identificarea persoanelor, obiectelor și scenelor în Fotografii și sugestii de putere pentru tastatură. Funcțiile de recunoaștere a imaginii nu se bazează pe fotografiile stocate de utilizatori, ci pe alte seturi de date. Apple nu a clarificat ce date folosește, dar cu siguranță nu sunt fotografii stocate în cloud ale oamenilor.

„Când vine vorba de efectuarea unei analize a datelor tale”, a spus Federighi la conferința mondială a dezvoltatorilor. „O facem pe dispozitivele tale, păstrând datele tale personale sub controlul tău.”

Datele nu vor fi trimise în cloud, spre deosebire de analiza datelor Google. Cu date diferențiale, Apple încearcă să arate că colectarea datelor despre utilizatori pe dispozitive mobile nu trebuie să însemne întotdeauna sacrificarea confidențialității unui utilizator.

Ce este confidențialitatea diferențială și cum funcționează?

Intimitatea diferențială este o tehnică matematică care a fost studiată de câțiva ani. Este o metodă de a culege date despre un grup mare de oameni, în timp ce se învață cât mai puțin despre indivizii din acel grup.

„Începând cu iOS 10, Apple folosește tehnologia numită confidențialitate diferențială pentru a ajuta la descoperirea tiparelor de utilizare a unui număr mare de utilizatori, fără a compromite confidențialitatea individuală”, Apple. scrie. „În iOS 10, această tehnologie va ajuta la îmbunătățirea sugestiilor QuickType și emoji, a sugestiilor Spotlight de linkuri directe și a sugestiilor de căutare în Note.”

Practic, datele dvs. sunt randomizate și apoi trimise la Apple în vrac împreună cu alte date de utilizator - astfel sunt trimise în siguranță. Tehnica adună tendințe populare despre ceea ce oamenii le place, doresc și fac, fără a fi nevoie să atașeze acele date unui anumit individ. Apple, hackerii sau forțele de ordine nu vor putea spune de la cine provin aceste date sau chiar dacă un anumit utilizator este parte a setului de date.

Apple – WWDC 2016 Keynote

Google a folosit de fapt confidențialitate diferențială din 2014 în browserul său Chrome, dar căutarea giant a ales să numească tehnica RAPPOR, Randomized Aggregatable Privacy-Preserving Ordinal Raspuns. Oamenii care au creat RAPPOR descrie-l cel mai bine ca o tehnică care permite „studiarea pădurii datelor clienților, fără a permite posibilitatea de a observa arbori individuali”.

„Pe baza conceptului de răspuns randomizat, RAPPOR permite învățarea statisticilor despre comportamentul software-ului utilizatorilor, garantând în același timp confidențialitatea clienților”, Google. scrie într-o postare pe blog. „Garanțiile de confidențialitate diferențială, care sunt acceptate pe scară largă ca fiind cea mai puternică formă de confidențialitate, nu au fost aproape niciodată folosite în practică, în ciuda cercetărilor intense din mediul academic. RAPPOR introduce o metodă practică de a obține acele garanții.”

Ce părți ale iOS 10 folosesc confidențialitate diferențială?

Apple aduce confidențialitatea acestui client pe tastatura iOS 10, căutări Spotlight și Note. Este probabil ca Apple să testeze mai întâi tehnica pe aceste servicii și aplicații. Dacă reușește, compania din Cupertino ar putea extinde această tehnică de culegere a datelor la alte servicii precum Maps.

„Credem că ar trebui să aveți caracteristici grozave și o confidențialitate excelentă”, a spus Federighi la prezentarea. „Confidențialitatea diferențială este un subiect de cercetare în domeniile statisticilor și analizei datelor care utilizează hashing, subeșantionarea și injecția de zgomot pentru a permite... învățarea în comun, păstrând în același timp datele utilizatorilor individuali complet privat. Apple a făcut niște lucrări extrem de importante în acest domeniu pentru a permite implementarea la scară a confidențialității diferențiate.”

„Pentru a ascunde identitatea unui individ, confidențialitatea diferențială adaugă zgomot matematic la un mic eșantion al modelului de utilizare al individului.”

Acest lucru îl simplifică, dar hashingul transformă datele în caractere aleatorii; subeșantionarea înseamnă că Apple preia doar o mică parte din date; iar injecția de zgomot introduce alte date pentru a vă ascunde informațiile personale.

„Pentru a ascunde identitatea unui individ, confidențialitatea diferențială adaugă zgomot matematic unui mic eșantion al modelului de utilizare al individului”, spune compania în ghidul său de previzualizare iOS 10. „Pe măsură ce mai mulți oameni împărtășesc același model, încep să apară modele generale, care pot informa și îmbunătăți experiența utilizatorului.”

Aruncarea mai multă zgomot într-un câmp de date ascunde de unde provin datele, dar tendințele vor apărea pe măsură ce mai mulți oameni împărtășesc același model.

Cum face iOS 10 mai bun?

Cu toate acestea, confidențialitatea diferențială nu este doar pentru colectarea de date - poate ajuta de fapt la îmbunătățirea serviciilor.

„Există această idee în care cu cât ai mai multă confidențialitate, cu atât datele sunt mai puțin utile.” spune Aaron Roth, profesor asistent de informatică la Universitatea din Pennsylvania, care a scris și cartea despre confidențialitatea diferențială. „Există ceva adevăr în asta, dar nu este chiar atât de simplu. Confidențialitatea poate crește, de asemenea, utilitatea datelor prin prevenirea acestui tip de supraadaptare.”

mesaj ios10

În tastatura iOS 10, Apple colectează date despre utilizatori pentru a îmbunătăți sugestiile pentru QuickType și emojie. În loc să se bazeze și să actualizeze propriul tău dicționar personal pe dispozitivul tău, Apple va folosi confidențialitate diferențială pentru a identifica emoji-urile și tendințele lingvistice pentru toți utilizatorii săi. În acest fel, puteți ajunge să vedeți care sunt emoji-urile mai populare și ar putea apărea un nou argou chiar înainte de a le introduce.

„Desigur, unul dintre instrumentele importante pentru a face software-ul mai inteligent este de a identifica modele în modul în care mai mulți utilizatori își folosesc dispozitivele”, a spus Federighi. „De exemplu, ați putea dori să știți ce cuvinte noi sunt în tendințe, astfel încât să le puteți oferi mai ușor pe tastatura QuickType.”

Căutarea Spotlight beneficiază și de confidențialitate diferențială. În prezent, dacă căutați „Finding Dory”, veți primi linkuri către articole din aplicația Știri și conținut web, precum și metode de achiziție a biletelor dacă aveți aplicații precum Fandango instalate. Acest lucru se datorează legăturii profunde, o funcție introdusă anul trecut în iOS 9.

Dar cum sunt clasate aceste rezultate de căutare? De ce apare articolul Apple News înainte de rezultatele lui Fandango? Există, de asemenea, o mulțime de rezultate irelevante care afectează rezultatele căutării, iar confidențialitatea diferențială vă ajută oferindu-vă cele mai populare link-uri profunde. Deci, dacă toată lumea a ignorat articolul de la Apple News și a mers la rezultatul lui Fandango - asta va apărea primul.

Notes este, deocamdată, singurul alt serviciu care va folosi confidențialitate diferențială. Notes devine puțin mai inteligent în iOS 10 - pe lângă faptul că îl puteți utiliza cu mai multe persoane, aplicația vă va permite și să interacționați cu textul pentru a efectua alte funcții. De exemplu, dacă scrieți un nume și un număr în Note, aplicația va sugera crearea unui contact nou. Totuși, aceste sugestii nu sunt întâmplătoare. Confidențialitatea diferențială ajută Apple să știe ce fel de note fac oamenii și vă va sugera orice este relevant pentru dvs.

Vrei dispozitive mai inteligente sau dispozitive private?

Roth, cea mai proeminentă minte privind confidențialitatea diferențială, a spus că munca Apple este „revoluționară”. Apple ne arată că într-adevăr poți au funcții inteligente, protejând în același timp confidențialitatea unui utilizator - iar compania a spus la prezentarea că colectează chiar și mai puține date.

Compară asta cu viitoarea aplicație de mesagerie a Google, Allo. Gigantul căutărilor nu a activat criptarea end-to-end la nivel de aplicație, deoarece nu ar putea oferi caracteristicile sale speciale de Asistent în firele de mesaje. Allo are un mod incognito, cum ar fi Chrome, care va folosi criptarea end-to-end - dar acesta este în mod clar un compromis. Este o modalitate de a oferi puțină confidențialitate, păstrând în același timp toate funcțiile inteligente AI. Facebook este chiar se presupune că luând în considerare un „mod” pentru a activa criptarea end-to-end în aplicația sa Messenger.

Apple vrea să ofere funcții inteligente și are nevoie și de datele dvs., dar compania nu dorește să compromită criptarea end-to-end existentă. Deci, inteligența pe dispozitiv și confidențialitatea diferențială este modul său de a aborda acest lucru. Cu siguranță, acest lucru va determina alte companii tehnologice importante să reevalueze cantitatea de date pe care o colectează și modul în care le colectează.

Între timp, va trebui să așteptăm și să vedem cât de „inteligente” vor fi aceste funcții iOS în comparație cu cele precum Google și Facebook poate face și probabil că vom vedea mai multe informații legate de modul în care funcționează confidențialitatea diferențială în noua versiune în toamnă abordari.

Actualizări:

Actualizat pe 24-06-2016 de Julian Chokkattu: Adăugat în clarificare de la Apple cu privire la momentul în care va începe colectarea diferențială a datelor și că este opt-in.

Recomandările editorilor

  • Această față Snoopy Apple Watch este prea drăguță – iată cum să-l obții
  • Ai un iPhone, iPad sau Apple Watch? Trebuie să-l actualizezi chiar acum
  • Cele mai mari 6 funcții iOS 17 pe care Apple le-a furat de la Android
  • Apple a rezolvat în sfârșit cea mai mare problemă a mea cu iPhone 14 Pro Max
  • iOS 17: Apple nu a adăugat singura funcție pe care am așteptat-o