Но с тех пор Apple стала образцом конфиденциальности. противостоял ФБР в деле о стрельбе в Сан-Бернардино, Калифорния. И чтобы соответствовать своему новому подходу к конфиденциальности, производитель iPhone по существу ограничивает объем данных, которые он собирает о людях, сохраняя при этом анонимность. Все это благодаря методу, реализованному в iOS 10, который называется дифференциальной конфиденциальностью.
Apple пытается показать, что сбор пользовательских данных на мобильных устройствах не всегда означает жертвование конфиденциальностью пользователя.
Крейг Федериги, старший вице-президент Apple по программному обеспечению, напомнил нам, что Apple не создает профили пользователей. А такие сервисы, как iMessage, HomeKit и FaceTime, используют сквозное шифрование для защиты данных, что означает, что правоохранительные органы, преступники или даже Apple не смогут получить к ним доступ. Apple теперь уточнила, как будет работать дифференциальная конфиденциальность.
Перекодировать, iOS 10 станет первым случаем, когда Apple начнет собирать дифференциальные данные. Но ключевым моментом является то, что этот сбор данных является добровольным — пользователь должен будет дать свое согласие.iOS 10 использует встроенный в устройство интеллект для выполнения таких задач, как распознавание людей, объектов и сцен в фотографиях, а также рекомендации по мощности клавиатуры. Функции распознавания изображений полагаются не на фотографии, сохраненные пользователями, а на другие наборы данных. Apple не уточнила, какие данные она использует, но это определенно не фотографии людей, хранящиеся в облаке.
«Когда дело доходит до анализа ваших данных», — сказал Федериги на Всемирной конференции разработчиков. «Мы делаем это на ваших устройствах, сохраняя ваши личные данные под вашим контролем».
Данные не будут отправляться в облако, в отличие от анализа данных Google. С помощью дифференциальных данных Apple пытается показать, что сбор пользовательских данных на мобильных устройствах не всегда означает жертвование конфиденциальностью пользователя.
Что такое дифференциальная конфиденциальность и как она работает?
Дифференциальная конфиденциальность — это математический метод, который изучается уже несколько лет. Это метод сбора данных о большой группе людей, при этом узнавая как можно меньше о людях в этой группе.
«Начиная с iOS 10, Apple использует технологию, называемую дифференциальной конфиденциальностью, чтобы помочь выявить модели использования большого количества пользователей, не ставя под угрозу индивидуальную конфиденциальность», — Apple пишет. «В iOS 10 эта технология поможет улучшить предложения QuickType и смайлов, предложения глубоких ссылок Spotlight и подсказки для поиска в заметках».
По сути, ваши данные рандомизируются, а затем массово отправляются в Apple вместе с другими пользовательскими данными — таким образом, они отправляются безопасно. Этот метод собирает популярные тенденции о том, что люди любят, хотят и делают, без необходимости привязки этих данных к конкретному человеку. Apple, хакеры или правоохранительные органы не смогут определить, от кого получены эти данные, и даже если конкретный пользователь часть набора данных.
Apple – Основной доклад WWDC 2016
Google фактически использует дифференциальную конфиденциальность с 2014 года в своем браузере Chrome, но поиск гигант решил назвать метод RAPPOR (рандомизированный агрегированный порядковый номер, сохраняющий конфиденциальность). Ответ. Люди, создавшие РАППОР опиши это лучше всего как метод, который позволяет «изучить лес клиентских данных, не допуская возможности просмотра отдельных деревьев».
«Основываясь на концепции рандомизированного ответа, RAPPOR позволяет изучать статистику о поведении программного обеспечения пользователей, гарантируя при этом конфиденциальность клиентов», — Google пишет в блоге. «Гарантии дифференцированной конфиденциальности, которые широко признаны как самая сильная форма конфиденциальности, почти никогда не использовались на практике, несмотря на интенсивные исследования в научных кругах. РАППОР представляет практический метод достижения этих гарантий».
Какие части iOS 10 используют дифференциальную конфиденциальность?
Apple обеспечивает конфиденциальность этого клиента на клавиатуре iOS 10, поиске Spotlight и заметках. Вполне вероятно, что Apple сначала тестирует эту технику на этих сервисах и приложениях. В случае успеха компания из Купертино сможет распространить эту технику сбора данных на другие сервисы, такие как Maps.
«Мы считаем, что у вас должны быть отличные функции и отличная конфиденциальность», — сказал Федериги в своем выступлении. «Дифференциальная конфиденциальность — это тема исследования в области статистики и анализа данных, в которой используется хеширование, субдискретизация и внесение шума для обеспечения… краудсорсингового обучения, сохраняя при этом данные отдельных пользователей полностью приватный. Apple проделала очень важную работу в этой области, чтобы обеспечить возможность масштабного внедрения дифференциальной конфиденциальности».
«Чтобы скрыть личность человека, дифференциальная конфиденциальность добавляет математический шум к небольшой выборке шаблона поведения человека».
Это упрощает задачу, но хеширование превращает данные в случайные символы; субдискретизация означает, что Apple берет лишь небольшую часть данных; а внедрение шума добавляет другие данные, чтобы скрыть вашу личную информацию.
«Чтобы скрыть личность человека, дифференциальная конфиденциальность добавляет математический шум к небольшой выборке шаблона поведения человека», — говорится в руководстве компании по предварительной версии iOS 10. «По мере того, как все больше людей разделяют один и тот же шаблон, начинают проявляться общие шаблоны, которые могут информировать и улучшать пользовательский опыт».
Если добавить больше шума в поле данных, то станет неясно, откуда они поступают, но тенденции будут проявляться по мере того, как все больше людей разделяют одну и ту же модель поведения.
Как это делает iOS 10 лучше?
Однако дифференциальная конфиденциальность предназначена не только для сбора данных — она действительно может помочь улучшить услуги.
«Есть идея, что чем больше у вас конфиденциальности, тем менее полезны данные», говорит Аарон Рот, доцента информатики Пенсильванского университета, который также написал книгу о дифференциальной конфиденциальности. «В этом есть доля правды, но все не так просто. Конфиденциальность также может повысить полезность данных, предотвращая такого рода переобучение».
В клавиатуре iOS 10 Apple собирает пользовательские данные, чтобы улучшить предложения QuickType и смайликов. Вместо того, чтобы полагаться на свой личный словарь и обновлять его на вашем устройстве, Apple будет использовать дифференциальную конфиденциальность, чтобы точно определять эмодзи и языковые тенденции среди всех своих пользователей. Таким образом, вы сможете увидеть, какие смайлы наиболее популярны, и новый сленг может появиться еще до того, как вы их наберете.
«Конечно, одним из важных инструментов повышения интеллекта программного обеспечения является выявление закономерностей в том, как несколько пользователей используют свои устройства», — сказал Федериги. «Например, вы можете захотеть узнать, какие новые слова в тренде, чтобы вам было легче предлагать их на клавиатуре QuickType».
Поиск Spotlight также выигрывает от дифференциальной конфиденциальности. В настоящее время, если вы выполните поиск «В поисках Дори», вы получите ссылки на статьи из приложения «Новости» и веб-контент, а также способы покупки билетов, если у вас установлены такие приложения, как Fandango. Это благодаря диплинкингу — функции, представленной в прошлом году в iOS 9.
Но как ранжируются эти результаты поиска? Почему статья Apple News появляется раньше результатов Fandango? Существует также множество нерелевантных результатов, которые портят результаты поиска, а дифференциальная конфиденциальность помогает, предоставляя вам самые популярные глубокие ссылки. То есть, если все проигнорировали статью из Apple News и перешли к результату Фанданго — вот что появится первым.
Notes на данный момент является единственным сервисом, который будет использовать дифференциальную конфиденциальность. Приложение «Заметки» в iOS 10 становится немного умнее — помимо возможности использовать его с несколькими людьми, приложение также позволит вам взаимодействовать с текстом для выполнения других функций. Например, если вы напишете имя и номер в «Заметках», приложение предложит создать новый контакт. Однако эти предложения не случайны. Дифференциальная конфиденциальность помогает Apple узнать, какие заметки делают люди, и предложит то, что актуально для вас.
Вам нужны более умные устройства или частные устройства?
Рот, самый выдающийся специалист в области дифференциальной конфиденциальности, сказал, что работа Apple является «новаторской». Apple показывает нам, что вы действительно можете иметь интеллектуальные функции, сохраняя при этом защиту конфиденциальности пользователя — и компания заявила в своем выступлении, что даже собирает меньше данных.
Сравните это с предстоящим приложением для обмена сообщениями от Google Allo. Поисковый гигант не включил сквозное шифрование для всего приложения, поскольку оно не сможет предлагать свои специальные функции Ассистента в потоках сообщений. В Allo есть режим инкогнито, как и в Chrome, который будет использовать сквозное шифрование, но это явно компромисс. Это способ обеспечить некоторую конфиденциальность, сохраняя при этом все интеллектуальные функции искусственного интеллекта. Фейсбук даже как сообщается, рассматривая «режим» для включения сквозного шифрования в приложении Messenger.
Apple хочет предложить интеллектуальные функции и также нуждается в ваших данных, но компания не хочет ставить под угрозу существующее сквозное шифрование. Таким образом, интеллект на устройстве и дифференцированная конфиденциальность — это способ решения этой проблемы. Несомненно, это побудит другие крупные технологические компании переоценить объем данных, которые они собирают, и способы их сбора.
А пока нам придется подождать и посмотреть, насколько «умными» будут эти функции iOS по сравнению с такими функциями, как Google и Facebook может это сделать, и осенью мы, вероятно, увидим больше информации о том, как работает дифференциальная конфиденциальность, в новой версии. подходы.
Обновления:
Обновлено Джулианом Чоккатту от 24 июня 2016 г.: Добавлено разъяснение Apple о том, когда начнется сбор дифференциальных данных и о том, что это добровольно.
Рекомендации редакции
- Лицо Снупи на Apple Watch слишком милое — вот как его получить
- У вас есть iPhone, iPad или Apple Watch? Вам необходимо обновить его прямо сейчас
- 6 крупнейших функций iOS 17, которые Apple украла у Android
- Apple наконец-то исправила мою самую большую проблему с iPhone 14 Pro Max
- iOS 17: Apple не добавила ту функцию, которую я ждал
