Мы ближе к тревожной «системе социального кредита» Китая, чем вы думаете

Слышали ли вы когда-нибудь поговорку, что вы — среднее из пяти человек, с которыми проводите больше всего времени? Вполне возможно, что кто-то в китайском правительстве близко знаком с этой идеей. В течение последних нескольких лет страна работала над количественной оценкой надежности каждого гражданина Китая. Это немного похоже на финансовый кредитный рейтинг, только в зависимости от того, насколько мы можем оценить характер человека. заключается в том, что использование больших данных и искусственного интеллекта. Алгоритмы анализа надежности могут привести к новой эре в честности гражданство.

Или как оригинальное предложение системы под названием «Схема планирования создания системы социального кредита», - написал он: «[Такая инициатива] создаст среду общественного мнения, в которой сохранять доверие - это великолепно. Это укрепит искренность в государственных делах, коммерческую искренность, социальную искренность и повысит авторитет судебной власти».

Так причем тут цитата бизнесмена и мотивационного оратора Джима Рона о том, что человек представляет собой сумму пяти других людей? Потому что один из элементов системы социального кредита, которая станет обязательной для граждан к 2020 году, зависит от того, с кем вы общаетесь в Интернете.

В дополнение к более приземленным вещам, например, своевременно ли вы платите коммунальные платежи, репутационный алгоритм системы также будет учитывать ваш выбор онлайн-друзей. Тот человек, который жалуется на то, как правительство выполняет свою работу, может внезапно стоить вам серьезного социального доверия. Подружитесь со слишком большим количеством неправильно мыслящих людей, и вас тоже могут быстро отнести к числу неправильно мыслящих людей.

Это идея прямо из часто упоминаемой антиутопии Джорджа Оруэлла. Девятнадцать восемьдесят четыре. Но это также не совсем уникально для Китая. Да, правительство США не учреждает публично систему социального кредита, но идея о том, что анализ цифровой репутации не затрагивает всех нас в 2018 году, явно неверна.

Ваше социальное положение, алгоритмизированное

недавняя продолжающаяся сага о Facebook потенциальное злоупотребление пользовательскими данными еще раз подчеркивает, каким образом наши онлайн-персоны курируются, собираются, монетизируются, нарезаются и нарезаются всевозможными способами. Они все чаще будут рассматриваться как кредитные рейтинги следующего поколения, позволяющие не только следить за нашими кредитными рейтингами. финансовая респектабельность, но также и другие показатели, по которым нас можно считать качественными. граждане.

Недавно я провалил такой тест. В Твиттере я стараюсь следить за разными мыслителями, поскольку это кажется хорошим способом избежать эффекта «пузыря фильтров». Если есть проблема, которая меня сильно волнует, я предпочитаю следовать за «лидерами мнений» по другую сторону идеологического барьера, чтобы узнать их реакцию на сообщения в новостях.

Кто знает: хорошо аргументированный случай может даже изменить ваше мнение о чем-то, что вы считали правдой. По крайней мере, это дает вам возможность узнать наиболее убедительные аргументы, используемые против вашей позиции. Все шло хорошо, пока я не обнаружил, что меня заблокировал определенный пользователь, которого я назову «пользователь X», с которым я ранее не общался.

Немного покопавшись, я обнаружил объяснение: еще один человек, за которым я следил, был добавлен в автоматический черный список пользователя X, так что всем, кто следил за ним, было запрещено просматривать твиты пользователя ИКС. Где-то в эфемерном мире Интернета я почувствовал, что мой личный социальный рейтинг заметно упал, чего не было с тех пор, как мои одноклассники в средней школе обнаружили, что я все еще смотрю Могучие Рейнджеры.

В Интернете все знают, что ты собака

Мы все еще пытаемся понять, как меняются наши цифровые личности. Двадцать пять лет назад мы не беспокоились о репутации в Интернете, потому что вся вдохновляющая идея Интернета была построена на анонимности. Знаменитый 1993 год. Житель Нью-Йорка В мультфильме были изображены две собаки, разбирающиеся в компьютерах и использующие компьютер. “В Интернете никто не знает, что ты собака», – гласил слоган. Сегодня не только интернет-компании знают, что вы собака; они знают, какой бренд корма для собак вам нравится, какой ошейник вы носите, где вы разминаете ноги и — к лучшему или к худшему — где вы занимаетесь своими делами.

Здесь, в 2018 году, мы считаем само собой разумеющимся, что Интернет знает, кто мы. Если этого не сделать, это считается оскорблением. Если веб-сайты не знают, кто мы, мы не получаем персонализированных рекомендаций новостей, обновлений друзей в социальных сетях или предлагаемых видео. Черт возьми, в Твиттере идея «подтверждения» себя является чуть ли не высшей наградой, которую вы можете получить: идея, которая показалась бы странной первым пользователям сети.

Хотя в сети у нас может быть несколько личностей, как и в реальном мире, эти личности не являются полностью самодостаточными. Они могут распространиться на другие сферы нашей жизни; грань между публичными и частными личностями, или социальными и профессиональными, становится все более размытой. Например, многочисленные исследования показали, что профили в социальных сетях (разработанные, знаете ли, для наших Социальное жизней) также можно использовать для точного прогнозирования нашего успеха в трудоустройстве. Один 2016 исследовательский проект исследователи из бельгийского Гентского университета пришли к выводу, что Фейсбук Фотографии профиля могут увеличить или уменьшить ваши шансы на приглашение на собеседование при приеме на работу почти на 40 процентов.

«Я думаю, что резюме настоящего и будущего переходит от бумажного, которое мы рассылаем, к тому, как мы выглядим в Google», — Саймон Уодсворт, управляющий партнер. Игнийте, компания по управлению онлайн-репутацией, рассказала Digital Trends. «Мы знаем, что это первая точка захода для работодателей. Поиск лучших результатов в Интернете будет важным фактором, когда кто-то хочет получить высшее образование, устроиться на работу или даже купить дом».

Игра, в которую вам придется играть

Не думайте, что вы сможете уйти, не играя. «Я думаю, что существует проблема, если человека невозможно найти в Интернете каким-либо образом – поэтому требуется золотая середина», – продолжил он. Отсутствие возможности обнаружения в Интернете может означать, что человеку есть что скрывать. Более обыденно, но очень важно, что это может также просто оставить человека в цифровом холоде. «Для поколения, которое учится в колледже и устраивается на работу, это означает, что они не очень хорошо разбираются в цифровых технологиях, если у них нет присутствия в Интернете», — сказал Уодсворт.

Если хороший профиль в Facebook повышает вероятность того, что вы попадете на собеседование, то что не так? Фейсбук профиль вообще имеется в виду?

Проблемный характер цифровых удостоверений будет только усложняться, поскольку мы продолжаем все больше жить в Интернете. Кредитный рейтинг измеряет один аспект нашей репутации: нашу способность возвращать деньги. Они принимают во внимание такие вещи, как своевременность платежей, размер нашей кредитной линии. мы использовали, продолжительность нашей кредитной истории, типы кредитов, которые мы используем, и наш прошлый кредит Приложения. На основе этого создается оценка FICO, которая используется банками и розничными торговцами.

Идея оценки FICO зародилась еще в 1950-х годах, прежде чем она была окончательно представлена ​​в 1989 году. Сегодня можно собрать огромное количество информации о пользователях, о которой невозможно было знать в 1980-х годах. Что человеку «нравится» в Интернете, что он покупает, где он это покупает, с кем общается, чем занимается. в своих домах, все это можно все чаще собирать и прочесывать с помощью умного машинного обучения. инструменты.

По мере того, как мы все больше и больше виртуализируемся, возможности «знания» расширяются. Данные о физической форме, медицинские записи, профили и предпочтения онлайн-знакомств, наше эмоциональное состояние, то, как мы учимся в классе, как быстро мы читаем электронные книги во время отпуска и многое другое может создать удивительно точную картину кто мы есть. Да, большая часть этих данных анонимизирована, но возможность использовать эту информацию и перекрестно ссылаться на нее всевозможными новыми способами — это неизбежная реальность.

Возврат социального кредита

Система, которую заменили кредитные рейтинги, была основана на репутации и качественных суждениях. Человеку могли отказать в кредитной линии, потому что банкиру не нравилось его поведение. Помимо истории платежей, это означало, что судебные решения были результатом таких вещей, как посещения на дому, воспринимаемое положение человека в обществе и многое другое. Кредитные рейтинги были призваны устранить субъективность и, что не менее важно, непрозрачность этого процесса.

Сегодня социальный кредит снова стал реальностью. Все — от информации, которую нам показывают, до цен и возможностей, которые нам предлагают, — завернуто в византийский способ, которым цифровой мир курирует идентичность. У нас есть легкий доступ к нашим кредитным рейтингам, и мы знаем, как их улучшить. Когда дело доходит до онлайн-мира, все не так просто. Кто собирает данные о нас, как они используются и какое значение это имеет для нашего восприятия цифрового мира вокруг нас; все эти вопросы далеко не ясны.

Такие проекты, как китайская система социального кредитования, должны беспокоить людей по ряду причин. Но, как и научно-фантастические антиутопии, с которыми его сравнивают, он пугает нас, потому что мы врожденно понимаем, что это мир, с которым мы знакомы — только с громкостью, увеличенной до одиннадцати. Ни на секунду не думайте, что стимул, движущий этим явлением, не тот, который проявляется в каждом взаимодействии, которое мы имеем в Интернете.

Рекомендации редакции

• Как мы узнаем, когда ИИ действительно станет разумным?
• Что это за жидкость? «Электронный язык» IBM, определяющий вкус, расскажет вам
• Как алкотестер на усталость, новый анализ крови может определить, насколько вы устали.
• Судебный ИИ зеркало оценивает, насколько вы заслуживаете доверия, основываясь на вашей внешности