Estamos más cerca del inquietante "sistema de crédito social" de China de lo que cree

¿Alguna vez has escuchado el dicho de que eres el promedio de las cinco personas con las que pasas más tiempo? Es muy posible que alguien en el gobierno chino esté íntimamente familiarizado con la idea. Durante los últimos años, el país ha estado trabajando para cuantificar la confiabilidad de cada ciudadano en China. Un poco como un puntaje de crédito financiero, que solo se aplica a la cantidad de valor que podemos poner en el carácter de una persona, la idea es que usar big data e A.I. Los algoritmos para analizar la confiabilidad pueden conducir a una nueva era en la honradez. ciudadanía.

O como la propuesta original del sistema, titulada “Esquema de planificación para la construcción de un sistema de crédito social”, expresó: “[Tal iniciativa] forjará un ambiente de opinión pública donde mantener la confianza es glorioso. Fortalecerá la sinceridad en los asuntos gubernamentales, la sinceridad comercial, la sinceridad social y la construcción de credibilidad judicial”.

Vídeos recomendados

Entonces, ¿dónde entra en juego la cita del empresario y orador motivacional Jim Rohn acerca de que una persona es la suma total de otras cinco personas? Porque un elemento del Sistema de Crédito Social, que será obligatorio para los ciudadanos en 2020, depende de con quién se asocie en línea.

Relacionado

  • No hables: este dispositivo portátil te permite dar comandos de voz sin decir una palabra
  • Cómo el seguimiento de emociones A.I. cambiará la informática tal como la conocemos
  • Una IA está diseñando videojuegos retro, y son sorprendentemente buenos

Es una idea sacada directamente de la tan invocada distopía de George Orwell. 1984.

Además de áreas más mundanas, como si pagas tu cargo comunitario a tiempo, el algoritmo de reputación del sistema también tendrá en cuenta tu elección de amigos en línea. Esa persona que se queja de cómo el gobierno está haciendo su trabajo podría de repente costarle una gran credibilidad social. Hazte amigo de demasiados pensadores erróneos y rápidamente podrías encontrarte clasificado como un pensador erróneo también.

Es una idea sacada directamente de la tan invocada distopía de George Orwell. 1984. Pero tampoco es del todo exclusivo de China. Es cierto que el gobierno de Estados Unidos no está instituyendo públicamente un Sistema de Crédito Social, pero la idea de que el análisis de la reputación digital no es algo que nos afecte a todos en 2018 es evidentemente falsa.

Tu posición social, algorítmica

El reciente saga en curso de Facebook La implicación del posible abuso de datos de usuarios subraya una vez más las formas en que nuestras personas en línea son seleccionadas, recopiladas, monetizadas y cortadas en cubitos de todo tipo de formas. Cada vez más, serán tratados como puntajes crediticios de próxima generación, no sólo capaces de controlar nuestra respetabilidad financiera, pero también otras métricas mediante las cuales podemos ser considerados de calidad. los ciudadanos.

Recientemente, no pasé esa prueba. En Twitter intento seguir a una amplia gama de pensadores, ya que me parece una buena manera de evitar el efecto “burbuja de filtro”. Si hay un tema que me preocupa mucho, me gusta seguir a los "líderes de opinión" al otro lado de la división ideológica para estar expuesto a sus respuestas a los artículos de las noticias.

Westend61/Getty Images

Quién sabe: un caso bien argumentado podría incluso hacerte cambiar de opinión sobre algo que creías que era cierto. Como mínimo, le brinda la oportunidad de conocer los argumentos más convincentes utilizados en contra de su posición. Todo iba bien hasta que descubrí que había sido bloqueado por cierto usuario al que llamaré “usuario X” con quien no había tenido interacción previa.

Investigando un poco más descubrí la explicación: otra persona a la que seguí había sido agregada a un lista de bloqueo automatizada por el usuario X, de modo que cualquiera que los siguiera no pudiera ver los tweets del usuario X. En algún lugar del efímero mundo de Internet sentí que mi crédito social personal disminuía notablemente, como no lo había hecho desde que mis compañeros de secundaria descubrieron que todavía miraba Guardabosques.

En Internet todo el mundo sabe que eres un perro.

Todavía estamos afrontando la forma en que están cambiando nuestras identidades digitales. Hace veinticinco años, no nos preocupábamos por la reputación online porque toda la idea galvanizadora de Internet se basaba en el anonimato. Un famoso 1993 Neoyorquino La caricatura mostraba a dos caninos expertos en informática usando una computadora. “En Internet nadie sabe que eres un perro”, decía el eslogan. Hoy en día, las empresas en línea no sólo saben que eres un perro; ellos saben qué marca de comida para perros te gusta, qué collar usas, dónde estiras las piernas y, para bien o para mal, dónde ensucias.

Igniyte UK - Por qué los resultados de los motores de búsqueda son importantes para su reputación online

Aquí, en 2018, damos por sentado que Internet sabe quiénes somos. Se considera un insulto si no es así. Si los sitios web no saben quiénes somos, no recibimos recomendaciones de noticias personalizadas, actualizaciones de amigos de las redes sociales ni videos sugeridos. Diablos, en Twitter, la idea de ser "verificado" como uno mismo es la máxima recompensa que puede tener: una idea que habría parecido extraña a los primeros usuarios de la web.

Los estudios han sugerido que los perfiles de las redes sociales también se pueden utilizar para predecir con precisión nuestro éxito laboral.

Si bien podemos tener varias personas en línea, tal como las tenemos en el mundo real, estas identidades no son completamente independientes. Pueden extenderse a otras áreas de nuestras vidas; la línea cada vez más borrosa entre personas públicas y privadas, o sociales y profesionales. Por ejemplo, múltiples estudios han sugerido que los perfiles de redes sociales (diseñados, ya sabes, para nuestros social vidas) también se puede utilizar para predecir con precisión nuestro éxito laboral. Uno proyecto de investigación 2016 llevado a cabo por investigadores de la Universidad de Gante en Bélgica llegó a la conclusión de que Facebook Las fotos de perfil pueden aumentar o disminuir tus posibilidades de que te ofrezcan una entrevista para un trabajo hasta en un 40 por ciento.

"Creo que el CV de ahora y del futuro pasa de ser uno en papel que enviamos a cómo nos vemos cuando buscamos en Google", dijo Simon Wadsworth, socio gerente. Igniyte, una empresa de gestión de reputación online, dijo a Digital Trends. “Sabemos que ese es el primer recurso al que recurren los empleadores. Lucir lo mejor posible en línea será un factor importante cuando alguien busque ingresar a una educación superior, conseguir un trabajo o incluso comprar una casa”.

Un juego que tienes que jugar.

Chris DeGraw/Tendencias digitales

Tampoco creas que puedes escaparte sin jugar. "Creo que también existe un problema si no se puede encontrar a una persona en línea de ninguna manera, por lo que se requiere un punto medio", continuó. No ser detectable en línea podría significar que una persona tiene algo que ocultar. De manera más mundana, pero crucial, también podría simplemente dejar a una persona en el frío digital. "Para la generación que va a la universidad y consigue trabajo, esto sugiere no tener muchos conocimientos digitales si no tienen presencia en línea", dijo Wadsworth.

Si un buen perfil de Facebook hace que tengas más probabilidades de conseguir una entrevista, ¿qué significa eso? Facebook perfil en absoluto significa?

La naturaleza problemática de las identidades digitales solo se volverá más compleja a medida que sigamos viviendo cada vez más en línea. Los puntajes crediticios miden un aspecto de nuestra reputación: nuestra capacidad para devolver el dinero. Toman en cuenta cosas como si los pagos se realizan a tiempo, cuánto de nuestra línea de crédito hemos utilizado, la duración de nuestro historial crediticio, los tipos de crédito que utilizamos y nuestro historial crediticio anterior. aplicaciones. A partir de ahí, los bancos y minoristas crean y utilizan un puntaje FICO.

La idea detrás del puntaje FICO se remonta a la década de 1950, antes de que finalmente se introdujera en 1989. Hoy en día, se puede recopilar una gran cantidad de información sobre los usuarios que era imposible conocer en la década de 1980. Lo que “le gusta” a una persona en línea, qué compra, dónde lo compra, con quién socializa, qué hace en sus hogares, todo ello se puede recopilar y analizar cada vez más mediante el uso de aprendizaje automático inteligente herramientas.

A medida que más y más de nosotros mismos nos virtualizamos, lo que es posible “saber” se expande. Datos de fitness, registros de salud, perfiles y preferencias de citas online, nuestros estados emocionales, cómo aprendemos en el aula, la rapidez con la que leemos libros electrónicos en nuestras vacaciones y mucho más pueden crear una imagen sorprendentemente precisa de quienes somos. Es cierto que muchos de estos datos son anónimos, pero la capacidad de aprovechar esta información y hacer referencias cruzadas de ella en todo tipo de nuevas formas es una realidad inevitable.

El regreso del crédito social

El sistema que reemplazó las calificaciones crediticias se basaba en la reputación y en juicios cualitativos. A una persona se le podía negar una línea de crédito porque a un banquero no le gustaba su comportamiento. Además del historial de pagos, esto significaba que los juicios eran el resultado de cosas como visitas domiciliarias, la posición percibida de una persona en la comunidad y más. Las calificaciones crediticias tenían como objetivo eliminar la subjetividad y, lo que es igualmente importante, la opacidad de este proceso.

Hoy el crédito social vuelve a ser una realidad.

Hoy el crédito social vuelve a ser una realidad. Todo, desde la información que se nos muestra hasta los precios y las oportunidades que se nos ofrecen, está envuelto en la forma bizantina en que el mundo digital cura la identidad. Tenemos fácil acceso a nuestros puntajes crediticios y sabemos cómo mejorarlos. Cuando se trata del mundo online, esto no es tan sencillo. Quién recopila datos sobre nosotros, cómo se utilizan y qué significa esto para la forma en que percibimos el mundo digital que nos rodea; Todas estas preguntas están lejos de estar claras.

Proyectos como el Sistema de Crédito Social de China deberían preocupar a la gente por varias razones. Pero al igual que las distopías de ciencia ficción con las que se le compara, nos asusta porque entendemos de forma innata que es un mundo con el que estamos familiarizados, sólo que con el volumen subido a once. No piense ni por un segundo que el impulso que lo impulsa no es el mismo que encuentra su camino en cada interacción que tenemos en línea.

Recomendaciones de los editores

  • ¿Cómo sabremos cuándo una IA realmente se vuelve sensible?
  • ¿Qué es ese líquido? La 'lengua electrónica' de IBM que identifica sabores te lo dirá
  • Como un alcoholímetro para detectar el agotamiento, un nuevo análisis de sangre puede indicar qué tan cansado estás
  • IA crítica El espejo evalúa qué tan confiable eres según tu apariencia