El Gran Hermano chino

Un sistema de vigilancia ciudadana en China puede servir como ejemplo de lo que no hay que hacer si queremos vivir en un futuro mejor.

En absoluto secreto, el gobierno chino ya puso en marcha el mayor programa de vigilancia ciudadana que se haya conocido hasta el momento. Se llama Sistema de Crédito Social (SCS) y será para calificar a más de 1000 millones de ciudadanos en base a una sistema de puntos elaborado a partir de millones de datos digitales (Big Data) que proveerán empresas privadas de ese país. Esos datos trazan un perfil digital del ciudadano donde se monitorean desde sus comportamientos sociales y morales hasta políticos y financieros.

Por ahora se trata de una prueba piloto y la participación en este tenebroso sistema de puntuación ciudadana es voluntaria, pero para 2020 será obligatorio. El sistema no solo incluirá a las personas sino también a las empresas y otras entidades.

De esta manera, quienes obtengan puntajes bajos tendrán restricciones, problemas y trabas o directamente estarán impedidos de gozar de beneficios que sí tendrán las personas más confiables (con más puntos). Desde accesos a restaurantes y comercios, o a una Internet de mayor o menor velocidad hasta solicitudes de alquiler de un departamento o un auto; obtener un seguro o un préstamo, incluso ser contratados por ciertas empresas o matricular a sus hijos en las escuelas privadas más caras Todo eso dependerá del puntaje que tendrá cada ciudadano.

Aunque el objetivo del plan del gobierno controlado por el Partido Comunista es “construir una cultura de confianza y sinceridad”, estamos frente un sofisticado Gran Hermano Digital.

Hasta ahora son ocho las empresas elegidas por el gobierno chino para que aporten todo tipo de datos digitales. Estas compañías son especialistas en la recolección y el análisis de Big Data. Al menos dos de ellas pertenecen al grupo Tencent, que lidera el empresario Jack Ma (que vino a Buenos Aires a mediados de año) y propietario de Alibaba (el gigante de comercio electrónico) y WeChat (que reúne a más de 850 millones de usuarios). Las dos empresas del programa son China Rapid Finance y Sesame Credit. Esta última vende seguros y otorga préstamos sociales a personas y pymes en base a algoritmos que determinan quién está pidiendo un préstamo. El algoritmo toma en cuenta desde multas de tránsito, sus comprás, la puntualidad en el pago de impuestos y su comportamiento online, entre otros factores.

El Grupo Tencent también maneja AliPay, la empresa de pagos tipo Paypal que los usuarios usan para comprar online en el sitio pero también en comercios, taxis, cines etc e incluso para transferir plata entre personas.

Sesame Credit también se asoció con otras plataformas de datos, como Didi Chuxing, la compañía de transporte que compró las operaciones de Uber en China y Baihe, el mayor sitio de búsqueda de parejas chino.

¿Cómo calificarán a las personas?

El gobierno chino no dio información al respecto, pero lo que sí se sabe es que en Sesame Credit se miden por una puntuación que va entre los 350 y 950 puntos. Y Alibaba tiene un algoritmo propio para calificar a los usuarios pero no lo difunde. Aunque sí revela los 5 factores que toma en cuenta para esa clasificación. El historial crediticio (si un ciudadano paga en término sus servicios de luz, agua, tarjetas de crédito, etc), la capacidad de cumplimmiento, características personales (su celular, donde vive). En cuarto lugar su comportamiento y preferencia a la hora de comprar online (o sea, los productos que compra en Alibaba). “Si alguien juega videojuegos durante diez horas por día, por ejemplo, sería considerado una persona un poco vaga”, dijo a la revista Wired Li Yingyun, el director tecnológico de Sesame Credit. Lo mismo si otro usuario compra pañales regularmente, para la empresa significa que es un padre con sentido de la responsabilidad.

El quinto factor que Alibaba toma en cuenta -y tal vez el que más polémica puede generar en cuanto a la libertad de expresión y la privacidad- es el de las relaciones interpersonales. Se analiza la interacción del usuario con otras personas, la cantidad de amigos que tiene, la frecuencia y el tipo de mensajes que se intercambian diariamente, etc. ¿Qué pasará con la puntuación de las personas que, por ejemplo, tengan pocos amigos, sean tímidas, pesimistas o agresivas o que opinen contra el gobierno?

Millones de personas ya se anotaron en el plan voluntario de puntuación en Alibaba a cambio de diferentes tipos de recompensas, privilegios y premios. Un sistema de control social y vigilancia masivo pero camuflado de un típico plan de fidelización. Con 600 puntos se puede sacar un préstamo de hasta 500 mil yuanes para compras online en alguno de los sitios del grupo Tencent o alquilar un auto sin dejar depósito, hacer el check-in en el aeropuerto de Beijing sin hacer fila, etc.

Muchos usuarios ya presumen de su alta puntuación en Weibo (el Twitter chino) o en el sitio de citas online Baihe, donde a más puntaje, mejor es la confianza del usuario que quiera conseguir una pareja.

Otros cientos de miles de ciudadanos aún no tienen ni idea que están siendo evaluados.

Por el momento, al ser un sistema a prueba, no hay sanciones concretas para los que tienen pocos puntos pero Hu Tao, gerente general de Sesame Credit, comentó en Wired que el sistema está diseñado para que en un futuro, “las personas poco confiables no puedan alquilar un auto, ni pedir dinero prestado y directamente, ni siquiera puedan encontrar trabajo”. Por eso en Sesame Credit ya ofrecen consejos para ayudar a aquellos usuarios con poco puntaje a mejorar su calificación y advierten sobre los “inconvenientes” de tener amistades con personas que tienen pocos puntos. Dime con quien andas…

Gran parte de las discusiones sobre el futuro en relación a la tecnología (robots, autos autónomos, etc) no son ni técnicas ni económicas, sino éticas. Por eso a partir de este sistema implementado en China surgen varias preocupaciones y dudas de cara al futuro no tan lejano:

¿Es correcto que un algoritmo decida automáticamente cuestiones claves en una persona sin tener en cuenta cuestiones fundamentales como el contexto, matices, y hasta contradicciones, que son inherentes a la existencia humana?

Este tipo de sistemas lesiona los principios de, por ejemplo, igualdad ante la ley y el derecho a una defensa, ambos piedras fundamentales en un sistema democrático. Es decir, si un ciudadano obtiene una calificación baja, ¿tiene posibilidades de apelar o discutir esa puntuación si la considera injusta?

¿Habrá listas negras con gente de baja puntuación que por ejemplo, se vea impedida de viajar en tren o comprar bienes o servicios?

¿Cómo se controlará la corrupción para hackear o modificar puntuaciones?

Y termino con una reflexión personal:

¿Este sistema chino puede llegar a ser replicado en otros países occidentales? El SCS asusta bastante, pero hay que ser sinceros. En los nuestros países occidentales ya ocurren sistemas similares aunque por el momento un tanto más descentralizados que el que se planea en China. Bancos, empresas y redes sociales como Google y Facebook obtienen, procesan y analizan cada segundo una gigantesca cantidad de nuestros datos digitales. Por el momento, en manos privadas en su mayoría pero los gobiernos también se tientan con espiar y clasificar a sus ciudadanos. Sin ir más lejos, el Caso Snowden en los EEUU llevó al tema a la primera página de los diarios de todo el mundo cuando Edward Snowden, un ex trabajador de la Agencia Nacional de Seguridad (NSA), denunció filtrando documentos secretos donde se confirmaba que el gobierno de Barack Obama obligó a empresas como Microsoft, Yahoo! Google, Apple y Facebook, entre otras, a darle toda la información almacenada en sus servidores. De esa forma, el gobierno tuvo acceso directo e irrestricto a correos electrónicos, fotos, chats, videos, historial de navegación en la web, transferencias de archivos, mapas y una larga lista que incluye, por supuesto, todo lo que hacen millones de ciudadanos en Facebook: desde un like en una foto hasta un mensaje privado.

Más allá de la indignación y la sorpresa inicial del caso, ¿el tema nos importó realmente? Muy poco.

Y desde nuestro lado, como ciudadanos, nos fuimos acostumbramos a que todo sea calificado. Nosotros mismos ya puntuamos restaurantes, películas, libros e incluso médicos y otras personas como choferes de Uber. ¿Acaso Tinder no es un sistema de calificación de personas según su belleza y profesión? Y desde 2016 existe la polémica Peeple, una app tipo Yelp pero para calificar personas, a un marido, al vecino, al jefe e incluso a un ex.

La Inteligencia Artificial avanza rápido. Vivimos ya en un mundo de algoritmos predictivos que determinan si somos una amenaza, un riesgo, un buen ciudadano e incluso si somos dignos de confianza.

Lo que ocurre con el sistema de China suena aterrador pero quizá sirva para obligarnos a preguntarnos si no estamos yendo a un sistema similar sin que lo sepamos. Entonces el SCS tal vez pueda servir como una alarma que nos despierte y tomemos las medidas necesarias para impedir que ese futuro sea el nuestro.

Antes de que sea demasiado tarde.