Tras Bambalinas

Así es como China vigila a sus habitantes

2022-07-04

La última generación de tecnología indaga en las enormes cantidades de datos...

Paul Mozur, Muyi Xiao, John Liu, The New York Times

Los más de 1400 millones de habitantes de China están bajo vigilancia constante. Las cámaras de policía (omnipresentes, en las esquinas de las calles, el techo del metro, los vestíbulos de hoteles y los edificios de apartamentos) los graban. Sus teléfonos son rastreados, sus compras monitoreadas y sus mensajes en línea, censurados.

Ahora, hasta su futuro está siendo vigilado.

La última generación de tecnología indaga en las enormes cantidades de datos recabados sobre sus actividades diarias para encontrar patrones y aberraciones, con la promesa de predecir delitos o protestas antes de que se produzcan. Se centra en aquellos a los que el gobierno chino considera alborotadores en potencia, no solo los que tienen un pasado delictivo, sino también los grupos vulnerables, como las minorías étnicas, los trabajadores inmigrantes y los que tienen un historial de enfermedades mentales.

Dicha tecnología puede alertar a la policía si una víctima de un fraude intenta viajar a Pekín para solicitarle el pago al gobierno o si un consumidor de drogas hace demasiadas llamadas al mismo número. También puede notificar a las autoridades cada vez que una persona con antecedentes de enfermedad mental se acerque a una escuela.

Hay que hacer muchas maniobras evasivas para esquivar las trampas digitales. En el pasado, a Zhang Yuqiao, un hombre de 74 años que lleva casi toda su vida adulta presentando quejas y solicitudes al gobierno, le bastaba con no transitar por las autopistas principales para esquivar a las autoridades y dirigirse a Pekín para luchar por una indemnización por la tortura de sus padres durante la Revolución Cultural. Ahora, apaga sus teléfonos, paga en efectivo y compra varios pasajes de tren a destinos falsos.

Aunque en su mayor parte no ha sido demostrado, las nuevas tecnologías chinas, según se ha detallado en documentos de adquisición y de otro tipo revisados por The New York Times, amplían aún más los límites de los controles sociales y políticos y se integran cada vez más en la vida de las personas. En su nivel más básico, justifican una vigilancia asfixiante y violan la privacidad, mientras que en el extremo corren el riesgo de automatizar la discriminación sistémica y la represión política.

Para el gobierno, la estabilidad social es primordial y hay que eliminar todo aquello que la ponga en riesgo. Durante su década como máximo dirigente de China, Xi Jinping ha endurecido y centralizado el Estado de seguridad, desencadenando políticas tecnoautoritarias para acabar con los disturbios étnicos en la región occidental de Sinkiang e impuesto algunos de los confinamientos por coronavirus más severos del mundo. El espacio para la disidencia, siempre limitado, desaparece con rapidez.

“La inteligencia de datos debe utilizarse como motor para impulsar el desarrollo innovador de la labor de seguridad pública y un nuevo punto de crecimiento para alimentar las capacidades de combate”, dijo Xi en 2019 en una reunión de trabajo de seguridad pública nacional.

Los algoritmos, que resultarían controvertidos en otros países, suelen ser alardeados como triunfos.

​​En 2020, las autoridades del sur de China denegaron la petición de una mujer de trasladarse a Hong Kong para estar con su marido después de que un software les alertara de que el matrimonio era sospechoso, según informó la policía local. Una investigación posterior reveló que ambos no solían estar en el mismo lugar al mismo tiempo y que no habían pasado juntos las vacaciones del Festival de Primavera. La policía llegó a la conclusión de que el matrimonio había sido fingido para obtener un permiso de migración.

Ese mismo año, en el norte de China, una alerta automática sobre la entrada frecuente de un hombre en un complejo residencial con diferentes acompañantes llevó a la policía a investigar. Descubrieron que formaba parte de una estafa piramidal, según los medios de comunicación estatales.

La información sobre estas tecnologías emergentes de seguridad se describe en documentos de investigación de la policía, patentes de contratistas de vigilancia y presentaciones, así como en cientos de documentos de contratación pública revisados y confirmados por el Times. Muchos de los documentos sobre adquisiciones fueron compartidos por ChinaFile, una revista en línea publicada por Asia Society, que ha reunido de manera sistemática años de registros en sitios web gubernamentales. Otro conjunto, en el que se describen los programas informáticos adquiridos por las autoridades de la ciudad portuaria de Tianjín para impedir que los solicitantes se dirijan a la vecina Pekín, fue facilitado por IPVM, una publicación de la industria de la vigilancia.

El Ministerio de Seguridad Pública de China no respondió a las solicitudes de comentarios enviadas por fax a su sede en Pekín y a seis departamentos locales de todo el país.

La nueva estrategia de vigilancia depende en parte de los programas informáticos de vigilancia basados en datos de Estados Unidos y Europa, una tecnología que, según los grupos de derechos humanos, ha codificado el racismo en decisiones como qué barrios se vigilan más y qué presos obtienen la libertad condicional. China lo lleva al extremo, ya que aprovecha las reservas de datos a nivel nacional que permiten a la policía actuar con opacidad e impunidad.

Por lo general, la gente no sabe que la están vigilando. La policía se enfrenta a un escaso escrutinio externo de la eficacia de la tecnología o de las acciones que promueve. Las autoridades chinas no necesitan órdenes judiciales para recopilar información personal.

En su versión más vanguardista, los sistemas plantean los eternos dilemas de la ciencia ficción: ¿cómo es posible saber que el futuro se ha predicho con exactitud si la policía interviene antes de que ocurra?

Los expertos afirman que, aunque el software no consiga predecir el comportamiento humano, puede considerarse un éxito, ya que la propia vigilancia inhibe los disturbios y la delincuencia.

Maya Wang, investigadora principal de China en Human Rights Watch explica: “Se trata de una jaula invisible de tecnología impuesta a la sociedad, cuyo peso desproporcionado recae sobre grupos de personas que ya sufren una grave discriminación en la sociedad china”.

‘No hay dónde esconderse’

En 2017, uno de los empresarios más conocidos de China tuvo una ambiciosa visión del futuro: un sistema informático capaz de predecir la delincuencia.

Ese empresario, Yin Qi, que fundó Megvi, una empresa emergente de inteligencia artificial, explicó a los medios estatales chinos que el sistema de vigilancia podría dar a la policía un motor de búsqueda de delitos mediante el análisis de enormes cantidades de imágenes de video para intuir patrones y advertir a las autoridades sobre el comportamiento sospechoso. Explicó que si las cámaras detectan a una persona que pasa demasiado tiempo en una estación de tren, el sistema podría señalar a un posible carterista.

“Sería aterrador si de verdad hubiera gente vigilando detrás de la cámara, pero hay un sistema”, dijo Yin. “Es como el motor de búsqueda que utilizamos todos los días para navegar por internet: es muy neutral. Se supone que es beneficioso”.

Añadió que con esa vigilancia, “los malos no tienen dónde esconderse”.

Cinco años después, su visión se está convirtiendo poco a poco en realidad. Las presentaciones internas de Megvii revisadas por el Times muestran cómo los productos de la nueva empresa generan expedientes digitales completos para la policía.

“Construye una base de datos multidimensional que almacena rostros, fotos, automóviles, casos y registros de incidentes”, explica la descripción de un producto, llamado “búsqueda inteligente”. El software analiza los datos para “identificar a la gente común que parece inocente” a fin de “reprimir los actos ilegales de raíz”.

Un vocero de Megvii dijo en una declaración enviada por correo electrónico que la empresa estaba comprometida con el desarrollo responsable de la inteligencia artificial y que se preocupaba por hacer la vida más segura y cómoda y “no por vigilar a ningún grupo o individuo en particular”.

Ya se están utilizando tecnologías similares. En 2022, la policía de Tianjín compró un software fabricado por un competidor de Megvii, Hikvision, cuyo objetivo es predecir las protestas. El sistema recopila datos sobre una gran cantidad de peticionarios chinos, un término general en China que describe a las personas que intentan presentar quejas sobre los funcionarios locales ante las autoridades superiores.

Acto seguido, califica a los peticionarios según la probabilidad de que viajen a Pekín. En el futuro, los datos se utilizarán para formar modelos de aprendizaje automático, de acuerdo con un documento de adquisición.

Los funcionarios locales quieren impedir estos viajes para evitar la vergüenza política o la exposición de las irregularidades. Y el gobierno central no quiere que grupos de ciudadanos descontentos se reúnan en la capital.

Un representante de Hikvision rechazó hacer comentarios sobre el sistema.

Bajo el mandato de Xi, los esfuerzos oficiales para controlar a los peticionarios se han vuelto cada vez más invasivos. Zekun Wang, un miembro de 32 años de un grupo que durante años buscó reparación por un fraude inmobiliario, dijo que las autoridades en 2017 habían interceptado a compañeros peticionarios en Shanghái antes de que pudieran incluso comprar los boletos a Pekín. Sospechaba que las autoridades vigilaban sus comunicaciones en la aplicación de redes sociales WeChat.

El sistema de Hikvision en Tianjín, que funciona en cooperación con la policía de la cercana Pekín y la provincia de Hebei, es más sofisticado.

La plataforma analiza la probabilidad de que los individuos hagan una petición basándose en sus relaciones sociales y familiares, sus viajes anteriores y sus situaciones personales, según el documento de la contratación. Ayuda a la policía a crear un perfil de cada uno, con campos para que los agentes describan el temperamento del manifestante, incluyendo “paranoico”, “meticuloso” e “irascible”.

Muchas de las personas que hacen peticiones lo hacen por la mala gestión del gobierno de un trágico accidente o por la negligencia en el caso, todo lo cual entra en el algoritmo. “Aumenta el nivel de riesgo de alerta temprana de una persona si tiene un estatus social bajo o ha pasado por una tragedia importante”, dice el documento de adquisición.

Automatización de los prejuicios

Cuando la policía de Zhouning, un condado rural de la provincia de Fujian, compró un nuevo conjunto de 439 cámaras en 2018, enumeró las coordenadas donde iría cada una. Según consta en un documento de adquisición, algunas se instalaron sobre las intersecciones y otras cerca de las escuelas.

Nueve se colocaron fuera de las casas de personas que compartían una característica: enfermedades mentales.

Mientras que algunos programas tratan de utilizar los datos para descubrir nuevas amenazas, un tipo más común se basa en las nociones preconcebidas de la policía. En más de 100 documentos de contratación revisados por el Times, la vigilancia se centraba en listas negras de “personas clave”.

De acuerdo con algunos de los documentos de adquisición, entre estas personas figuraban las que padecían enfermedades mentales, los delincuentes sentenciados, los fugitivos, los consumidores de drogas, los peticionarios, los sospechosos de terrorismo, los agitadores políticos y los que amenazaban la estabilidad social. Otros sistemas tenían como objetivo a trabajadores inmigrantes, jóvenes ociosos (adolescentes que no estudian ni trabajan), minorías étnicas, extranjeros y personas infectadas por VIH.

Las autoridades deciden quién entra en las listas y a menudo no hay un proceso para notificar a las personas al respecto. Una vez que los individuos están en una base de datos, rara vez se eliminan, dijeron los expertos, quienes temen que las nuevas tecnologías refuercen las disparidades dentro de China, ya que imponen supervisión a las partes más desfavorecidas de su población.

En muchos casos, el software va más allá de la simple selección de una población, al permitir a las autoridades establecer trampas digitales que indican una posible amenaza. En una presentación de Megvii en la que se detallaba un producto rival de Yitu, la interfaz del sistema permitía a la policía diseñar sus propias alertas anticipadas.

Con un sencillo menú que hay que completar, la policía puede configurar las alarmas con base en parámetros específicos, como dónde aparece una persona que está incluida en la lista negra, cuándo se mueve, si se reúne con otras personas etiquetadas y la frecuencia de ciertas actividades. La policía puede configurar el sistema para que envíe una notificación cada vez que dos personas con antecedentes de consumo de drogas se registren en el mismo hotel o cuando cuatro personas con antecedentes de protesta entren en el mismo parque.

Yitu no respondió a las solicitudes de comentarios por correo electrónico.

En 2020, en la ciudad de Nanning, la policía compró un software que podía buscar “más de tres personas clave que se registraran en el mismo hotel o en hoteles cercanos” y “un consumidor de drogas que llamara con frecuencia a un nuevo número fuera de la ciudad”, según un documento de licitación. En Yangshuo, una ciudad turística famosa por sus asombrosas montañas kársticas, las autoridades compraron un sistema para alertarles si un extranjero sin permiso de trabajo pasaba demasiado tiempo cerca de las escuelas de idiomas extranjeros o de los bares, un esfuerzo aparente para atrapar a las personas que sobrepasan sus visas o trabajan ilegalmente.

En Shanghái, una publicación dirigida por el partido describió cómo las autoridades utilizaban un software para identificar a quienes excedían el uso normal de agua y electricidad. El sistema enviaba un “silbato digital” a la policía cuando encontraba patrones de consumo sospechosos.

Es probable que la táctica se haya diseñado para detectar a los trabajadores inmigrantes, que suelen vivir juntos en espacios reducidos para ahorrar dinero. En algunos lugares, la policía los considera un grupo escurridizo, y a menudo empobrecido, que puede llevar la delincuencia a las comunidades.

Las alertas automatizadas no dan lugar al mismo nivel de respuesta policial. A menudo, la policía da prioridad a los avisos que apuntan a problemas políticos, como protestas u otras amenazas a la estabilidad social, dijo Suzanne E. Scoggins, profesora de la Universidad de Clark que estudia la actividad policial en China.

En ocasiones, la policía ha manifestado abiertamente la necesidad de elaborar perfiles de las personas. “A través de la aplicación de inteligencia de datos, pintamos una imagen de las personas y les damos etiquetas con diferentes atributos”, dijo Li Wei, investigador de la universidad nacional de policía de China, en un discurso de 2016. “Para aquellos que reciben uno o más tipos de etiquetas, inferimos sus identidades y comportamientos, y luego llevamos a cabo medidas de seguridad preventivas específicas”.

Hacia el tecnototalitarismo

Zhang presentó por primera vez una solicitud de indemnización al gobierno por las torturas sufridas por su familia durante la Revolución Cultural. Desde entonces, ha presentado una queja contra lo que, según él, constituye la persecución de su familia por parte de la policía.

A medida que China ha ido desarrollando sus herramientas tecnoautoritarias, Zhang ha tenido que recurrir a tácticas propias de las películas de espionaje para eludir una vigilancia que, según él, se ha vuelto “nazi y de alta tecnología”.

Cuando viajó a Pekín en enero desde su pueblo en la provincia de Shandong, apagó su teléfono y pagó el transporte en efectivo para minimizar su huella digital. Compró billetes de tren con otro destino para eludir el seguimiento policial. Contrató a conductores privados para sortear los controles en los que su tarjeta de identificación activaría el sistema.

El sistema de Tianjín tiene una función especial para aquellos que, como él, tienen “cierta conciencia de la lucha contra el reconocimiento” y cambian de vehículo con regularidad para eludir la detección, según el documento de adquisición de la policía.

Ya sea que haya activado o no el sistema, Zhang ha notado un cambio. Cada vez que apaga su teléfono, dijo, los agentes se presentan en su casa para comprobar que no ha viajado de nuevo a Pekín.

Aun cuando los sistemas policiales no puedan predecir con exactitud el comportamiento, las autoridades pueden considerarlos un éxito debido a la amenaza, dijo Noam Yuchtman, un profesor de economía de la Escuela de Economía de Londres que ha estudiado el impacto de la vigilancia en China.

“En un contexto en el que no existe una verdadera responsabilidad política”, tener un sistema de vigilancia que envíe con frecuencia a los agentes de policía “puede funcionar bastante bien” para desalentar la protesta, dijo

Una vez que se establecen los parámetros y se activan las alertas, los agentes de policía tienen poca flexibilidad, centralizando el control. Se los evalúa por su capacidad de respuesta a las alarmas automatizadas y por su eficacia a la hora de prevenir las protestas, según los expertos y los informes públicos de la policía.

La tecnología ha codificado los desequilibrios de poder. Algunos documentos de licitación hacen referencia a una “lista roja” de personas a las que el sistema de vigilancia debe ignorar.

Un documento de licitación nacional decía que la función era para “personas que necesitan protección de la privacidad o protección VIP”. Otro, de la provincia de Guangdong, fue más específico, estipulando que la lista roja era para los funcionarios del gobierno.

Zhang expresó su frustración por la forma en que la tecnología ha aislado a los que tienen el poder político de la gente normal.

“Las autoridades no resuelven seriamente los problemas, sino que hacen lo que sea para silenciar a las personas que señalan los problemas”, dijo. “Esto es un gran paso atrás para la sociedad”.

Zhang dijo que todavía creía en el poder de la tecnología para hacer el bien, pero que en las manos equivocadas podía ser un “flagelo y grillete”.

“Antes, si salías de tu casa y te ibas a provincia, todos los caminos llevaban a Pekín”, dijo. “Ahora, todo el país es una red”.



Jamileth