Tendencias

Así es como China vigila el futuro

2022-06-27

En muchos casos, el software va más allá de la simple selección de una...

Paul Mozur, Muyi Xiao and John Liu | The New York Times

'Una jaula invisible': 

Los más de 1400 millones de habitantes de China están bajo vigilancia constante. Las cámaras de policía (omnipresentes, en las esquinas de las calles, el techo del metro, los vestíbulos de hoteles y los edificios de apartamentos) los graban. Sus teléfonos son rastreados, sus compras monitoreadas y sus mensajes en línea, censurados.

Ahora, hasta su futuro está siendo vigilado.

La última generación de tecnología indaga en las enormes cantidades de datos recabados sobre sus actividades diarias para encontrar patrones y aberraciones, con la promesa de predecir delitos o protestas antes de que se produzcan. Se centra en aquellos a los que el gobierno chino considera alborotadores en potencia, no solo los que tienen un pasado delictivo, sino también los grupos vulnerables, como las minorías étnicas, los trabajadores inmigrantes y los que tienen un historial de enfermedades mentales.

Dicha tecnología puede alertar a la policía si una víctima de un fraude intenta viajar a Pekín para solicitarle el pago al gobierno o si un consumidor de drogas hace demasiadas llamadas al mismo número. También puede notificar a las autoridades cada vez que una persona con antecedentes de enfermedad mental se acerque a una escuela.

Hay que hacer muchas maniobras evasivas para esquivar las trampas digitales. En el pasado, a Zhang Yuqiao, un hombre de 74 años que lleva casi toda su vida adulta presentando quejas y solicitudes al gobierno, le bastaba con no transitar por las autopistas principales para esquivar a las autoridades y dirigirse a Pekín para luchar por una indemnización por la tortura de sus padres durante la Revolución Cultural. Ahora, apaga sus teléfonos, paga en efectivo y compra varios pasajes de tren a destinos falsos.

Aunque en su mayor parte no ha sido demostrado, las nuevas tecnologías chinas, según se ha detallado en documentos de adquisición y de otro tipo revisados por The New York Times, amplían aún más los límites de los controles sociales y políticos y se integran cada vez más en la vida de las personas. En su nivel más básico, justifican una vigilancia asfixiante y violan la privacidad, mientras que en el extremo corren el riesgo de automatizar la discriminación sistémica y la represión política.

Para el gobierno, la estabilidad social es primordial y hay que eliminar todo aquello que la ponga en riesgo. Durante su década como máximo dirigente de China, Xi Jinping ha endurecido y centralizado el Estado de seguridad, desencadenando políticas tecnoautoritarias para acabar con los disturbios étnicos en la región occidental de Sinkiang e impuesto algunos de los confinamientos por coronavirus más severos del mundo. El espacio para la disidencia, siempre limitado, desaparece con rapidez.

La información sobre estas tecnologías emergentes de seguridad se describe en documentos de investigación de la policía, patentes de contratistas de vigilancia y presentaciones, así como en cientos de documentos de contratación pública revisados y confirmados por el Times. Muchos de los documentos sobre adquisiciones fueron compartidos por ChinaFile, una revista en línea publicada por Asia Society, que ha reunido de manera sistemática años de registros en sitios web gubernamentales. Otro conjunto, en el que se describen los programas informáticos adquiridos por las autoridades de la ciudad portuaria de Tianjín para impedir que los solicitantes se dirijan a la vecina Pekín, fue facilitado por IPVM, una publicación de la industria de la vigilancia.

El Ministerio de Seguridad Pública de China no respondió a las solicitudes de comentarios enviadas por fax a su sede en Pekín y a seis departamentos locales de todo el país.

La nueva estrategia de vigilancia depende en parte de los programas informáticos de vigilancia basados en datos de Estados Unidos y Europa, una tecnología que, según los grupos de derechos humanos, ha codificado el racismo en decisiones como qué barrios se vigilan más y qué presos obtienen la libertad condicional. China lo lleva al extremo, ya que aprovecha las reservas de datos a nivel nacional que permiten a la policía actuar con opacidad e impunidad.

Por lo general, la gente no sabe que la están vigilando. La policía se enfrenta a un escaso escrutinio externo de la eficacia de la tecnología o de las acciones que promueve. Las autoridades chinas no necesitan órdenes judiciales para recopilar información personal.

En su versión más vanguardista, los sistemas plantean los eternos dilemas de la ciencia ficción: ¿cómo es posible saber que el futuro se ha predicho con exactitud si la policía interviene antes de que ocurra?

Los expertos afirman que, aunque el software no consiga predecir el comportamiento humano, puede considerarse un éxito, ya que la propia vigilancia inhibe los disturbios y la delincuencia.

Maya Wang, investigadora principal de China en Human Rights Watch explica: “Se trata de una jaula invisible de tecnología impuesta a la sociedad, cuyo peso desproporcionado recae sobre grupos de personas que ya sufren una grave discriminación en la sociedad china”.

‘No hay dónde esconderse’

En 2017, uno de los empresarios más conocidos de China tuvo una ambiciosa visión del futuro: un sistema informático capaz de predecir la delincuencia.

El empresario, Yin Qi, que fundó Megvii, una empresa emergente de inteligencia artificial, explicó a los medios estatales chinos que el sistema de vigilancia podría dar a la policía un motor de búsqueda de delitos, mediante el análisis de enormes cantidades de imágenes de video para intuir patrones y advertir a las autoridades sobre el comportamiento sospechoso. Explicó que si las cámaras detectan a una persona que pasa demasiado tiempo en una estación de tren, el sistema podría señalar a un posible carterista.

“Sería aterrador si de verdad hubiera gente vigilando detrás de la cámara, pero hay un sistema”, dijo Yin. “Es como el motor de búsqueda que utilizamos todos los días para navegar por internet: es muy neutral. Se supone que es beneficioso”.

Añadió que con esa vigilancia, “los malos no tienen dónde esconderse”.

Cinco años después, su visión se está convirtiendo poco a poco en realidad. Las presentaciones internas de Megvii revisadas por el Times muestran cómo los productos de la nueva empresa generan expedientes digitales completos para la policía.

“Construye una base de datos multidimensional que almacena rostros, fotos, automóviles, casos y registros de incidentes”, explica la descripción de un producto, llamado “búsqueda inteligente”. El software analiza los datos para “identificar a la gente común que parece inocente” a fin de “reprimir los actos ilegales de raíz”.

Un vocero de Megvii dijo en una declaración enviada por correo electrónico que la empresa estaba comprometida con el desarrollo responsable de la inteligencia artificial y que se preocupaba por hacer la vida más segura y cómoda y “no por vigilar a ningún grupo o individuo en particular”.

Ya se están utilizando tecnologías similares. En 2022, la policía de Tianjín compró un software fabricado por un competidor de Megvii, Hikvision, cuyo objetivo es predecir las protestas. El sistema recopila datos sobre una gran cantidad de peticionarios chinos, un término general en China que describe a las personas que intentan presentar quejas sobre los funcionarios locales ante las autoridades superiores.

Acto seguido, califica a los peticionarios según la probabilidad de que viajen a Pekín. En el futuro, los datos se utilizarán para formar modelos de aprendizaje automático, de acuerdo con un documento de adquisición.

Los funcionarios locales quieren impedir estos viajes para evitar la vergüenza política o la exposición de las irregularidades. Y el gobierno central no quiere que grupos de ciudadanos descontentos se reúnan en la capital.

Un representante de Hikvision rechazó hacer comentarios sobre el sistema.

Automatización de los prejuicios

Cuando la policía de Zhouning, un condado rural de la provincia de Fujian, compró un nuevo conjunto de 439 cámaras en 2018, enumeró las coordenadas donde iría cada una. Según consta en un documento de adquisición, algunas se instalaron sobre las intersecciones y otras cerca de las escuelas.

Nueve se colocaron fuera de las casas de personas que compartían una característica: enfermedades mentales.

Mientras que algunos programas tratan de utilizar los datos para descubrir nuevas amenazas, un tipo más común se basa en las nociones preconcebidas de la policía. En más de 100 documentos de contratación revisados por el Times, la vigilancia se centraba en listas negras de “personas clave”.

De acuerdo con algunos de los documentos de adquisición, entre estas personas figuraban las que padecían enfermedades mentales, los delincuentes sentenciados, los fugitivos, los consumidores de drogas, los peticionarios, los sospechosos de terrorismo, los agitadores políticos y los que amenazaban la estabilidad social. Otros sistemas tenían como objetivo a trabajadores inmigrantes, jóvenes ociosos (adolescentes que no estudian ni trabajan), minorías étnicas, extranjeros y personas infectadas por VIH.

Las autoridades deciden quién entra en las listas y a menudo no hay un proceso para notificar a las personas al respecto. Una vez que los individuos están en una base de datos, rara vez se eliminan, dijeron los expertos, quienes temen que las nuevas tecnologías refuercen las disparidades dentro de China, ya que imponen supervisión a las partes más desfavorecidas de su población.

En muchos casos, el software va más allá de la simple selección de una población, al permitir a las autoridades establecer trampas digitales que indican una posible amenaza. En una presentación de Megvii en la que se detallaba un producto rival de Yitu, la interfaz del sistema permitía a la policía diseñar sus propias alertas anticipadas.

Con un sencillo menú que hay que completar, la policía puede configurar las alarmas con base en parámetros específicos, como dónde aparece una persona que está incluida en la lista negra, cuándo se mueve, si se reúne con otras personas etiquetadas y la frecuencia de ciertas actividades. La policía puede configurar el sistema para que envíe una notificación cada vez que dos personas con antecedentes de consumo de drogas se registren en el mismo hotel o cuando cuatro personas con antecedentes de protesta entren en el mismo parque.

Yitu no respondió a las solicitudes de comentarios por correo electrónico.

Hacia el tecnototalitarismo

Zhang presentó por primera vez una solicitud de indemnización al gobierno por las torturas sufridas por su familia durante la Revolución Cultural. Desde entonces, ha presentado una queja contra lo que, según él, constituye la persecución de su familia por parte de la policía.

A medida que China ha ido desarrollando sus herramientas tecnoautoritarias, Zhang ha tenido que recurrir a tácticas propias de las películas de espionaje para eludir una vigilancia que, según él, se ha vuelto “nazi y de alta tecnología”.

Cuando viajó a Pekín en enero desde su pueblo en la provincia de Shandong, apagó su teléfono y pagó el transporte en efectivo para minimizar su huella digital. Compró billetes de tren con otro destino para eludir el seguimiento policial. Contrató a conductores privados para sortear los controles en los que su tarjeta de identificación activaría el sistema.

El sistema de Tianjín tiene una función especial para aquellos que, como él, tienen “cierta conciencia de la lucha contra el reconocimiento” y cambian de vehículo con regularidad para eludir la detección, según el documento de adquisición de la policía.

Ya sea que haya activado o no el sistema, Zhang ha notado un cambio. Cada vez que apaga su teléfono, dijo, los agentes se presentan en su casa para comprobar que no ha viajado de nuevo a Pekín.

Aun cuando los sistemas policiales no puedan predecir con exactitud el comportamiento, las autoridades pueden considerarlos un éxito debido a la amenaza, dijo Noam Yuchtman, un profesor de Economía de la Escuela de Economía de Londres que ha estudiado el impacto de la vigilancia en China.

“En un contexto en el que no existe una verdadera responsabilidad política”, tener un sistema de vigilancia que envíe con frecuencia a los agentes de policía “puede funcionar bastante bien” para desalentar la protesta, dijo

Zhang dijo que todavía creía en el poder de la tecnología para hacer el bien, pero que en las manos equivocadas podía ser un “flagelo y un grillete”.

“Antes, si salías de tu casa y te ibas a provincia, todos los caminos llevaban a Pekín”, dijo. “Ahora, todo el país es una red”.
 



aranza