Desde el nombre y la dirección de una persona o el lugar dónde trabaja, hasta los lugares que visita.

Un investigador holandés en seguridad informática descubrió cómo una empresa china almacenaba datos detallados de más de 2,5 millones de personas en el país asiático, según reveló él mismo por Twitter y contó posteriormente al servicio chino de la BBC.

Se trata de la empresa SenseNets, creada en 2015 y especializada en inteligencia artificial.

Entre sus clientes o socios, se encuentra la policía de diferentes provincias o ciudades de China, según se precisa en su página web.

• Así son las nuevas gafas con reconocimiento facial que usa la policía en China para capturar sospechosos

Victor Gevers, quien descubrió la fuga de datos de la firma y se define a sí mismo como “hacker” en Twitter, explicó a la BBC que cualquiera pudo acceder a esa información durante meses, desde julio de 2018.

También dijo que gran parte de los datos de SenseNets se registraron en la región autónoma de Xinjiang (también denominada Sinkiang), y parte de la información corresponde a ciudadanos de etnia uigur y otras minorías musulmanas que habitan en esta zona del oeste de China.

Xinjiang está en el punto de mira internacional después de que organizaciones de derechos humanos e incluso expertos de la ONU denunciaran el internamiento masivo de uigures y otros ciudadanos musulmanes en “campos de adoctrinamiento”.

• Quiénes son los uigures, la etnia que China está deteniendo en “campamentos de reeducación”

Pekín, por su parte, defiende los controles impuestos en la zona y la creación de “centros educativos” en aras de acabar con el “terrorismo” y el “extremismo religioso”.

China asegura que Xinjiang está bajo amenaza de militantes islamistas y separatistas que planean ataques e incentivan las tensiones entre la minoría uigur musulmana y la etnia han, mayoritaria en el país y predominante en el gobierno.

• Investigación de la BBC: los campos ocultos de reeducación donde internan a los musulmanes en China

El “hallazgo”

Gevers, quien trabaja para la organización sin ánimo de lucro GDI Foundation, publicó su “hallazgo” la semana pasada a través de una serie de comentarios en Twitter.

El especialista alertó sobre el error de protección de datos de la compañía y detalló que cualquier persona podía acceder a la información personal de las más de 2,56 millones de personas que aparecían en esa base y que contenía desde sus números de identificación personal hasta sus empleos o fotografías de reconocimiento facial.

Una muestra de los nombres recogidos por Gevers de la base de datos son nombres comúnmente utilizados por ciudadanos de etnia uigur musulmanes, según comprobó el servicio chino de la BBC.

No obstante, este medio no pudo identificar de manera independiente la veracidad de esos datos.

• Las cámaras que pueden saber si estás feliz o si eres una amenaza para alguien

El especialista también explicó que la base de datos recogió los movimientos de las personas en el sistema en un periodo de 24 horas: un total de 6,8 millones de “desplazamientos” por puntos marcados por la firma, como “hoteles”, “comisarías de policía” o “cibercafés”.

Gevers aseguró que contactó a la empresa para que pusiera solución a lo ocurrido en cumplimiento del protocolo de su fundación.

Según la página web de la compañía con sede en la ciudad sureña de Shenzhen (considerado el Sillicon Valley chino), SenseNets ofrece productos como sistemas de reconocimiento facial, de análisis de multitudes o de seguimiento de personas con una combinación de tecnología de inteligencia artificial y seguridad.

La firma menciona algunos proyectos que llevó a cabo, como la creación de un laboratorio de tecnología de reconocimiento facial con la policía de la ciudad de Lianyungang, cerca de Shanghái, o la colaboración con las autoridades de seguridad pública de la provincia de Cantón (sur) en el reconocimiento facial para protestas.

“Sin juicio ni cargo”

No solo las autoridades chinas utilizan tecnología de reconocimiento facial. Este tipo de sistemas también están siendo probados o puestos en práctica en países como Estados Unidos, Reino Unido o India.

En el caso de China, Pekín ha promovido la integración de esta tecnología con su red tradicional de vigilancia por video, argumentando razones de seguridad.

• El polémico experimento tecnológico de la policía de Londres que tildan de “autoritario”

Estas medidas han generado preocupación por la posibilidad de que violen la privacidad y faciliten la persecución de disidentes y minorías, como denuncian grupos de derechos humanos.

REUTERS / No solo China utiliza sistemas de este tipo.

En Xinjiang, en concreto, se acusa a las autoridades chinas de haber creado un “Estado policial”.

El año pasado, Human Rights Watch (HRW) denunció en un informe detenciones masivas y arbitrarias de musulmanes que residen en esta región autónoma del país, a los que “se tortura y adoctrina en una campaña de abusos sistemáticos que no se ha visto en el país en décadas”.

La ONG afirmó que los internos en los llamados “centros de reeducación” sonforzados a aprender mandarín y entonar cánticos del gobernante Partido Comunista.

Preguntado por este informe, un portavoz del Ministerio de Asuntos Exteriores chino, Geng Shuang, consideró que HRW es una organización llena de “prejuicios” sobre China.

“La serie de medidas implementadas en Xinjiang están diseñadas para mejorar la estabilidad, el desarrollo, la solidaridad y (…) acabar con las actividades separatistas étnicas y los crímenes terroristas y violentos”, defendió Geng.

• “Pagaré las balas para que maten a mi esposa y a mi madre”: el testimonio de un uigur cuya familia está detenida en un campo de reeducación en China

El portavoz además enfatizó que la región pasa por un periodo de “estabilidad social, desarrollo económico” y que los diferentes grupos étnicos cohabitan “en harmonía”.

Una investigación de la BBC publicada a finales del año pasado recogió testimonios de algunas de las personas que pasaron por estos centros y analizó imágenes satelitales que mostraron la construcción de los mismos.

“Nuestro reporte se suma a la evidencia de que el programa de reeducación masiva es la detención disfrazada con otro nombre: el encierro de muchos miles de musulmanes sin juicio ni cargos. De hecho, sin ni siquiera acceso a un proceso legal”, escribió entonces el periodista de la BBC John Sudworth.

Xinjiang ha sido escenario de violencia en el pasado y Pekín resalta el éxito de sus medidas estos últimos años para “pacificar” esta y otras zonas del país.

Uigures en el exilio atribuyen la violencia ocurrida a la política “represiva” de Pekín contra su cultura y su religión, mientras el gobierno chino considera los sucesos “atentados terroristas” llevados a cabo por grupos separatistas islámicos con vínculos en el extranjero.

Entre las polémicas medidas implementadas por el ejecutivo chino estos últimos años, está la prohibición de llevar velo o barba larga, e incluso utilizar nombres que suenen como musulmanes.

La tecnología de reconocimiento facial es cada vez más sofisticada.

Aumenta el número de empresas que dicen tener sistemas capaces de leer emociones y detectar comportamientos sospechosos, pero ¿qué implica eso para la privacidad y las libertades civiles de las personas?

Aunque lleva décadas funcionando, en los últimos años el progreso ha sido enorme gracias a los avances de la visión computacional y la inteligencia artificial, según los expertos en tecnología.

Ahora, por ejemplo, se utiliza para identificar a personas en las fronteras, desbloquear teléfonos, detectar criminales o validar transacciones bancarias.

Pero algunas compañías tecnológicas dicen que también pueden evaluar nuestro estado emocional.

Microexpresiones

Desde la década de 1970, los psicólogos dicen que pueden detectar emociones ocultas estudiando las microexpresiones (movimientos muy sutiles y gestos nerviosos) en los rostros de personas en fotografías y videos.

• La mejor (y la peor) manera de identificar a un mentiroso
• Las mañas y gestos nerviosos que pueden arruinar tu entrevista de trabajo

Los algoritmos y cámaras de alta definición pueden hacerlo con precisión y rapidez.

“Ya se están usando para fines comerciales”, le explica a la BBC Oliver Philippou, experto en videovigilancia que trabaja en la compañía tecnológica británica IHS Markit.

APPLE

“Un supermercado podría usarlos en sus pasillos. No para identificar personas, sino para analizar quién entra en términos de edad y género, y también su estado de ánimo. Puede ser útil para el marketing dirigido y para la publicidad por emplazamiento”.

La agencia de investigación de mercados Kantar Millward Brown utiliza la tecnología desarrollada por la firma estadounidense Affectiva para analizar cómo reaccionan los consumidores a comerciales de televisión.

Affectiva graba videos de rostros de personas con su permiso y luego “codifica” sus expresiones, fotograma a fotograma, para evaluar su estado de humor.

“Entrevistamos a gente, pero obtenemos muchos más matices observando también sus expresiones. Puedes ver exactamente qué parte de un aviso publicitario funciona bien y qué respuesta emocional desencadena”, le dice a la BBC Graham Page, director de oferta e innovación en Kantar Millward Brown.

WESEE

“Comportamientos sospechosos”

Más polémicas son las empresas que ofrecen “detección de emociones” por motivos de seguridad.

La firma británica WeSee, por ejemplo, dice que su tecnología de inteligencia artificial puede detectar comportamientos sospechosos leyendo señales faciales imperceptibles para el ojo no entrenado.

Emociones como la duda o la rabia pueden ocultarse y contrastar con el lenguaje que usa la persona.

WeSee asegura que ha estado trabajando con una organización “de alto perfil” en la aplicación de la ley para analizar a personas que son entrevistadas.

“Usando solamente imágenes de video de baja calidad, nuestra tecnología tiene la capacidad de determinar el estado de ánimo o la intención de un individuo por sus expresiones faciales, postura, gestos y movimiento”, le cuenta a la BBC su director ejecutivo, David Fulton.

“En el futuro, las cámaras de video en las estaciones de metro podría usar nuestra tecnología para detectar comportamientos sospechosos y alertar a las autoridades de una potencial amenaza terrorista“.

“Lo mismo podría hacerse con multitudes de personas en eventos como partidos de fútbol y mítines políticos”.

Pero Philippou es escéptico en cuanto a la precisión de la detección de emociones.

La controversia

“En lo que respecta a la identificación facial, todavía hay márgenes de error. Las compañías más avanzadas dicen que pueden identificar gente con una precisión de entre el 90 y el 92%”.

“A la hora de identificar emociones, el margen de error aumenta significativamente”.

Eso preocupa a activistas por la privacidad y porque temen que esta tecnología pueda hacer juicios equivocados o sesgados.

SOUTH WALES POLICE

“Imagino que hay algunos casos en los que resulta muy útil, pero las implicaciones de privacidad derivadas de la observación de emociones, el reconocimiento facial y la elaboración de perfiles no tienen precedentes”, dice Frederike Kaltheuner, del grupo Privacy International.

El reconocimiento facial ya es de por sí bastante controvertido.

La organización por los derechos humanos Liberty dice que esta tecnología ha generado un gran cantidad de “falsos positivos” en eventos como la final de la Champions League en Cardiff, Reino Unido, el año pasado.

Un residente de esa localidad, Ed Bridges, tomó acciones legales contra las autoridades argumentando que el sistema violó la privacidad de las personas.

Pero cada vez se confía más en ella, dice Patrick Grother, director de pruebas biométricas en el Instituto Nacional de Estándares y Tecnología, una agencia del gobierno estadounidense que investiga cuestiones relacionadas con reconocimiento facial.

AFP

Él atribuye el reciente progreso tecnológico al desarrollo de “redes neuronales convolucionales”, un sistema avanzado de aprendizaje automático que permite una precisión mucho mayor.

“Esos algoritmos hacen que las computadoras puedan analizar imágenes a diferentes escalas y ángulos”, explica.

“Puedes identificar caras de forma mucho más precisa, incluso aunque estén parcialmente cubiertas por gafas de sol o cicatrices. La tasa de error se ha reducido hasta diez veces desde 2014, aunque ningún algoritmo es perfecto“.

Fulton, de WeSee, dice que su tecnología es simplemente una herramienta para ayudar a la gente a analizar videos de forma más inteligente.

“De momento, podemos detectar un comportamiento sospechoso pero no intencional para evitar que algo malo ocurra. Pero creo que vamos a lograrlo y ya estamos haciendo pruebas”.

NEC

Suena un paso más cerca del concepto de “pre-crimen” de la película de ciencia ficción Minority Report (“Sentencia Previa”), en la que criminales potenciales eran arrestados antes incluso de que hubieran cometido sus crímenes.

¿Es otra preocupación más para las organizaciones de libertades civiles?

“La pregunta clave que siempre nos hacemos es: ¿quién está creando esta tecnología y con qué fin?, dice Frederike Kaltheuner, de Privacy International. “¿La están usando para ayudarnos, o para juzgarnos, evaluarnos y controlarnos?”