Si una persona en el estado de Australia Occidental contrae covid-19, debe permanecer en cuarentena domiciliaria durante siete días, al igual que sus contactos cercanos.

La policía verifica su paradero mediante el envío de mensajes de texto periódicos y pide que envíen una selfie dentro de los siguientes 15 minutos.

La policía utiliza tecnología de reconocimiento facial y seguimiento por GPS para determinar si la persona que se tomó la selfie está en casa. Si no está, rápidamente llegan tocando en la puerta con una multa potencialmente considerable.

La aplicación G2G de la empresa emergente local de tecnología Genvis ha sido utilizada por más de 150.000 personas en el estado desde que se lanzó en septiembre de 2020.

La misma tecnología, aunque proporcionada por diferentes empresas, se ha probado en los estados de Nueva Gales del Sur, Victoria, Australia Meridional y Tasmania.

Australia se destaca como la única democracia que utiliza tecnología de reconocimiento facial para ayudar en los procedimientos de contención de la covid-19, mientras que otros países rechazan la idea.

San Francisco fue la primera ciudad de EE.UU. que introdujo una moratoria contra el uso de reconocimiento facial por parte de la policía en mayo de 2019. Le siguieron rápidamente Oakland, también en California, y Somerville, en Massachusetts.

Amazon, Microsoft, IBM y Google declararon que no venderán sus algoritmos de reconocimiento facial a las fuerzas de seguridad hasta que exista una ley federal.

En noviembre de 2021, Facebook anunció que eliminaría 1.000 millones de “huellas faciales” y dejaría de usar la tecnología para etiquetar a personas en fotos.

La Comisión Australiana de Derechos Humanos pidió una moratoria sobre la tecnología hasta que Australia tenga una ley específica para regular su uso.

Los activistas de derechos humanos dicen que existe la posibilidad de que los datos personales obtenidos se utilicen para fines secundarios, y que es una pendiente resbaladiza hasta convertirse en un Estado de vigilancia.

Grupos como Amnistía Internacional advierten que el uso del reconocimiento facial conduce a la discriminación racial.

“La pandemia creó todas estas nuevas justificaciones para usar la tecnología de reconocimiento facial”, señala Mark Andrejevic, profesor de estudios de medios en la Universidad de Monash, en Melbourne, y autor de un libro de próxima publicación titulado “Facial Recognition” (Reconocimiento facial).

“Todo se puso en internet y las organizaciones estaban tratando de hacer que las cosas funcionaran muy rápido. Pero no se pensó en las implicaciones. ¿Queremos vivir en un mundo donde todo está renderizado y no hay espacios privados? Crea un nivel completamente nuevo de estrés que no conduce a una sociedad saludable”, asegura.

• La controvertida tecnología que usa Ucrania para identificar a los muertos y enemigos en la guerra

Se necesita dar el consentimiento para usar la aplicación G2G, y también se necesitó después de los incendios forestales del “verano negro” de Australia de 2020, cuando aquellos que perdieron sus documentos de identificación usaron el reconocimiento facial para obtener los pagos de ayuda por desastre que daba el gobierno.

Pero ha habido ocasiones en que la tecnología de reconocimiento facial se ha usado de forma encubierta.

En octubre de 2021 se descubrió que el grupo de tiendas de conveniencia 7-Eleven había violado la privacidad de sus clientes al recopilar huellas faciales de 1,6 millones de clientes australianos cuando completaron encuestas de satisfacción.

Las huellas faciales supuestamente se obtuvieron para obtener perfiles demográficos y evitar que el personal alterara las encuestas aumentando sus calificaciones. La empresa no fue multada.

El Departamento del Interior de Australia comenzó a crear una base de datos nacional de reconocimiento facial en 2016 y parece estar listo para implementarla. En enero, presentó una licitación para que una empresa “construya e implemente” los datos.

“El reconocimiento facial está en la cúspide de un despliegue relativamente generalizado”, dice Andrejevic.

“Australia se está preparando para usar el reconocimiento facial para permitir el acceso a los servicios gubernamentales. Y entre las agencias gubernamentales que tienen que aplicacar la ley, definitivamente hay un deseo de tener acceso a estas herramientas”.

La mayoría de los gobiernos estatales han proporcionado a la base de datos central las licencias de conducir de sus residentes, y la base de datos también almacena fotos de visas y pasaportes.

En 2019 se propuso una ley para regular la tecnología de reconocimiento facial, pero se archivó después de que una revisión de un comité parlamentario descubriera que carecía de protecciones de privacidad adecuadas.

Entre sus críticos más firmes estaba el entonces Comisionado de Derechos Humanos de Australia, Edward Santow.

“Ahora nos encontramos en la peor de todas las situaciones, ya que no existe una ley específica, por lo que nos enfrentamos a algunas protecciones parciales que no son completamente efectivas y ciertamente no son integrales”, afirma Santow.

“Y, sin embargo, la tecnología continúa desplegándose”.

Santow está trabajando, con su equipo de la Universidad de Tecnología de Sydney, en formas de hacer que las disposiciones sobre privacidad sean más sólidas,

Una respuesta mundial variada

Parte del proyecto consiste en examinar los intentos de otros países de regular las tecnologías de reconocimiento facial.

Hay enfoques marcadamente diferentes en todo el mundo. Lo más común es confiar en un puñado de protecciones de privacidad limitadas que, según Santow, no abordan adecuadamente el problema; ese es el caso en Australia.

“Ningún país del mundo lo ha hecho bien”, señala Santow. “Si [las protecciones de privacidad fueran adecuadas], este proyecto sería realmente simple”.

Leila Nashashibi es una activista del grupo de defensa Fight for the Future, con sede en EE.UU., que trabaja para lograr una prohibición federal del reconocimiento facial y otros identificadores biométricos.

“Al igual que la energía nuclear y las armas biológicas, el reconocimiento facial representa una amenaza para la sociedad y nuestras libertades básicas que supera con creces cualquier beneficio potencial”, dice.

“El reconocimiento facial es diferente a cualquier otra forma de vigilancia porque permite el monitoreo automatizado y ubicuo de poblaciones enteras, y puede ser casi imposible de evitar. A medida que se propaga, la gente tendrá demasiado miedo de participar en movimientos sociales y manifestaciones políticas. La libertad de expresión se enfriará”.

En busca de huellas faciales en las redes sociales

El proveedor de tecnología de reconocimiento facial más prominente, la empresa estadounidense Clearview AI, parece no desanimarse por las demandas y las cuantiosas multas que está acumulando en una variedad de jurisdicciones.

Primero la tecnología atrajo la atención de los medios cuando un multimillonario la usó para identificar a la persona que iba a cenar con su hija, y actualmente el gobierno ucraniano la está usando para identificar a los soldados rusos muertos.

Sus familias son notificadas a través de las redes sociales, y las fotos a veces se envían como archivo adjunto.

También está intentando que su tecnología se use en las escuelas de Estados Unidos como un “sistema de gestión de visitantes”, el cual creen que podría usarse para ayudar a prevenir tiroteos al reconocer las caras de los estudiantes expulsados, por ejemplo.

La tecnología de reconocimiento facial y de objetos ya ha sido probada en varias escuelas por diferentes proveedores, incluido el reconocimiento de objetos que podría identificar un arma oculta.

“Clearview AI está explotando el terror y el trauma de las personas al decir que la vigilancia y el mantenimiento del orden son la respuesta”, afirma Nashashibi.

El director ejecutivo y fundador australiano de Clearview AI, Hoan Ton-That, no está de acuerdo.

Dice que la tecnología de reconocimiento facial tiene un gran potencial para la prevención del crimen, porque puede garantizar que solo las personas autorizadas tengan acceso a un edificio como una escuela.

“Hemos visto que nuestra tecnología se usa con gran éxito por parte de las fuerzas del orden público para detener el tráfico de armas, y tenemos la esperanza de que nuestra tecnología se pueda usar para ayudar a prevenir crímenes trágicos con armas en el futuro”, asegura.

En Australia, la tecnología de reconocimiento facial se está utilizando en varios estadios para evitar que entren sospechosos de terrorismo o hooligans del fútbol que han sido vetados.

Andrejevic cree que el uso del reconocimiento facial como medida de seguridad es un paso importante en la vigilancia y requiere una cuidadosa consideración.

“Las cámaras a menudo son criticadas porque solo ofrecen evidencias después del hecho, mientras que el reconocimiento facial crea información procesable en tiempo real para prevenir el crimen”, afirma. “Esa es una concepción muy diferente de la seguridad”.

Algunas fuerzas policiales de todo el mundo ya utilizan el reconocimiento facial en vivo.

La Policía Metropolitana de Londres, por ejemplo, lo usa para monitorear áreas específicas en busca de delicuentes buscados o personas que podrían representar un riesgo para el público.

Clearview ha creado una base de datos de búsqueda de 20.000 millones de imágenes faciales, en gran parte extrayendo fotos de las redes sociales sin consentimiento.

Ton-That ha dicho que la compañía no trabajará con gobiernos autoritarios como China, Corea del Norte e Irán. Sin embargo, ha encontrado problemas en algunas democracias.

Fue prohibida en Canadá y Australia y el 24 de mayo, la Oficina del Comisionado de Información (ICO, por sus siglas en inglés) de Reino Unido la multó con más de US$9,1 millones luego de una investigación conjunta con la Oficina del Comisionado de Información de Australia.

Se le ordenó eliminar los datos de los residentes británicos de sus sistemas.

En diciembre de 2021, el organismo de control de la privacidad de Francia descubrió que Clearview infringió el Reglamento General de Protección de Datos (GDPR) de Europa.

Santow dice que el objetivo en Australia es desarrollar un enfoque matizado que fomente el uso de aplicaciones positivas e imponer límites para prevenir daños.

El peor de los casos sería replicar el sistema de “crédito social” de China, país cuyo gobierno rastrea a las personas y organizaciones para determinar su “confiabilidad”.

“Al determinar si un uso es beneficioso o dañino, nos referimos al marco básico internacional de derechos humanos que existe en casi todas las jurisdicciones del mundo”, señala Santow.

Por ejemplo, la ley exigiría el consentimiento libre e informado para utilizar el reconocimiento facial.

Sin embargo, si la tecnología provoca discriminación por su inexactitud en determinados grupos, el consentimiento sería irrelevante. Como dice Santow: “No puedes consentir que te discriminen”.

Cada vez más sofisticado y poderoso

“En los próximos dos años, vamos a ver un gran cambio en el uso de contraseñas, que son totalmente inseguras. La biometría se convertirá en la opción predeterminada”, dice O’Hara.

El reconocimiento facial funciona dividiendo el rostro en una serie de formas geométricas y mapeando las distancias entre sus “puntos de referencia”, como la nariz, los ojos y la boca.

Estas distancias se comparan con otras caras y se convierten en un código único llamado marcador biométrico.

“Cuando usas una aplicación de reconocimiento facial para abrir tu teléfono, no es una imagen de tu rostro lo que almacena tu teléfono”, explica Garrett O’Hara, de la empresa de seguridad Mimecast.

“Almacena una derivación algorítmica de lo que es tu cara matemáticamente. Parece un código largo de letras y números”.

El reconocimiento facial ha recorrido un largo camino desde que se desarrolló por primera vez en la década de 1960, aunque la tasa de error varía significativamente entre los diferentes sistemas que se utilizan en la actualidad.

Al principio, no podía distinguir entre hermanos o los cambios en el rostro de una persona a medida que envejecía.

Ahora es tan sofisticado que puede identificar a alguien que lleve una mascarilla o gafas de sol, y puede hacerlo a más de un kilómetro de distancia.

El mejor algoritmo de identificación de rostros tiene una tasa de error de solo el 0,08 %, según las pruebas del Instituto Nacional de Estándares y Tecnología de EE.UU.

Sin embargo, este nivel de precisión solo es posible en condiciones ideales, en las que los rasgos faciales son claros y despejados, la iluminación es buena y la persona está frente a la cámara.

La tasa de error para los individuos captados “al azar” puede llegar al 9,3%.

“Es una tecnología increíblemente útil. Pero si alguien nos hubiera preguntado hace 20 años, cuando arrancó el internet mundial, si queríamos vivir en un mundo en el que nuestras interacciones y actividades fueran recopiladas y rastreadas, la mayoría de nosotros probablemente habría dicho que sonaba espeluznante”, señala O’Hara.

“Ahora estamos replicando el seguimiento del espacio en línea para incluir también el espacio físico. Y no estamos haciendo las preguntas que deberíamos hacer”.

Uno de sus aspectos más problemáticos es su potencial para la discriminación racial y el sesgo.

La mayoría de las aplicaciones de reconocimiento facial se entrenaron inicialmente con conjuntos de datos que no eran representativos de la amplitud total de la comunidad.

“Al principio, los conjuntos de datos que se usaban se tomaban de todos de hombres blancos o personas blancas en general”, dice O’Hara.

“Y claramente, genera problemas cuando tienes personas de color o de diferentes etnias oantecedentes que no coinciden con los modelos de capacitación. Al final, son solo matemáticas. Este es el problema”.

Como resultado de esto, los sistemas de reconocimiento facial son propensos a cometer errores al intentar reconocer a personas pertenecientes a un grupo étnico minoritario, mujeres, personas con discapacidad y personas mayores.

Su uso ha resultado en arrestos falsos y otras consecuencias que alteran la vida de los afectados, señala Nashashibi.

Los “deepfakes” llevan el fraude a nuevas alturas

Ya sea una huella dactilar, un escaneo del iris, un análisis de la forma de caminar o una lectura capilar, ningún tipo de biometría es infalible.

A medida que la tecnología se vuelve más sofisticada, también mejoran los intentos de los piratas informáticos de manipularla para su propio beneficio.

Los “deepfakes” surgieron como una evolución de las técnicas de fraude, particularmente en relación con el reconocimiento facial digital (es decir, las fotos).

“Solía tomar varias horas crear un Deepfake usando herramientas de animación; ahora toma un par de minutos”, dice Francesco Cavalli, cofundador de Sensity AI, con sede en Ámsterdam.

“Todo lo que necesitas es una foto para crear un deepfake en 3D. Esto significa que los estafadores pueden escalar sus operaciones y los ataques se están disparando. Ni siquiera necesitas ser desarrollador o ingeniero. Puedes hacerlo tu mismo. Hay toneladas de aplicaciones que te permiten replicar la cara de cualquier persona”.

Sensity AI ayuda a gobiernos, institutos financieros e incluso sitios web de citas a detectar aplicaciones fraudulentas, ya sea para obtener pagos de ayuda por covid-19, almacenar dinero lavado en una cuenta bancaria o chantajear a alguien en Tinder.

La prueba de detección de caras con infrarrojo determina la temperatura corporal y el parpadeo cuando alguien toma una foto en internet, lo que significa que se detectará una foto de una persona “sintética”.

“En algún momento, los estafadores descubren cómo engañar a nuestros diferentes modelos, por lo que debemos idear nuevas técnicas continuamente”, dice.

A pesar de los desafíos en el camino hacia la regulación, Santow es optimista de que Australia pueda convertirse en un líder mundial en la regulación del reconocimiento facial.

“No puedo hablar en nombre de los gobiernos federal y estatales. Pero sé que entienden que existen fuertes preocupaciones de la comunidad y que es necesario generar confianza en la tecnología”.

“Australia podría proporcionar un buen modelo por varias razones”, agrega. “Tenemos un fuerte respeto institucional y corporativo de los derechos humanos. Puede que no sea perfecto, pero es fundamental para lo que somos como país. También somos un país innovador y desarrollador de tecnología”.

“Percibo que el mayor desafío no es redactar una ley infalible, sino asegurarse de que la ley en sí no sea ignorada”.

El anuncio se produce en momentos en que Facebook batalla contra una crisis de envergadura tras la filtración en Estados Unidos de una gran cantidad de documentos internos a la prensa, legisladores y reguladores.

“Hay muchas preocupaciones sobre el lugar que la tecnología de reconocimiento facial ocupa en la sociedad, y los reguladores aún están en el proceso de proporcionar un conjunto claro de reglas que rijan su uso”, señaló Meta en un comunicado.

“En medio de esta incertidumbre constante, creemos que es apropiado limitar el uso del reconocimiento facial a un conjunto reducido de casos”, agregó.

No está claro cuándo entrarán en vigencia los cambios, pero se sentirá ampliamente, pues -según la plataforma- más de un tercio de los usuarios optaron por usar el sistema de reconocimiento facial.

La modificación “resultará en la cancelación de más de mil millones de perfiles individuales de reconocimiento facial”, señaló el comunicado.

Facebook acaba de cambiar el nombre de su empresa matriz a “Meta” en un esfuerzo por generar atención sobre su visión de realidad virtual para el futuro, intentando quitar el foco sobre una plaga de escándalos.

Facebook, Instagram y WhatsApp, que son utilizados por miles de millones de personas en el mundo, mantendrán sus nombres bajo el cambio de marca.

¿A quién pertenece tu cara? Por supuesto, una pregunta tonta… ¿verdad?

¿Pero qué pasa con los datos generados a partir de tu cara? ¿Y qué significa que tu cara se convierta en datos?

Ya existen muchos datos sobre millones de caras. Hemos ofrecido nuestros rostros en las redes sociales y en las fotos almacenadas en la nube.

Pero aún no hemos determinado a quién pertenecen los datos asociados a los contornos de nuestros rostros.

• Cómo algunas empresas usan los datos de nuestro celular para decidir cuánto cobrarnos

En la era de las grandes tecnologías, tenemos que reflexionar sobre las expectativas que podemos y debemos tener sobre quién tiene acceso a nuestros rostros.

Los recientes disturbios en el Capitolio de Estados Unidos han puesto la cuestión en el punto de mira, ya que el reconocimiento facial se convierte en una herramienta vital para identificar a los que participaron en la protesta:

¿Cuál es el poder de la tecnología de reconocimiento facial? ¿Estamos preparados para asumirlo?

Incluso antes de los disturbios, la tecnología de reconocimiento facial se estaba utilizando de muchas maneras que probablemente no hemos considerado con la suficiente seriedad, y muchos de nosotros hemos contribuido voluntariamente a generar datos sobre nuestros rostros, ya sea explícita o implícitamente.

La tecnología de reconocimiento facial, por ejemplo, está muy presente en los espacios públicos.

A la hora de decidir sobre el uso de esta tecnología para garantizar el cumplimiento de la ley, para vigilancia o para otras iniciativas de claros fines sociales, debemos parar y preguntarnos: ¿cuáles son los costes de perder nuestras caras en favor de los datos?

Las consecuencias son graves, incluso para el derecho a la intimidad y nuestra capacidad de vivir sin vigilancia.

Rastrear nuestros movimientos

En Belgrado, según informes y un vídeo de la ONG SHARE Foundation, realizado en apoyo de su iniciativa #hiljadekamera (miles de cámaras), se desplegarán cámaras de alta definición para diversas funciones de vigilancia.

El director de SHARE, Danilo Krivokapić, sostiene que la tecnología de reconocimiento facial de esas cámaras rastreará los movimientos de los individuos cuando deambulen por la ciudad serbia.

• Las innovadoras tecnologías que está utilizando China para combatir el coronavirus (y las preocupaciones que plantean)

Las fotos que ya existen en el sistema se cotejan con los datos captados por las cámaras y luego se analizan mediante un sistema de inteligencia artificial.

Esta tecnología abre la posibilidad de rastrear los movimientos de una persona en tiempo real mientras se mueve por Belgrado. Y no es el único lugar donde ocurre.

Los gobiernos y la vigilancia van de la mano, y la tecnología de reconocimiento facial les da más opciones y formas de rastrear y restringir el movimiento de las personas dentro de sus fronteras.

La ciudad de Londres decidió el año pasado desplegar cámaras con capacidad de reconocimiento facial junto a sus 627.727 cámaras de CCTV. La medida provocó protestas.

Las empresas también lo emplean

Y no solo los gobiernos quieren tu cara.

El año pasado, Cadillac Fairview, una de las mayores empresas inmobiliarias comerciales de Norteamérica, fue denunciada por la Oficina del Comisario de Privacidad de Canadá por instalar cámaras discretas en 12 de sus centros comerciales, incluido el emblemático Eaton Centre de Toronto.

Estas cámaras captaron cinco millones de imágenes de clientes y utilizaron un software de reconocimiento facial que generó más datos, incluidos el sexo y la edad.

• La multa récord de US$5.000 millones que deberá pagar Facebook en EE.UU.

Aunque las imágenes se borraron, los datos generados a partir de ellas fueron conservados en un servidor por un tercero.

En respuesta al informe del comisario de privacidad, el diputado del partido Nueva Democracia Charlie Angus declaró: “Tenemos derecho a poder ir a lugares públicos sin que nos fotografíen, nos rastreen y nos metan en máquinas de seguimiento de datos, ya sea para las empresas o para la policía y el gobierno”.

Por desgracia, Angus se equivoca: no existe tal derecho.

Y ya que Cadillac Fairview no se quedó con las fotos, sino con los datos de los rostros que aparecían en las fotos, el problema es el consentimiento, no la violación del derecho a la intimidad.

¿Qué derechos tenemos cuando ofrecemos nuestros rostros a la datificación?

La periodista Rebecca Heilweil documenta las múltiples formas en que introducimos la tecnología de reconocimiento facial en nuestras vidas.

Muchos están familiarizados con la tecnología de etiquetado de fotos de Facebook, que etiqueta no sólo tu cara, sino a otras personas en tus fotos.

Esta tecnología también está presente en las apps de fotos de Google y Apple.

Pero este tipo de tecnología de reconocimiento facial se está extendiendo a otros ámbitos.

Por ejemplo, el fabricante de automóviles Subaru la despliega para detectar distracciones al volante.

Apple ofrece funcionalidades llamadas HomeKit que cruzan los datos recogidos de varios dispositivos y utiliza el reconocimiento facial para decirte si un amigo, reconocido por tus fotos, está en la puerta.

Nest Hub Max de Google emplea la tecnología de reconocimiento facial para, literalmente, buscarte; de la misma forma en que siempre está escuchando para oír las palabras: “OK, Google”.

Y Hirevue utiliza la inteligencia artificial para evaluar las imágenes de posibles empleados y decidir sobre su idoneidad y probabilidad de éxito.

Parte fundamental de lo que somos

El rostro humano es una de las cosas más básicas que los niños pequeños reconocen y aprenden, a medida que sus cerebros ordenan el mundo.

Es una parte fundamental de lo que somos como especie, su importancia es tal que apenas puede expresarse con palabras.

¿Los datos asociados a ese rostro -es decir, la representación digital de tu rostro a partir de tu cara real o tus fotos- forman parte de esa esencia fundamental de ti que quieres salvaguardar para ti mismo?

¿O esa es una ingenua esperanza en nuestro mundo de datos?

Lo que nos lleva de nuevo a la insurrección del Capitolio de EE.UU.

Sin duda, es justo que la tecnología de reconocimiento facial se utilice para llevar a los supremacistas blancos ante la justicia. ¿Pero a qué precio?

Conocemos los sesgos de los datos existentes contra las personas de color, las mujeres y las personas con bajos ingresos.

Sabemos que la policía que utiliza estos datos sesgados en nombre de la vigilancia algorítmica, que ha dado lugar a un acoso a esas comunidades puestas en entredicho y a detenciones injustas de personas negras.

Es mucho lo que está en juego, no sólo para las fuerzas del orden, sino para nuestro derecho a la intimidad como individuos.

Nuestras expectativas sobre la recopilación de datos y la privacidad no se ajustan a lo que realmente es la recopilación y el almacenamiento de datos, sean faciales o no.

Por eso es importante considerar nuestros derechos en su apropiado contexto.

Nuestros datos personales se han recogido y se recogen cada día a un ritmo asombroso.

Esto está provocando un cambio fundamental no sólo en términos económicos y éticos, sino en la forma en que vivimos como seres humanos.

Nuestra comprensión de los derechos humanos y las leyes correspondientes para protegerlos necesitan ser reiniciados para que contemplen los cambios que se están produciendo en la forma en que se recogen nuestros datos.

*Wendy H. Wong es profesora de ciencias políticas en la Universidad de Toronto

Esta nota apareció originalmente en The Conversation y se publica aquí bajo una licencia de Creative Commons.

Haz clic aquí para leer la versión original

Se dedican al negocio de la comunicación digital, pero como muchas otras empresas, en tiempos de coronavirus decidieron innovar y crear tecnología acorde a lo que se vive en el mundo.

Crearon una línea de productos en lo que incluyen el reconocimiento fácil o cámaras inteligentes, esto con el objetivo de medir la temperatura corporal de las personas. Además, hay tecnología que puede determinar si una persona está o no utilizando mascarilla.

Entre los productos que ofrecen están los arcos para medir la temperatura, dispensadores de gel antibacterial que también mide la temperatura. Además, tienen dispositivos de reconocimiento facial que permiten identificar si una persona que va a entrar a un establecimiento lleva mascarilla, sino le indica que no puede ingresar sin esta.

Un fallo en el sistema informático de reconocimiento facial llevó al arresto de un afroestadounidense en Detroit, de acuerdo a una denuncia presentada el miércoles (24.06.2020) que resalta las preocupaciones sobre el uso de una tecnología que, según sus críticos, refuerza el sesgo racial. La Unión Estadounidense de Libertades Civiles (ACLU, por sus siglas en inglés) dijo que se trata del primer caso conocido de un arresto “ilegal” fundamentado en tecnología de reconocimiento facial, que sus detractores consideran como imprecisa para distinguir rostros afroestadounidenses.

“Aunque el de Robert Williams puede ser el primer caso conocido, seguramente no es la primera persona que fue erróneamente arrestada e interrogada en base a un hallazgo falso por reconocimiento facial”, dijo ACLU en Twitter. En una denuncia formal ante el departamento de policía, el abogado de ACLU Phil Mayor pidió que se retiren los cargos, que se elimine el registro del arresto y que se emita una disculpa pública a Williams, trabajador de la industria automotriz de 42 años.

Williams escribió en el periódico The Washington Post que fue arrestado fuera de su casa en enero y detenido por 30 horas, y que más tarde supo que había sido identificado de forma errónea a partir de imágenes tomadas por cámaras de vigilancia durante un robo de cinco relojes en una joyería. “Nunca pensé que tendría que explicarle a mis hijas por qué papá fue arrestado”, escribió Williams. “¿Cómo le explica uno a dos niñas pequeñas que una computadora se equivocó, pero que la policía igual le hizo caso?”.

La noticia llega en medio de crecientes tensiones y protestas callejeras en contra del racismo y la brutalidad policial tras una serie de muertes de afroestadounidenses a manos de agentes blancos, y la preocupación de que tecnologías como la de reconocimiento facial que podrían exacerbar la discriminación racial. En este contexto, empresas entre las que se incluyen IBM, Amazon y Microsoft anunciaron que no venderían sistemas de reconocimiento facial a los departamentos de policía. Sin embargo, sistemas de otras compañías se utilizan a gran escala en el país.

En un comunicado, la fiscal Kym Worhy se disculpó por el incidente y añadió que ella había expresado desde hace tiempo sus reservas hacia esta tecnología “especialmente respecto a gente de color”. “Este caso no tendría que haber tenido lugar en base a una investigación del Departamento de Policía de Detroit, y por eso nos disculpamos”, dijo, aunque añadió que “afortunadamente fue desestimado por propia iniciativa de nuestra oficina”. “Esto de ninguna manera compensa las horas que el Sr. Williams pasó en la cárcel”, admitió.

La Policía de Detroit no hizo comentarios al respecto aludiendo que hay un “proceso en curso”, pero el departamento declaró a la radio pública que se han implantado nuevas reglas que limitan el uso del reconocimiento facial a casos de crímenes violentos en los que existan fotografías fijas de los sospechosos, y no solo videos de cámaras de seguridad.

Como resultado, los humanos estamos siendo constantemente observados por cámaras, ahora más que nunca, ya sea en tiendas, tomando el transporte público o en el trabajo.

El uso de esta tecnología puede parecer justificado, sobre todo cuando ayuda a la policía a rastrear delincuentes y a hacer la vida del ciudadano común más segura.

Pero, ¿cómo la observación constante afecta a aquellos ciudadanos que se supone que deben ser protegidos de la delincuencia?

• La advertencia de que se están hackeando las cámaras de vigilancia de los bebés (y cómo puedes protegerte)

Es fácil imaginar que una observación generalizada por cámara cambiará el comportamiento de las personas. A menudo, tales cambios representan una mejora.

Varias investigaciones han demostrado que las personas se vuelven más caritativas cuando están siendo observadas y se lavan las manos con más frecuencia para evitar la transmisión de enfermedades, por ejemplo.

Dado que esta serie de resultados positivos son para el beneficio de todos, parecería que una aumentación del monitoreo de los individuos es positiva para la sociedad en su conjunto, siempre y cuando las normas de privacidad se sigan de manera estricta.

Un efecto “lupa” magnificador

De acuerdo con mis investigaciones, hay una consecuencia de ser observado que hasta ahora ha sido ignorada en el debate sobre el aumento de la videovigilancia.

Los coautores de este estudio y yo descubrimos, realizando varios experimentos, que la observación cambia no solo cómo las personas actúan, sino también cómo piensan.

Específicamente, descubrimos que cuando la gente sabe que está siendo observada, se ven a sí mismas a través de los ojos del observador (o mediante el lente de una cámara).

• El hacker que le habló a una niña por una cámara Ring colocada en su habitación

Al adoptar la perspectiva del observador además de la propia, las personas se perciben a sí mismas como si estuvieran bajo una lupa. Como resultado, sus acciones se sienten exageradas.

Por ejemplo, les pedimos a algunos voluntarios que comieran una porción de papas fritas frente a una cámara, mientras que otros comían lo mismo sin ser observados. Aquellos que habían sido grabados pensaron que habían comido porciones más grandes, pues sintieron su comportamiento como si hubieran estado bajo una lupa.

Tal hallazgo podría parecer una consecuencia inofensiva de un aumento de la observación, dados sus otros beneficios.

Pero igualmente se encontraron patrones de pensamiento más preocupantes cuando se observó a las personas por cámaras.

Errores y fallas originadas en la mente

Le pedimos a otro grupo de voluntarios que completara un examen, en el cual inevitablemente dieron algunas respuestas incorrectas.

Aquellos voluntarios que habían sido observados durante la prueba pensaron que habían dado más respuestas incorrectas que los voluntarios no observados, aunque en realidad no hubo ninguna diferencia entre los dos grupos.

Por consiguiente, se cree que en el caso de los voluntarios que fueron observados, sus errores surgieron en sus mentes.

Lo mismo sucedió cuando encuestamos a jugadores de bádminton después de una serie de torneos. Aquellos jugadores cuyos equipos perdieron, pensaron que eran personalmente responsables de la derrota mientras más espectadores los vieron jugar.

Nuevamente, cualquier error durante el juego se hizo, o pareció, más grande cuando un jugador sintió que estaba siendo observado mientras jugaba para el equipo perdedor.

En otras palabras, ser observado cambió la manera en que las personas pensaban sobre cómo habían actuado en todos estos casos.

Efectos sobre la confianza y el autoestima

Todavía no sabemos los efectos de esta especie de lupa sobre los pensamientos y sentimientos de las personas a largo plazo, pero sentir de manera amplificada nuestros errores y fallas podría dañar nuestra confianza y autoestima.

• La cámara de museo que ayudó a una visitante a descubrir que tenía cáncer

Del mismo modo, pequeños obstáculos pueden parecer más graves bajo observación constante.

Alguien que disfruta saliendo de su casa en pijama para ir a comprar algo de comida rápida podría pensar que se trata de un episodio vergonzoso o asqueroso cuando se observa haciendo algo así.

A medida que la observación por cámara se vuelve cada vez más frecuente, los ciudadanos preocupados por su privacidad tienen la seguridad de que la mayoría de las grabaciones nunca serán revisadas y se borrarán después de un corto tiempo.

Sin embargo, apenas estamos comenzando a comprender algunas de las consecuencias psicológicas del aumento de la observación por cámara.

En realidad, sus efectos sobre el pensamiento y los sentimientos de las personas pueden ser duraderos, incluso mucho después de que la cinta de la cámara haya sido borrada.

*Janina Steinmetz es profesora titular de Marketing en la Cass Business School de la Universidad de Londres.

Esta nota apareció originalmente en The Conversation y se publica aquí bajo una licencia de Creative Commons.

Lee el artículo original aquí.

El #10YearsChallenge ha causado furor en Facebook e Instragam, pero también ha creado preocupación por los posibles usos que se le estén dando a las fotografías que la gente está compartiendo.

Algunos expertos afirman que este reto en el que una persona publica una foto de hace 10 años junto a otra de 2019, podría servir para que estas plataformas “entrenen” sus herramientas de reconocimiento facial.

• Los inesperados usos que Instagram y Facebook pueden dar a tus fotos del #10YearsChallenge

Facebook ha negado que sean ellos los creadores del #10YearsChallenge y afirman que “no ganan nada” con este desafío.

Por si las moscas…

Facebook afirma que utiliza la tecnología de reconocimiento facial para lograr cosas como: permitir etiquetar a personas en las fotos; brindar protección contra personas que usen tu foto como su foto de perfil; ayudar a personas con problemas de visión, ya que les indica quién aparece en la foto; y avisarte cuando apareces en una foto o video en el que no estás etiquetado.

• Así funciona “Arts and Culture”, la aplicación de Google que encuentra a tu doble en pinturas famosas (y los riesgos de usarla)

Eso es lo que nos dicen. Sin embargo, los expertos en seguridad informática advierten que para un usuario es muy difícil saber si el reconocimiento facial también se está utilizando para otros fines, como por ejemplo: enviar publicidad dirigida o venderle información a compañías privadas o agencias del gobierno.

Si te preocupa tu privacidad, te contamos cómo desactivar la opción de reconocimiento facial en Facebook:

1. Ve a Configuración, en el pequeño triángulo de la barra azul en la esquina superior derecha de tu perfil de Facebook
2. Haz clic en Reconocimiento facial, que verás en la barra de la izquierda
3. Selecciona la opción Editar
4. Ante la pregunta ¿Quieres que Facebook pueda reconocerte en fotos y videos?, selecciona No.

En cuanto a Instagram, compañía de la que Facebook es propietaria, la red social incluye en su Centro de Ayuda este mensaje:

“¿La pestaña “Rostros” usa el reconocimiento facial?

No, la pestaña “Rostros” no usa el reconocimiento facial. Usa un software de detección facial para discernir cuándo en una foto hay rostros u otros objetos o paisajes”.

La tecnología de reconocimiento facial es cada vez más sofisticada.

Aumenta el número de empresas que dicen tener sistemas capaces de leer emociones y detectar comportamientos sospechosos, pero ¿qué implica eso para la privacidad y las libertades civiles de las personas?

Aunque lleva décadas funcionando, en los últimos años el progreso ha sido enorme gracias a los avances de la visión computacional y la inteligencia artificial, según los expertos en tecnología.

Ahora, por ejemplo, se utiliza para identificar a personas en las fronteras, desbloquear teléfonos, detectar criminales o validar transacciones bancarias.

Pero algunas compañías tecnológicas dicen que también pueden evaluar nuestro estado emocional.

Microexpresiones

Desde la década de 1970, los psicólogos dicen que pueden detectar emociones ocultas estudiando las microexpresiones (movimientos muy sutiles y gestos nerviosos) en los rostros de personas en fotografías y videos.

• La mejor (y la peor) manera de identificar a un mentiroso
• Las mañas y gestos nerviosos que pueden arruinar tu entrevista de trabajo

Los algoritmos y cámaras de alta definición pueden hacerlo con precisión y rapidez.

“Ya se están usando para fines comerciales”, le explica a la BBC Oliver Philippou, experto en videovigilancia que trabaja en la compañía tecnológica británica IHS Markit.

APPLE

“Un supermercado podría usarlos en sus pasillos. No para identificar personas, sino para analizar quién entra en términos de edad y género, y también su estado de ánimo. Puede ser útil para el marketing dirigido y para la publicidad por emplazamiento”.

La agencia de investigación de mercados Kantar Millward Brown utiliza la tecnología desarrollada por la firma estadounidense Affectiva para analizar cómo reaccionan los consumidores a comerciales de televisión.

Affectiva graba videos de rostros de personas con su permiso y luego “codifica” sus expresiones, fotograma a fotograma, para evaluar su estado de humor.

“Entrevistamos a gente, pero obtenemos muchos más matices observando también sus expresiones. Puedes ver exactamente qué parte de un aviso publicitario funciona bien y qué respuesta emocional desencadena”, le dice a la BBC Graham Page, director de oferta e innovación en Kantar Millward Brown.

WESEE

“Comportamientos sospechosos”

Más polémicas son las empresas que ofrecen “detección de emociones” por motivos de seguridad.

La firma británica WeSee, por ejemplo, dice que su tecnología de inteligencia artificial puede detectar comportamientos sospechosos leyendo señales faciales imperceptibles para el ojo no entrenado.

Emociones como la duda o la rabia pueden ocultarse y contrastar con el lenguaje que usa la persona.

WeSee asegura que ha estado trabajando con una organización “de alto perfil” en la aplicación de la ley para analizar a personas que son entrevistadas.

“Usando solamente imágenes de video de baja calidad, nuestra tecnología tiene la capacidad de determinar el estado de ánimo o la intención de un individuo por sus expresiones faciales, postura, gestos y movimiento”, le cuenta a la BBC su director ejecutivo, David Fulton.

“En el futuro, las cámaras de video en las estaciones de metro podría usar nuestra tecnología para detectar comportamientos sospechosos y alertar a las autoridades de una potencial amenaza terrorista“.

“Lo mismo podría hacerse con multitudes de personas en eventos como partidos de fútbol y mítines políticos”.

Pero Philippou es escéptico en cuanto a la precisión de la detección de emociones.

La controversia

“En lo que respecta a la identificación facial, todavía hay márgenes de error. Las compañías más avanzadas dicen que pueden identificar gente con una precisión de entre el 90 y el 92%”.

“A la hora de identificar emociones, el margen de error aumenta significativamente”.

Eso preocupa a activistas por la privacidad y porque temen que esta tecnología pueda hacer juicios equivocados o sesgados.

SOUTH WALES POLICE

“Imagino que hay algunos casos en los que resulta muy útil, pero las implicaciones de privacidad derivadas de la observación de emociones, el reconocimiento facial y la elaboración de perfiles no tienen precedentes”, dice Frederike Kaltheuner, del grupo Privacy International.

El reconocimiento facial ya es de por sí bastante controvertido.

La organización por los derechos humanos Liberty dice que esta tecnología ha generado un gran cantidad de “falsos positivos” en eventos como la final de la Champions League en Cardiff, Reino Unido, el año pasado.

Un residente de esa localidad, Ed Bridges, tomó acciones legales contra las autoridades argumentando que el sistema violó la privacidad de las personas.

Pero cada vez se confía más en ella, dice Patrick Grother, director de pruebas biométricas en el Instituto Nacional de Estándares y Tecnología, una agencia del gobierno estadounidense que investiga cuestiones relacionadas con reconocimiento facial.

AFP

Él atribuye el reciente progreso tecnológico al desarrollo de “redes neuronales convolucionales”, un sistema avanzado de aprendizaje automático que permite una precisión mucho mayor.

“Esos algoritmos hacen que las computadoras puedan analizar imágenes a diferentes escalas y ángulos”, explica.

“Puedes identificar caras de forma mucho más precisa, incluso aunque estén parcialmente cubiertas por gafas de sol o cicatrices. La tasa de error se ha reducido hasta diez veces desde 2014, aunque ningún algoritmo es perfecto“.

Fulton, de WeSee, dice que su tecnología es simplemente una herramienta para ayudar a la gente a analizar videos de forma más inteligente.

“De momento, podemos detectar un comportamiento sospechoso pero no intencional para evitar que algo malo ocurra. Pero creo que vamos a lograrlo y ya estamos haciendo pruebas”.

NEC

Suena un paso más cerca del concepto de “pre-crimen” de la película de ciencia ficción Minority Report (“Sentencia Previa”), en la que criminales potenciales eran arrestados antes incluso de que hubieran cometido sus crímenes.

¿Es otra preocupación más para las organizaciones de libertades civiles?

“La pregunta clave que siempre nos hacemos es: ¿quién está creando esta tecnología y con qué fin?, dice Frederike Kaltheuner, de Privacy International. “¿La están usando para ayudarnos, o para juzgarnos, evaluarnos y controlarnos?”