El plug-in, llamado Safe DM, bloquea y borra imágenes de penes que son enviadas por mensaje directo.

Su desarrolladora, Kelsey Bressler, tuvo la idea después de recibir una imagen no deseada de un hombre desnudo.

Bressler afirma que las compañías de las redes sociales podrían hacer más esfuerzos para proteger a los usuarios del exhibicionismo cibernético.

Según la diseñadora, ahora está en conversaciones con otras plataformas importantes para que el Safe DM esté también disponible en ellas.

“Nos gustaría lanzarlo en otras plataformas de redes sociales y estamos discutiendo qué pasos seguir ahora”, le dijo Bressler a la BBC.

https://twitter.com/raeBress/status/1228388240652042240

El filtro fue lanzado el 14 de febrero en Twitter con un mensaje que decía: “Dale a tus amigos el regalo de DMs sin penes este día de San Valentín”.

Para desarrollar esta inteligencia artificial, Bressler le solicitó al público en septiembre que le enviara fotografías de penes.

“Estoy probando un filtro que está en desarrollo que automáticamente detectará imágenes de penes en DM y se encargará de ellos en nombre del usuario (borra, borra&bloquea)”, escribió en Twitter.

Bressler indicó que “no era una broma”, que estaba realizando la prueba “para la ciencia” y que “por favor” solo enviaran “imágenes consensuadas de penes humanos”.

https://twitter.com/raeBress/status/1169625733750124544

Recibió más de 4.000 fotografías.

El equipo de Safe DM asegura que el filtro funciona el 99% del tiempo.

Para comprobar esa afirmación Buzzfed News probó el software.

La instalación del filtro, dice el reportero Cameron Wilson, fue “extremadamente fácil”.

“Para asegurarme de que la app funciona en todas las condiciones, necesitaba fotografías de penes de todas las formas, tamaños, colores y arreglos”, escribe.

Encontró las imágenes en Wikimedia Commons y le pidió a un colega que se las enviara por DM.

En su mayoría, el filtro funcionó. Y el reportero concluyó que el software era muy preciso al bloquear y borrar imágenes. Pero tenía un retraso de varios minutos.

Los usuarios que desean usar el Safe DM necesitan añadir el plug-in a su cuenta de Twitter y permitir que este acceda a sus mensajes directos.

El software escanea los mensajes de los usuarios buscando imágenes de penes. Si detecta una envía una respuesta a ambas partes haciéndoles saber que el mensaje es inapropiado y ha sido borrado.

https://twitter.com/raeBress/status/1228734758089154561

Bressler afirma que la inteligencia artificial solo busca imágenes no deseadas y no lee el texto de un mensaje.

“Irrespetuoso y trasgresor”

Un estudio del centro de investigación Pew sobre ciberacoso, publicado en 2017, encontró que 53% de mujeres de entre 18 y 29 años habían recibido una imagen lasciva no solicitada en internet.

El año pasado, Bressler, que vive en Seattle, Estados Unidos, habló con la BBC sobre el desarrollo del proyecto.

Dijo que recibir una imagen de desnudo no solicitada era “irrespetuoso y trasgresor”.

“Es el equivalente virtual de alguien enseñándote el pene en la calle”, dijo. “No te están dando la oportunidad de consentir, te están forzando a ver su imagen y eso nunca está bien”.