Facebook prepara herramientas para enfrentar al porno por venganza

Facebook está lanzando una serie de herramientas diseñadas para acabar con el compartimiento de la llamada venganza porno.

Las nuevas herramientas permitirán a los usuarios reportar fácilmente las fotos íntimas publicadas sin consentimiento que vean en la red social, que marcará las imágenes en cuestión a “representantes especialmente capacitados” del equipo de operaciones comunitarias del sitio, quienes “revisarán la imagen y las eliminarán si violan los estándares de la comunidad [de Facebook] “.

- Publicidad-

Facebook también usará “tecnologías de foto-coincidencia” para las imágenes que el sitio ya conoce que se están compartiendo de forma no consensual. Esto es probable que sea similar al sistema de hashing de imágenes PhotoDNA, que ya se utiliza para identificar las imágenes de maltrato infantil y material terrorista, y evitar una mayor difusión.

El sitio también deshabilitará las cuentas que compartan esas imágenes “en muchos casos”.

Antigone Davis, responsable de seguridad global de Facebook, dijo: “Estas herramientas, desarrolladas en asociación con expertos en seguridad, son un ejemplo de la tecnología potencial que tiene para ayudar a mantener a las personas seguras. Facebook está en una posición única para prevenir el daño, una de nuestras cinco áreas de enfoque, ya que ayudamos a construir una comunidad global “.

- Publicidad -

Davis citó el manifiesto del CEO Mark Zuckerberg sobre el futuro de Facebook, en el que el director ejecutivo de la compañía escribió: “A medida que construimos una comunidad global, este es un momento de verdad. Nuestro éxito no se basa sólo en si podemos capturar videos y compartirlos con amigos. Se trata de si estamos construyendo una comunidad que nos ayude a mantenernos a salvo, que previene el daño, ayuda durante las crisis, y reconstruye después “.

“Este nuevo proceso proporcionará tranquilidad a muchas víctimas de abuso sexual basado en imágenes y reducirá drásticamente la cantidad de contenido dañino en la plataforma”, añadió. “Esperamos que esto inspire a otras compañías de medios sociales a tomar medidas similares y que juntos podamos hacer que el entorno en línea sea hostil al abuso”.

- Publicidad -

Legalmente, la “pornografía de venganza” es tratada de manera muy diferente en diferentes jurisdicciones, y la pregunta clave a menudo se reduce a si la imagen es una “selfie”, en cuyo caso una reclamación por derechos de autor puede ser presentada o tomada por la persona que publicó. Pero algunas naciones y estados han actualizado sus estatutos para crear una clase especial de delito: en California, por ejemplo, el porno de venganza se define como publicar imágenes explícitas tomadas “en circunstancias en las que las partes acuerdan que la imagen permanecerá privada”. El sujeto también debe sufrir “serias dificultades emocionales”.

El año pasado, un joven de 14 años de Belfast lanzó un caso legal contra Facebook sobre la publicación en el sitio de una imagen desnuda, que los padres de la niña dicen que fue extraída de ella a través del chantaje. El juicio, que Facebook intentó lanzar fuera de la corte a principios de octubre, se centró en el hecho de que la fotografía fue retirada en varias ocasiones de la “página de la vergüenza” en la que se publicó. Sin embargo, cada vez que fue removido, los abogados de la chica dicen, fue repostado, con Facebook haciendo nada para bloquear permanentemente la imagen.

Las nuevas tecnologías de emparejamiento de fotos habrían ayudado a evitar la reposición repetida de una imagen ya bloqueada. Pero pueden hacer poco para bloquear preventivamente la primera publicación. Desde el punto de vista tecnológico, estos sistemas se basan en la adaptación de imágenes a una base de datos preexistente de imágenes destinadas a ser bloqueadas. Para resaltar una imagen de pornografía de venganza publicada por primera vez, un usuario todavía necesita señalarla como tal a Facebook.

El sitio también elimina las imágenes que contienen la desnudez consensualmente publicada, lo cual está en contra de sus términos de servicio. Se ha enfrentado a acusaciones de ser demasiado amplio en la forma en que se aplica la regla, con las madres lactantes y supervivientes de mastectomía entre los que se han quejado después de que sus fotos se retiraran.