BRAGA
La Inteligencia Artificial (IA) es una tecnología que ha avanzado rápidamente en los últimos años y se ha convertido en una herramienta poderosa para una amplia gama de aplicaciones. Sin embargo, como con cualquier tecnología, hay peligros potenciales asociados con el uso de esta, especialmente cuando se trata de la creación y propagación de videos y fotos falsas conocidas como “deep fakes”.
Un deep fake es un video, imagen o audio manipulado digitalmente de tal manera que parece auténtico, pero en realidad es falso. Esta técnica utiliza la inteligencia artificial (IA) para generar contenido que parece real, a menudo creando imágenes de personas que nunca han existido o modificando el rostro y la voz de personas reales.
El término se originó a partir de la combinación de “deep learning” que significa aprendizaje profundo (una técnica de inteligencia artificial) y “fake” que en español se traduce a falso. Estos pueden ser utilizados con fines de entretenimiento, pero también pueden ser utilizados para difundir desinformación o manipular la opinión pública. Por esta razón, los deep fakes han generado preocupación en términos de seguridad y privacidad.
Las aplicaciones de inteligencia artificial hacen que cada vez sean más fáciles de producir y más difícil de identificar su falsedad, mientras su regulación y control va por detrás del desarrollo de estas tecnologías.
Toda esta tecnología, en ocasiones está siendo utilizada para difamar, acosar y amenazar a mujeres y otros grupos históricamente excluidos, incluyendo a personas LGBTQ+. Y si bien, trucar fotografías no es algo nuevo, lo que sí lo es, es la alteración de videos que pueden ser utilizados para la “venganza porno” o “pornografía de venganza”, en la cual en su mayoría se utilizan imágenes de mujeres sin su consentimiento.
Fue en diciembre de 2017 que una periodista del medio Motherboard, Samantha Cole, descubrió que un usuario de Reddit con el nombre de pantalla “deepfakes” estaba usando técnicas desarrolladas y de código abierto por investigadores de inteligencia artificial para convertir rostros de celebridades femeninas en videos porno.
Según Sensity AI, una compañía de investigación que rastrea vídeos hiperrealistas falsos en internet, entre el 90% y el 95% de ellos son pornografía sin consentimiento y 9 de cada 10 de estos se refieren a mujeres. “Este es un problema de violencia machista”, afirman desde el Instituto Tecnológico de Massachusetts (MIT) el fundador de EndTAB, -organización sin ánimo de lucro para la educación en usos tecnológicos-, Adam Dodge. Además en el informe de Sensity AI da cuenta que en 2020 en un chatbot de Telegram habían desnudado al menos a 100.000 mujeres sin su consentimiento.
Por su parte, un estudio impulsado por el Parlamento europeo para abordar los “deepfakes” en la política europea señala que las aplicaciones están diseñadas con sesgos de género.
Actualmente, la compañía asegura que los números se duplican cada seis meses y son más de 85 mil videos.
En noviembre del año 2020, ONU Mujeres Chile realizó junto con las consultorías de ONG Amaranta y Fundación Datos Protegidos la encuesta Violencia digital: Experiencias virtuales de niñas y adolescentes en Chile.
Dicho informe, arrojó cifras preocupantes sobre violencia en internet, donde el 22% de niñas y adolescentes entre 12 a 14 años señaló haber sufrido violencia digital, mientras que el 41% de adolescentes de 15 a 18 años señaló lo mismo. Por su parte, los niños y adolescentes consultados arrojaron 13% y 24%, respectivamente.
La encuesta también da cuenta de algunas consecuencias de la violencia digital, no solo para la salud mental, sino que además desde ONG Amaranta notaron el aumento de migrañas, intento de autolesiones, sensación de amedrentamiento y/o acecho constante.
“También puede nacer un temor de salir en público y ser reconocidas lo que las lleva a tener síntomas de ansiedad, en otros casos puede surgir un temor a las redes sociales y la sensación de pánico a que continúan transgrediendo su identidad, el temor puede ser una emoción latente y constante, ya que si utilizaron su imagen pueden llegar a pensar que se les roben más datos” añade la psicóloga de la Universidad Autónoma de Chile, Constanza Figueroa “es un tema bastante complejo y aunque existe sintomatología similar o más común, el grado de afectación dependerá de las capacidades, habilidades y/o recursos de cada víctima” finalizó.
Y aunque hay ciertos países que tienen una regulación con respecto al tema, como China que se convirtió en el primer país en realizar una normativa en relación a las deep fakes y violencia digital. No para eliminarlos, sino para controlar su uso dañino y evitar la difusión de noticias falsas o engañosas.
En Chile esto aún está en desarrollo “no existen leyes que protejan a quien sea víctima de deep fakes, pero si podría entrar en la causa de injurias o calumnias”, dicen desde la asociación de Abogadas Feministas (Abofem).
Sin embargo, la tecnología es difícil de regular, en parte porque hay muchos usos legítimos de las falsificaciones profundas en el entretenimiento, la sátira y la protección de los denunciantes.
En Chile, serán clave los proyectos de ley (el de violencia digital y el del derecho de las mujeres a una vida libre de violencia), que se están discutiendo en el Congreso para tipificar situaciones y conductas o violencia de género digital, de manera que se establezcan procedimientos para realizar denuncias seguras y para que los casos se investiguen hasta establecer las penas correspondientes a los nuevos delitos, que se espera se vayan tipificando.
Como la tecnología está en constante desarrollo y las deep fake son aún algo relativamente nuevo, una de las instancias que podrían contribuir a su regulación, es la inclusión de derechos digitales en la próxima convención constitucional para estructurar una nueva Carta Magna.
