BRAGA
Pexels
Chile es líder en IA en la región –según el Índice Latinoamericano de Inteligencia Artificial (ILIA)– y, como tal, enfrenta desafíos éticos, sobre todo ahora, tras el primer caso de abuso en el metaverso ocurrido en Inglaterra.
Durante la primera semana de enero comenzó a circular la noticia sobre un caso de abuso sexual en el metaverso, un ecosistema virtual y tridimensional (3D) que se ha popularizado en los últimos años y que permite a los usuarios interactuar, trabajar, jugar, estudiar y realizar transacciones económicas, entre otras posibilidades, de manera descentralizada. Este entorno virtual ofrece una experiencia inmersiva y multifuncional, transformando la manera en que las personas se relacionan y llevan a cabo diversas actividades en línea.
Sin embargo, la policía británica está investigando el caso en el que una adolescente de 16 años declaró que su avatar fue atacado sexualmente por un grupo de hombres, en la plataforma Horizon Worlds, de Meta, la empresa liderada por Mark Zuckerberg, evadiendo las medidas de seguridad implementadas por la compañía.
Como consecuencia del hecho, la joven quedó con secuelas emocionales y traumas psicológicos. Debido a ello, el ataque ha generado cuestionamientos sobre la seguridad en estos entornos virtuales y la necesidad de actualizar las leyes, para abordar los riesgos asociados con la Inteligencia Artificial (IA) y los delitos en el metaverso.
Donna Jones, presidenta de la Asociación de Comisionados de Policía y Crimen de dicho país, de hecho instó a la actualización de las leyes para proteger a mujeres y niños en estos entornos virtuales.
No obstante, este no es es el primer caso de abuso sexual virtual, pues hechos similares han sido reportados en el metaverso de Facebook (ahora Meta). La respuesta de la empresa ha sido controvertida en el pasado, culpando a los usuarios por no bloquear interacciones como medida de seguridad.
De hecho, en febrero de 2022, Nina Jane Patel, una investigadora británica de 43 años, compartió su experiencia, tras ser acosada verbal y sexualmente también en Horizon Worlds, lo que ocurrió cuando tres o cuatro avatares masculinos violaron virtualmente a su avatar, generando una pesadilla que incluyó comentarios ofensivos mientras intentaba escapar.
Patel ingresó al metaverso como parte de su investigación para Kabuni Ventures, una empresa de tecnología inmersiva, lo que la llevó a reflexionar sobre la difusa línea entre realidad y ficción en estos entornos virtuales, donde la inmersión y la encarnación pueden confundir las fronteras entre la vida real y la virtual.
La investigadora denunció el impacto profundo que generaron a nivel psicológico los avatares virtuales en la vida real y criticó que metaversos como el de Meta estén dominados por ficciones que promueven la violencia, fantasías sexuales y odio.
La historia destaca los desafíos de seguridad y éticos que enfrentan los entornos virtuales, resaltando la necesidad de abordar el acoso en estos espacios emergentes.
Al respecto, la psicóloga, máster en Estudios de Género y Política Pública y parte del Observatorio de Género en Ciencia e Ingeniería de la Universidad Técnica Federico Santa María, Paulina Ortega, señala que pensar que lo que ocurre en lo virtual está separado de la realidad no permite tener una comprensión integral de lo que significa habitar internet y, por lo mismo, sí puede existir violencia sexual digital. “Muchas de las personas que han sido víctimas de delitos sexuales a través de las redes sociales, por ejemplo, a través de las extorsiones, la difusión de imágenes íntimas e incluso la captación de personas para un abuso sexual dentro de plataformas digitales y el deep fake, tienen muchas consecuencias psicológicas y emocionales”, afirma la profesional.
Asimismo, el trauma que puede ocasionar en jóvenes y adolescentes el ser víctimas de violencia sexual digital puede generar ansiedad en las personas, al punto de no volver a utilizar las plataformas debido a la culpa. “Esta ansiedad, que producen la culpabilidad y la vergüenza, aparecen como emociones recursivas; es decir, hablar sobre lo que te produce vergüenza te produce más vergüenza aún y, por ende, pasamos al silenciamiento, y eso es muy propio de las víctimas de violencia sexual en diferentes ámbitos”, explica. Al respecto, la experta agrega que muchas de las víctimas de violencia digital, al sentir que aquel abuso no pasó a niveles físicos, estiman que no debería ser tan grave, lo que genera una relación de poder respecto del victimario o victimarios.
Cabe destacar que, en diciembre de 2023, un sondeo llevado a cabo por la Unidad de Género y Participación Ciudadana de la Subsecretaría del Interior reveló que la población LGBTIQ+ se encuentra entre los tres grupos más afectados por la violencia digital, junto a las mujeres.
Esta consulta ciudadana virtual, realizada entre agosto y septiembre de 2023, con la participación de 1.626 personas, resalta que el 36% de los encuestados informó haber experimentado violencia digital, mientras que el 46% afirmó haber sido testigo de tales abusos.
El estudio, que abarcó a personas LGBTIQA+ (10% de los encuestados), menores de 18 años (5%), pertenecientes a pueblos indígenas (11%) y con capacidades diversas (3%), puso de manifiesto que el 84% considera que las redes sociales son inseguras. Además, el 39% indicó que la violencia digital les afectó emocionalmente, y el 38% señaló sentirse inseguro o vigilado debido a estos incidentes.
Ad portas del comienzo de una nueva edición de Congreso Futuro, con un particular enfoque en la Inteligencia Artificial a través del eslogan “¿IAhora qué hacemos?”, nuestro país está dando atisbos de preocupación sobre los avances de nuevas tecnologías y ciberseguridad como un imperativo ético de los Estados.
Según reveló la primera edición del Índice Latinoamericano de Inteligencia Artificial (ILIA), Chile es líder en materias de Inteligencia Artificial en la región, debido a la inversión que ha realizado en talento digital y el desarrollo tecnológico que ha conseguido. Sin embargo, aún existen grandes desafíos en torno a la regulación de esta tecnología que avanza a pasos agigantados.
En octubre del 2021 se publicó la Política Nacional de Inteligencia Artificial, impulsada por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, que fue actualizada en 2023. En el documento se encuentran los lineamientos que se deben seguir por los próximos 10 años en cuanto al uso de la IA, enfocándose en tres ejes principales: factores habilitantes, uso y desarrollo de Inteligencia Artificial en Chile, y aspectos de ética y seguridad.
Este último es uno de los principales desafíos: las implicancias éticas que supone el avance de la Inteligencia Artificial. Ante esto, en abril del 2023 se presentó un proyecto de ley impulsado por la Cámara de Diputadas y Diputados, que aún se encuentra en el primer trámite constitucional, y que busca regular los sistemas de IA, la robótica y las tecnologías conexas, en sus distintos ámbitos de aplicación. Este proyecto tomó como base la Ley de Inteligencia Artificial de Europa (2021), además de la política mencionada.
Su objetivo es establecer un área de soberanía digital para los sistemas de IA, determinando “un marco jurídico en lo que respecta al desarrollo, comercialización, distribución y utilización de los sistemas de Inteligencia Artificial (…), asegurando la protección de los derechos fundamentales garantizados por el Estado de Chile”, según lo estipula el documento. De esta manera, será el Estado el que discuta las consideraciones éticas y jurídicas y regule los riesgos surgidos a propósito del desarrollo de esta tecnología.
De acuerdo con este proyecto de ley, la diputada Erika Olivera (Demócratas), una de las impulsoras de la iniciativa, es enfática en resaltar la importancia de esta legislación, indicando que “la IA no puede ser utilizada para manipular, agredir, acosar, violar la privacidad o suplantar personas”.
“En Chile y en el mundo esta es una discusión relativamente nueva, pero que definitivamente no puede postergarse. Es una herramienta que ya se utiliza en diferentes ámbitos y por ello urge el establecimiento de límites, formalidades y requisitos de implementación que sean aplicables, y su cumplimiento exigible, a quienes utilicen sistemas de Inteligencia Artificial”, menciona la diputada.
En cuanto a otras medidas de seguridad que se deben implementar respecto a la realidad virtual, Erika Olivera agrega que “ante el uso de la Inteligencia Artificial es necesario resguardar la aplicación de procedimientos de evaluación de riesgos y la adopción de medidas para impedir dañar a las personas y exigir también a los actores de la IA la promoción de la equidad e inclusión”.
Finalmente, desde la perspectiva política, la parlamentaria asegura que “el mundo político debe asumir que la IA es una herramienta presente en nuestra sociedad y, además de procurar actualizar la legislación, debe actuar con mucha responsabilidad ante el uso de ella, porque las señales deben ser claras”.
Este proyecto significa un gran avance en materia de legislación de la Inteligencia Artificial, al poner sobre la mesa el debate de los diversos usos que se le pueden dar a esta tecnología y sus consecuencias, lo cual abriría el paso para evitar, regular o sancionar casos como el denunciado este año en Horizon Worlds.
Ante esto, la diputada Karol Cariola (PC) se refiere a los avances tecnológicos y su correcto tratamiento, junto con abordar además lo grave del presunto caso de abuso sexual cometido en el juego de realidad virtual y los desafíos que supone en materias de legislación y sanción.
Frente a este caso, declaró que “la Inteligencia Artificial está marcando un momento histórico, donde incluso existen formas de relación humana en el espacio virtual, lo que hoy día se conoce como el metaverso. Esto da cuenta de que las mismas formas de relación humana que se dan en la realidad cotidiana, donde hay situaciones de violencia y abuso, se pueden reproducir en el espacio virtual”.
En cuanto a la regularización de los usos de la IA y las posibles sanciones que se puedan aplicar a quienes cometan delitos relacionados con esta tecnología, la parlamentaria expresa su preocupación por el hecho de que, pese a que en el mundo real las situaciones de abuso o de violencia están de alguna manera penalizadas, en el espacio virtual no lo están.
“Creo que esta situación en particular da cuenta de que el espacio para las mujeres y niñas no es seguro en la realidad, pero tampoco pareciera serlo en el espacio virtual. Tenemos un alto grado de inseguridad porque la violencia patriarcal opera a todo nivel y en todos los espacios. Ni siquiera el espacio virtual es un espacio seguro para nosotras y eso es una situación extremadamente grave y preocupante”, manifiesta.
Por lo mismo, la diputada enfatiza la necesidad de generar legislaciones que se adapten a la nueva realidad y que regulen concretamente las distintas formas de interrelación que se puedan generar a través de la Inteligencia Artificial y el mundo virtual.
“Un abuso sexual es un acto de violencia que tiene sesgo de género. Por lo tanto, frente a eso, me parece que es muy importante tomar este caso como un ejemplo para poder legislar, para poder regular y para buscar mecanismos que hoy día estamos buscando resolver en el ámbito de la realidad física, por decirlo de alguna manera”, precisa, y finaliza asegurando que “en la legislación chilena hay un profundo vacío al respecto y vamos a tener que estudiar, a partir de este caso también, cuáles son las posibilidades y los riesgos que en este momento están abiertos en lo que se conoce como el metaverso”, subraya.
A pesar de los latentes desafíos que quedan por resolver, en nuestro país se han ya establecido distintos mecanismos que buscan mediar el impacto de las nuevas tecnologías, abriendo espacios de discusión ante estos avances. En octubre del 2023 se llevó a cabo el Foro sobre la Ética de la Inteligencia Artificial en América Latina y el Caribe, impulsado por UNESCO, CAF y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación de Chile, desarrollado en la ciudad de Santiago.
El foro tuvo como objetivo implementar la Recomendación de la Ética de la IA de UNESCO. Como resultado de la jornada se estableció la “Declaración de Santiago para promover una Inteligencia Artificial ética en América Latina y el Caribe”, la cual fue firmada por 20 países que se hicieron partícipes.
Entre los aspectos centrales de la declaración se encuentra la necesidad de considerar los principios éticos y los derechos humanos en el desarrollo de la IA, así como la importancia de fortalecer las capacidades y conciencia de la población sobre esta tecnología, además de destacar la importancia de que los Estados asuman un rol activo en la regulación de esta, adoptando políticas públicas y normas jurídicas que tengan en cuenta los derechos humanos.
De esta manera, Chile se posiciona en el liderazgo dentro de la región en cuanto a avances en el ámbito de la implementación y regulación de la Inteligencia Artificial. No obstante, con ello se abre una larga lista de nuevos retos y vacíos que resolver, abriendo también nuevos espacios de discusión, como lo es el Congreso Futuro 2024, con un eslogan enfocado en la IA, y entendiendo que estas nuevas tecnologías impactan en varios ámbitos de la vida real.
Para evitar la exposición a dichos abusos digitales o en el metaverso, Paulina Ortega entrega una serie de recomendaciones que pueden ayudar a prevenir la violencia digital:
“Es importante destacar que existen muchas estrategias que tenemos que empezar a combatir a nivel social y cultural, que las mismas chicas geek (apasionadas por las tecnologías y videojuegos) están empezando a tener. Algunas de estas medidas no son recomendadas, porque la idea es que las mujeres y diversidades podamos habitar el ciberespacio sin necesidad de silenciarse porque se escucha la voz de mujer, lo que implica una discriminación de género; o también crear avatares más masculinizados e incluso restarse de ser líderes de grupo. Todo aquello tiene repercusiones y necesitamos avanzar a nivel público, social y cultural, para que también el uso de estas plataformas sea seguro para todas las personas”, concluye la psicóloga.
