Ministra del TC, Daniela Marzi, plantea la transparencia como regla para el uso de IA en la justicia

La ministra del Tribunal Constitucional (TC), Daniela Marzi, analizó el uso de herramientas de inteligencia artificial en el ejercicio profesional, particularmente cuando abogados y tribunales ingresan información de causas judiciales o datos confidenciales en plataformas digitales. La magistrada también abordó las dificultades que plantea la autorregulación de las empresas tecnológicas y la necesidad de establecer estándares de transparencia y protección de la información. Y uno de los puntos muy relevantes en los que reparó la ministra Marzi fue la transparencia que debe primar cuando se usan herramientas de inteligencia artificial.

“Dentro de las principales regulaciones está la transparencia. Es decir, ¿se ha utilizado? ¿en qué partes se ha utilizado? Esa es una recomendación central en el uso de estas herramientas”, señaló.

En entrevista con Al Pan Pan de El Mostrador, la doctora en Derecho se refirió a estos desafíos en el marco del lanzamiento del libro “Inteligencia artificial, plataformas digitales y democracia. Derecho y tecnología en el mundo actual”, del jurista brasileño Luís Roberto Barroso, quien presidió el Supremo Tribunal Federal de Brasil entre 2023 y 2025.

La publicación, traducida por el propio Tribunal Constitucional chileno, examina el impacto de la inteligencia artificial y las plataformas digitales en la democracia y el derecho, así como las dificultades que enfrentan los sistemas jurídicos para establecer límites a estas tecnologías.

La discusión adquiere especial relevancia en Chile luego de conocerse casos de utilización de inteligencia artificial en resoluciones judiciales, entre ellos un fallo de más de 450 mil páginas en cuya elaboración se empleó esta tecnología y otro documento en el que quedó incorporado el prompt utilizado.

Consultada sobre los límites que deberían establecerse y la necesidad de avanzar hacia una regulación interna, Marzi explicó que estas materias forman parte de los principales asuntos abordados en el libro de Barroso.

“Estos son los temas del libro porque cita todas las recomendaciones que existen respecto a estas materias dentro de las cuales están estos principios de transparencia, de certificación de cuáles son los procesos a los que incide”, señaló.

La ministra agregó que, entre las medidas concretas examinadas en la publicación, se encuentra la exigencia de que las empresas tecnológicas cuenten con representación formal dentro de los países donde operan.

En ese sentido, mencionó un caso abordado previamente durante la conversación que implicó “establecer el deber de las empresas de fijar un domicilio y un representante en el país”.

Para Marzi, uno de los principales desafíos consiste en que las plataformas digitales concentran un poder significativo, mientras buena parte de las reglas que orientan su funcionamiento depende de políticas establecidas por las propias compañías.

“Ahora, el libro es muy claro en señalar lo complejo que es, dado el poder que tienen, de estar entregados a estas especies de políticas privadas”, explicó.

La magistrada sostuvo que esta situación introduce una dificultad adicional para los sistemas jurídicos, acostumbrados a que las reglas aplicables a determinadas actividades sean definidas mediante legislación.

“Es decir, están llamados a una autorregulación y eso le agrega una dificultad evidente respecto a lo que ante otras situaciones hemos entendido que es el legislador el que regula. Pero hasta ahora, más bien, está entregado una especie de autorregulación de estas empresas”, afirmó.

Otro de los asuntos abordados durante la entrevista fue el uso de inteligencia artificial por parte de abogados en la preparación y tramitación de causas judiciales.

La conversación se centró en los riesgos que pueden surgir cuando un profesional introduce antecedentes de un expediente o información de sus clientes en un chatbot, sin tener claridad sobre el tratamiento que recibirá ese contenido.

Al respecto, Marzi señaló que el problema no se limita al ejercicio del derecho, sino que alcanza a distintas profesiones que manejan información sensible o reservada.

“Yo pensaría que, o sea, en la profesión nuestra es muy claro, pero en cualquier otra son más o menos las mismas dificultades y los resguardos”, sostuvo.

Como ejemplo, mencionó el trabajo periodístico y la necesidad de evaluar qué ocurre con los antecedentes que se incorporan a estas herramientas.

“Me imagino que los periodistas también cuando usan la herramienta tienen que pensar si están entrando a una red en que están poniendo disponible un montón de información”, advirtió.

La ministra enfatizó que, en el caso de los abogados, existen obligaciones profesionales relacionadas con la protección de los antecedentes entregados por sus clientes, mientras que los tribunales también tienen responsabilidades respecto de los datos que conocen en el ejercicio de sus funciones.

“Y para los abogados, por cierto, que tienen deberes de custodia de ciertas informaciones de sus clientes, los tribunales tenemos un deber de custodia de los datos que tenemos a propósito de los procesos que conocemos”, explicó.

En ese contexto, Marzi planteó que la incorporación de inteligencia artificial al trabajo jurídico requiere comprender tanto las capacidades de estas herramientas como los riesgos asociados a su utilización.

A su juicio, el aprendizaje tecnológico debe formar parte de la preparación de quienes emplean estos sistemas en actividades profesionales, particularmente cuando trabajan con información que requiere protección.

“Pero por eso es que, insisto sobre la idea de lo importante que es pasar por este proceso de aprendizaje que no es sencillo y que implica una especie de alfabetización para poder entender cuáles son las grandes potencialidades de la herramienta, que son muchas y van aumentando diariamente, además”, sostuvo.

La integrante del Tribunal Constitucional recalcó que ese proceso también debe considerar los límites necesarios para incorporar estas tecnologías de manera responsable al ejercicio profesional.

“Pero también cuáles son los resguardos que se tienen que tener para incorporarlo a un proceso profesional”, cerró.