La opacidad de la inteligencia artificial no puede convertirse en una ventaja jurídica

Una de las cuestiones jurídicas más importantes que plantea la inteligencia artificial generativa no consiste únicamente en determinar si las empresas tecnológicas pueden utilizar obras protegidas por derechos de autor para entrenar sus modelos. Existe una pregunta anterior, de enorme trascendencia: ¿puede una empresa beneficiarse jurídicamente de su propia incapacidad para explicar de dónde obtuvo los datos con los que desarrolló sus sistemas?

Esta interrogante constituye el núcleo del “Brief of Amici Curiae Center for AI and Digital Policy, AI Experts, and Legal Scholars”, fechado el 30 de octubre de 2026 y preparado en relación con las solicitudes de sentencia sumaria de las partes en el proceso In re OpenAI, Inc. Copyright Infringement Litigation, causa N.º 25-md-3143 (SHS) (OTW), ante el Tribunal Federal del Distrito Sur de Nueva York.

El escrito de amicus curiae, cuyo abogado patrocinante (Counsel for Amici Curiae) es Marc Rotenberg, en representación del Center for AI and Digital Policy (CAIDP), reúne a destacados especialistas internacionales en inteligencia artificial y Derecho. Entre los académicos que lo suscribimos individualmente (individual amici) figuran Stuart Russell, referente mundial en inteligencia artificial; Helen Nissenbaum, reconocida investigadora en privacidad y ética de la información; Nita Farahany, profesora de Derecho y Filosofía de destacada por sus investigaciones sobre neurotecnología y derechos cognitivos; y el científico chileno Ricardo Baeza-Yates, especialista en algoritmos, sistemas de información e inteligencia artificial responsable.  

El conflicto jurídico

El litigio enfrenta a autores, editoriales y organizaciones periodísticas con OpenAI y Microsoft. Los demandantes sostienen que se utilizaron obras protegidas sin autorización para desarrollar sistemas de inteligencia artificial. Las empresas demandadas invocan principalmente la doctrina estadounidense del fair use, que permite determinados usos de obras protegidas sin autorización de sus titulares.

La cuestión es compleja. El entrenamiento de modelos implica distintas operaciones: adquisición de obras, recopilación de conjuntos de datos, reproducción, procesamiento, entrenamiento, conservación de copias y generación de resultados. Cada una puede presentar problemas jurídicos diferentes.

Precisamente por ello, el escrito del CAIDP rechaza dos respuestas absolutas: que todo entrenamiento de inteligencia artificial constituya una infracción de derechos de autor o que cualquier entrenamiento quede automáticamente protegido por el fair use.

La propuesta consiste en examinar las actividades concretas y las circunstancias en que fueron realizadas, conforme a las reglas jurídicas y probatorias aplicables.

La opacidad como problema jurídico

El argumento más relevante del amicus curiae es que el Derecho no debería recompensar la falta de información y/o documentación sobre los datos utilizados para desarrollar inteligencia artificial.

Imaginemos dos empresas que entrenan modelos con materiales semejantes. La primera conserva registros que permiten identificar las fuentes, las condiciones de adquisición, las transformaciones efectuadas y los modelos que utilizaron esos datos. La segunda carece de documentación y sostiene que la magnitud de su sistema impide reconstruir esa información.

¿Sería razonable que la segunda quedara en una posición procesal más favorable precisamente porque conservó menos antecedentes?

La respuesta propuesta por el CAIDP es negativa. La insuficiencia de registros no debería transformarse, por sí misma, en evidencia favorable a una defensa de fair use.

Esta posición no pretende establecer automáticamente una presunción de responsabilidad contra quien carezca de documentación. Tampoco exige revelar públicamente secretos comerciales, algoritmos propietarios o información empresarial confidencial.

Su alcance es más preciso: preservar las condiciones probatorias necesarias para que los tribunales puedan aplicar efectivamente el Derecho vigente.

El escrito recuerda, además, que la procedencia de los datos puede resultar jurídicamente relevante. No necesariamente produce por sí sola una conclusión sobre responsabilidad, pero conocer si una obra fue obtenida mediante una licencia, desde una fuente pública o mediante un acceso no autorizado permite examinar adecuadamente las circunstancias del caso.

Una cuestión de Estado de Derecho

La discusión trasciende la propiedad intelectual.

Los sistemas de inteligencia artificial son desarrollados mediante decisiones humanas y organizacionales. Aunque algunas operaciones sean automatizadas, existen personas e instituciones que seleccionan fuentes, establecen procedimientos y determinan cómo se utilizan los datos.

La complejidad tecnológica no elimina esa responsabilidad.

Desde esta perspectiva, la documentación y la trazabilidad constituyen condiciones para el ejercicio efectivo del control jurídico. Sin información suficiente, los titulares de derechos enfrentan dificultades para fundamentar sus reclamaciones y los tribunales encuentran obstáculos para reconstruir los hechos.

La transparencia, por tanto, no representa necesariamente una amenaza para la innovación. Puede favorecer la seguridad jurídica, la contratación de licencias, las auditorías y la resolución de controversias. Su exigencia puede, además, orientar la innovación hacia la creación de sistemas de inteligencia artificial más transparentes y trazables, impulsando el desarrollo de arquitecturas más complejas que incorporen estas capacidades desde su diseño.

Una reflexión para Chile

La tesis desarrollada en este amicus curiae merece especial atención en nuestra cultura jurídica.

A medida que la inteligencia artificial se incorpora a las relaciones laborales, los servicios públicos, las decisiones empresariales y la administración de justicia, surgirán controversias en las que el conocimiento de los hechos dependerá de información controlada casi exclusivamente por quienes desarrollan o utilizan estos sistemas.

En ese escenario, deberíamos considerar seriamente un principio transversal: nadie debería obtener una ventaja jurídica por la opacidad tecnológica que está en condiciones de prevenir o reducir razonablemente.

No se trata de importar mecánicamente una doctrina estadounidense ni de establecer responsabilidades automáticas. Se trata de reflexionar sobre las exigencias de buena fe, colaboración probatoria, transparencia y responsabilidad que nuestro ordenamiento ya reconoce en diversos ámbitos.

Porque, finalmente, el desafío no consiste solamente en regular tecnologías cada vez más sofisticadas, sino en impedir que su sofisticación termine convirtiéndose en un obstáculo para la justicia.

La inteligencia artificial puede transformar profundamente nuestras instituciones jurídicas, pero no debería alterar una exigencia fundamental del Estado de Derecho: que el poder, también el tecnológico, permanezca sujeto a responsabilidad y control.