Los colores de la IA y las razones de la ley

Recientemente, la Cámara de Diputadas y Diputados dictó un Protocolo de Inteligencia Artificial que afirma la responsabilidad humana indelegable, prohíbe sustituir funciones decisorias y deliberativas, exige verificación y considera de alto riesgo la interpretación jurídica, la asesoría legislativa y los informes de comisiones. Este es un primer paso relevante.

Para trazabilidad, el Protocolo establece sellos de colores para documentos elaborados sin IA, con uso parcial, con uso predominante o mediante automatización sin intervención humana. Los sellos visibilizan una práctica antes oculta, pero este sistema no equivale a transparencia sustantiva.

Pensando solo en “uso parcial” este se puede abarcar actividades muy diferentes. No es lo mismo corregir la sintaxis que seleccionar fuentes, ordenar argumentos o justificar una indicación. Se declara la intensidad, pero no precisa dónde intervino la IA, qué privilegió, qué omitió ni cómo alteró el texto final.

En el proceso legislativo esta diferencia es decisiva. El Parlamento no solo produce normas que nos rigen a todos, también valida democráticamente dichas normas al dar una explicación de por qué el Estado va a afectar derechos y distribuir cargas. La legitimidad democrática exige poder reconstruir fundamentos, fuentes, alternativas y objeciones descartadas. Si la IA filtra antecedentes, jerarquiza evidencia o redacta justificaciones, puede transformar lo que llega al debate antes de la votación. El riesgo es mantener formalmente la decisión humana y vaciar el proceso de dar y exigir razones que la legitima.

Una verdadera conciencia institucional exige distinguir cuándo la IA auxilia la redacción y cuándo comienza a orientar el juicio, reemplazando la función humana. Una firma identifica al responsable, pero no reconstruye por sí sola las razones de la decisión.

Por ello, lo que sigue debe ser establecer una trazabilidad según el riesgo. La facultad de implementar registros internos, prevista en el Protocolo, debiera convertirse en deber para los usos legislativos de mayor impacto. El registro debería identificar la herramienta y su versión, la finalidad, los antecedentes relevantes, las salidas escogidas, los cambios humanos y al responsable de validarlos. Debiera existir acceso público, resguardando datos y reservas legítimas, donde todo uso significativo permanezca disponible para control institucional y auditoría independiente.

La ciudadanía gana poco con conocer el color de una ley si esta no aclara de dónde provienen sus fundamentos ni para qué se utilizó la IA. Este auditar público exige examinar si la herramienta reduce la diversidad de fuentes, homogeneiza argumentos, reproduce sesgos o desplaza el juicio humano. Importa evaluar no solo documentos aislados, sino la transformación acumulativa de la deliberación.

Los colores pueden abrir una puerta, pero no explicar que llevó a formar una ley. La verdadera transparencia exige saber cómo intervino la IA y por qué los responsables humanos aceptaron o rechazaron sus resultados. Si la ley obliga a los ciudadanos, sus razones no pueden perderse en un flujo de trabajo opaco. Lo esencial es poder preguntar por qué y recibir una respuesta inteligible, atribuible y abierta a controversia.

Finalmente, proponemos avanzar hacia una regla de no cierre algorítmico en esta materia: ninguna salida de IA puede clausurar por sí sola una controversia legislativa.