¿Soberanía ciudadana o dictadura del código?
Señor director:
La aceleración tecnológica contemporánea ha puesto a la humanidad frente a un desafío inédito: cómo integrar sistemas de inteligencia artificial en la vida social sin erosionar los fundamentos éticos que sostienen la convivencia democrática. En este contexto, dos ideas recientemente formuladas en la encíclica Magnifica Humanitas “custodiar una magnífica humanidad” y “desarmar la inteligencia artificial” ofrecen un marco conceptual fértil para pensar la relación entre tecnología y dignidad humana desde una perspectiva ética laica y plural. La Asociación de Ética Empresarial y Organizacional de Chile puede acoger estos conceptos no solo como afirmaciones religiosas, sino también como principios éticos universales, plenamente compatibles con la filosofía moral, los derechos humanos y la teoría política contemporánea.
El primer principio, custodiar lo humano, remite a la convicción de que la persona posee un valor intrínseco que no puede ser reducido a datos, métricas de eficiencia o perfiles algorítmicos. Custodiar lo humano significa proteger la dignidad, la libertad, la creatividad y la autonomía de cada persona. En términos filosóficos, se trata de afirmar, como lo hacen Kant, Gilligan, la tradición de derechos humanos, etc. que la persona es siempre un fin en sí misma y nunca un medio instrumentalizable. En un entorno donde la automatización tiende a homogeneizar comportamientos, predecir decisiones y modelar preferencias, custodiar lo humano implica defender la singularidad, la deliberación y la capacidad de construir sentido. No es un gesto conservador, sino una apuesta por una humanidad que crece en humanidad, incluso en medio de la revolución tecnológica.
El segundo principio, desarmar la inteligencia artificial, apunta a la dimensión estructural y política del problema. No se trata de frenar la innovación ni de estar en contra de la tecnología, sino de identificar y neutralizar los usos que pueden dañar, manipular o excluir. Desarmar la IA significa exigir transparencia en los algoritmos, responsabilidad en quienes los diseñan, supervisión democrática de los sistemas automatizados y límites claros a la concentración de poder tecnológico. Implica también prevenir la militarización de la IA, la vigilancia masiva, la discriminación algorítmica y la delegación de decisiones que afectan derechos fundamentales. En términos políticos, se trata de evitar que la tecnología se convierta en un poder sin contrapesos; en términos de justicia, de asegurar que la IA no profundice desigualdades existentes; en términos democráticos, de garantizar que la ciudadanía conserve control sobre las infraestructuras cognitivas que organizan la vida social.
Ambos principios forman una unidad conceptual: custodiar lo humano define el fin; desarmar la IA define los medios. La protección de la dignidad humana no puede realizarse sin una gobernanza ética de la tecnología, y la regulación de la IA carece de sentido si no se orienta a fortalecer la libertad y la igualdad de las personas. Esta articulación permite a la Asociación de Ética Empresarial y Organizacional de Chile situarse en un espacio de reflexión sobre valores compartidos, sobre la defensa de la persona, la justicia social, la responsabilidad pública y la primacía de la ética sobre la técnica.
En un país que enfrenta desafíos profundos en materia de desigualdad, digitalización y confianza institucional, estos dos principios ofrecen una brújula para orientar el debate público. Custodiar lo humano y desarmar la IA no son consignas, son criterios normativos que permiten evaluar políticas, prácticas empresariales y desarrollos tecnológicos. Son, en definitiva, una invitación a construir un ecosistema digital que fortalezca la democracia amplíe las capacidades humanas y asegure que la tecnología permanezca al servicio de las personas y de la sociedad.
Académicas y académicos de la Asociación de Ética Empresarial y Organizacional de Chile
Fernando Arancibia Collao (Pontificia Universidad Católica de Chile)
Roberto Bustos Latorre (Universidad de Valparaíso)
Miguel Castro Prado (Universidad de Chile)
Reinalina Chavarri Muñoz (Universidad de Chile)
Pedro Pablo Correa Fontecilla (Pontificia Universidad Católica de Chile)
Cristian Hodge Cornejo (Pontificia Universidad Católica de Chile)
Macarena McKay Silva (Pontificia Universidad Católica de Chile)
Andrés Ossandón Buljevic (Presidente del Directorio de la Asociación de Ética Empresarial y Organizacional de Chile)
Javier Pinto Garay (Universidad de los Andes)
Andrés Suárez González (Universidad Alberto Hurtado)
Gerardo Wijnant San Martín (Pontificia Universidad Católica de Chile)
