Quién gobierna a quién: la democracia frente al desafío de la inteligencia artificial

La democracia ya no discute solo en el Congreso, en las plazas o en los medios. Hoy también se juega en servidores invisibles, gobernada por algoritmos que nadie eligió. La inteligencia artificial (IA) dejó de ser promesa. Filtra lo que vemos, sugiere lo que pensamos y condiciona cómo nos relacionamos. Algoritmos invisibles moldean el debate público y participan en decisiones que afectan nuestras vidas. Junto con el cambio climático, es uno de los mayores retos de gobernanza del siglo XXI.

Conviene precisar que la IA generativa está lejos de la imagen cinematográfica de un ente autónomo o poder paralelo. Es, en rigor, una tecnología canalizada a través de plataformas y sistemas diseñados y operados por empresas y personas, con datos y parámetros definidos. El riesgo no es una supuesta autonomía, sino el uso que hacemos de estas herramientas y la información que compartimos. Lo decisivo es nuestra relación con la tecnología.

No porque algo “suene convincente” es verdadero, y si todo se cuestiona indiscriminadamente, corremos el riesgo de no creer en nada. Una ciudadanía informada debe comprender que estos modelos no son peligrosos en sí, pero sí cuando se desconocen sus límites. Por eso es clave exigir a las empresas transparencia sobre lo que estas herramientas pueden y no pueden hacer, y los riesgos asociados a su uso.

El debate se mueve entre quienes ven en la IA una aliada para hacer la democracia más inclusiva y eficiente y quienes la temen como la antesala de una “algocracia”, un gobierno opaco sin control ciudadano. Para el filósofo Daniel Innerarity, el riesgo no es que la IA reemplace la democracia, sino que la condicione hasta reducirla a gestión de datos sin deliberación ni política. La cuestión es si sabremos integrarla preservando el protagonismo humano, la diversidad y la responsabilidad política.

Los ejemplos de su influencia son claros. En el lado oscuro, redes sociales regidas por algoritmos que premian la viralidad sobre la calidad del debate han multiplicado cámaras de eco y polarización. La IA generativa suma un riesgo mayor cuando alcanza la capacidad de producir textos, imágenes y videos falsos de enorme realismo, como las imágenes inventadas del arresto de Donald Trump o de Barak Obama, que circularon globalmente antes de ser desmentidas.

En campañas, los deepfakes (ultrafalsos) y la microsegmentación permiten manipular votantes con mensajes invisibles al escrutinio público. En Chile ya existen acusaciones sobre el uso de estos métodos en la actual campaña presidencial.

Pero también hay experiencias que muestran el potencial democrático de la IA. En Taiwán, tras el Movimiento Girasol de 2014, se creó la plataforma pol.is, que permite a los ciudadanos opinar sobre políticas públicas y visualizar puntos de consenso y disenso. Esto ha reducido la polarización y orientado políticas concretas, incorporando modelos de lenguaje que representan a distintos grupos de opinión. Allí participan millones de personas, casi la mitad del país.

En el Viejo Continente, la Conferencia sobre el Futuro de Europa involucró a cientos de miles de ciudadanos, aunque sin aprovechar plenamente la IA. Meta ha ensayado foros globales sobre clima o ciberacoso en el metaverso, ordenando intervenciones y priorizando temas. Aunque incipientes, estas pruebas anticipan cómo podrían escalarse deliberaciones masivas.

La otra cara es la gestión de datos en políticas públicas. Con buena gobernanza, la IA puede anticipar problemas, focalizar recursos y evaluar políticas con precisión. Mal manejada, concentra poder, reproduce sesgos y erosiona la transparencia. Saber qué datos se usan y con qué criterios se decide es indispensable para mantener el control democrático.

Marcos como la Recomendación de la Unesco sobre ética de la IA o la futura ley europea establecen principios de transparencia y rendición de cuentas. Pero sin voluntad política para aplicarlos y sin participación plural en su diseño, quedarán en papel. Innerarity propone un “contrato social tecnológico” que asuma la inevitabilidad de la automatización, pero preserve deliberación, pluralismo y soberanía ciudadana.

La inteligencia artificial no dictará por sí sola el futuro de la democracia. El desenlace dependerá de si la dejamos actuar bajo su propia lógica o si la gobernamos con reglas claras y supervisión independiente. No se trata de temerle ni de idolatrarla, sino de entender que aún estamos a tiempo de decidir quién gobierna a quién. La legitimidad de nuestras decisiones colectivas no puede residir en un algoritmo, sino en esa inteligencia colectiva, humana y no artificial, que sigue siendo el corazón de la democracia.