La caja negra de los algoritmos: experto de la Unesco pide “hacer visible lo que hoy es invisible”

Las grandes plataformas deciden qué publicaciones ven los electores, cuánto circulan y a quiénes llegan. El problema es que, cuando aparecen sospechas de manipulación, ni siquiera las autoridades encargadas de fiscalizar las elecciones tienen necesariamente las herramientas para comprobar qué ocurre dentro de sus algoritmos.

“Debe depender de reglas claras que hagan visible lo que hoy es invisible”, advierte a El Mostrador Guilherme Canela, director de la División de Inclusión Digital, Políticas y Transformación Digital de la Unesco.

Su advertencia llega después de una elección brasileña marcada por denuncias contra Meta, restricciones que afectaron la campaña de Luiz Inácio Lula da Silva y una intervención del Tribunal Superior Electoral (TSE) para exigir igualdad de trato entre las candidaturas.

La compañía reconoció problemas técnicos, aunque negó haber favorecido deliberadamente a Flávio Bolsonaro. El TSE, por su parte, consideró necesario investigar las acusaciones, sin dar por acreditada una interferencia intencional.

Desde una mirada global, y sin entrar en las denuncias específicas de Brasil, Guilherme Canela, magíster en Ciencia Política por la Universidad de São Paulo, advierte que el poder de las plataformas en las contiendas electorales es indiscutible, aunque todavía no existe evidencia suficiente para determinar cuánto pueden inclinar sus resultados.

“Sus algoritmos determinan qué contenidos se ven, con qué alcance y ante qué audiencia”, explica. Y agrega: “Si no hubiera influencia, no tendría sentido invertir montos tan elevados”, en referencia a los recursos que destinan las campañas políticas a las plataformas digitales.

También te puede interesar:

El especialista, quien también es secretario del Programa Información para Todos (PIPT) de la Unesco, pone el foco en un problema de fondo: la falta de transparencia de los sistemas que organizan buena parte del debate público.

“Un sesgo concreto es difícil de demostrar desde fuera, porque los sistemas de IA suelen ser opacos incluso para las autoridades electorales y los observadores”, sostiene.

Quién vigila al algoritmo

Para Guilherme Canela, no basta con esperar que los candidatos descubran y denuncien eventuales irregularidades. La responsabilidad debe recaer en mecanismos de fiscalización capaces de examinar cómo operan las plataformas antes, durante y después de una elección.

Las directrices de la Unesco sobre gobernanza de plataformas digitales, elaboradas tras recibir más de 10.000 comentarios de 134 países, proponen evaluaciones de riesgo antes de los comicios, transparencia sobre los sistemas automatizados, identificación de la publicidad política y auditorías independientes.

También plantean que las compañías entreguen datos a investigadores externos y mantengan canales de comunicación con autoridades electorales para resolver reclamos con rapidez.

La preocupación crece con la inteligencia artificial. Guilherme Canela advierte que estas tecnologías han aumentado la velocidad, sofisticación y posiblemente la escala de amenazas como la desinformación, los deepfakes, las cuentas automatizadas que generan falsos consensos y la violencia digital contra las candidatas.

“La responsabilidad no debe recaer en ellas. Debe recaer en un sistema de gobernanza transparente y con rendición de cuentas”, señala, al explicar que las campañas no pueden asumir solas la tarea de detectar posibles sesgos.

El objetivo, subraya, no es controlar el debate político, sino proteger la libertad de expresión y el derecho de los ciudadanos a informarse y votar sin manipulación.

Brasil y los límites del poder digital

Pero una cosa es reconocer la influencia de los algoritmos y otra, bastante distinta, demostrar que pueden definir una elección.

Roberto Munita, director de Administración Pública de la Universidad Andrés Bello (UNAB), introduce ese matiz al analizar la remontada de Lula frente a Flávio Bolsonaro.

“Es difícil saber si los algoritmos tuvieron un peso gravitante o no, porque no tenemos el contrafactual, es decir, no sabemos cómo habrían sido los resultados sin Meta”, explica a El Mostrador.

El profesor Munita recuerda que ambas campañas formularon cuestionamientos a la compañía y sostiene que no existen antecedentes suficientes para concluir que sus actuaciones hayan favorecido decisivamente a uno de los candidatos.

Su evaluación no descarta las fallas documentadas que afectaron a Lula, sino que cuestiona que pueda atribuirse a ellas un impacto electoral determinante.

Para el académico, la ofensiva digital que desplegó el comando del mandatario durante la segunda vuelta terminó demostrando la importancia de la estrategia política por sobre cualquier herramienta tecnológica.

Los bots y algoritmos, advierte, pueden dar lugar a irregularidades y merecen fiscalización, pero “siguen siendo menos efectivos que una buena campaña”.

En esa línea, Guillermo Bustamante (Uandes) sostuvo, también en conversación con El Mostrador, que los posibles sesgos pueden enfrentarse con organización territorial, estrategias de comunicación y una justicia electoral firme. Eugenia Dos Santos (Usach) apuntó precisamente a ese último factor: las denuncias del comando de Lula y la presión judicial pusieron contra las cuerdas a Meta, aunque no está claro cuánto lograron contener las irregularidades.

La discusión, entonces, va más allá de quién ganó o perdió en Brasil. Guilherme Canela insiste en que las elecciones libres y justas requieren plataformas capaces de rendir cuentas sobre las decisiones automatizadas que afectan la circulación de información.

Porque mientras las campañas pelean por cada voto y los tribunales intentan fiscalizar la contienda, una parte decisiva de la visibilidad política sigue dependiendo de sistemas cuyo funcionamiento resulta difícil de examinar desde fuera. Y esa es precisamente la opacidad que la Unesco busca enfrentar.