Educar para auditar

Durante mucho tiempo, la educación cívica consistió en aprender cómo funcionaban el Estado, sus órganos, los partidos y las elecciones. Esto era una forma de comprender dónde estaba el poder, cómo se legitimaba y por qué podía ser controlado.

Y si bien esa tarea sigue siendo indispensable, ya no basta. El poder no abandonó las instituciones, pero cambió de mediación: hoy también se decide a través de sistemas que pocos comprenden y que muchas veces se asumen neutrales.

Pensemos en el Sistema de Admisión Escolar (SAE), que asigna colegio a los niños mediante un algoritmo, o en programas como Alerta Niñez, que ensayó con modelos predictivos sobre vidas concretas. Ninguno es neutral, cada uno incorporaba criterios, prioridades y márgenes de error, y sus resultados reflejaban esas decisiones.

El debate sobre la inteligencia artificial y los sistemas algorítmicos que inciden cada vez más en nuestras vidas suele concentrarse en regulaciones y estándares técnicos, cuestiones altamente necesarias, pero insuficientes si no existe una ciudadanía capaz de interrogar críticamente esos sistemas. La democracia no presupone ciudadanos expertos; presupone ciudadanos capaces de exigir razones.

De ahí el verbo del título. Auditar no es desconfiar de todo ni pedir que cada ciudadano aprenda a programar. Es algo más modesto y más exigente: saber qué preguntas hacerle a un sistema. ¿Con qué datos se entrenó? ¿Qué objetivo optimiza? ¿Cuántas veces se equivoca y a costa de quién? ¿Quién responde cuando falla? Quien sabe formular esas preguntas puede contrastar las respuestas contra un estándar; quien no, recibe el resultado como un hecho de la naturaleza.

Esa diferencia es política. Cuando la capacidad de interrogar se debilita, la autoridad deja de justificarse y pasa a administrarse, situaciones que antes eran discutibles, ahora se visten de objetividad técnica, transformando lo público, en la expresión de Frank Pasquale, en una caja negra. Una democracia saludable no exige ciudadanos expertos, pero si exige, ciudadanos capaces de pedir y evaluar razones.

Por eso es necesaria una educación cívica para el siglo XXI que amplíe su catálogo de materias: junto a derechos, deberes e instituciones, debe incorporar nociones básicas sobre cómo se construye una decisión automatizada y cómo examinarla. Su objetivo no es producir técnicos, sino formar generaciones con una disposición instantánea a la sospecha crítica.

Más allá de si la inteligencia artificial es más inteligente o eficiente que nosotros, nadie que crea en ideales democráticos aceptaría renunciar a la capacidad de interrogarla. Una democracia fuerte no es la que decide mejor con ayuda de máquinas, sino la que conserva su capacidad de revisar, discutir y corregir las decisiones públicas, incluso en contra de lo que propongan las máquinas.

La apuesta más urgente es también la más antigua: preocuparnos de la inteligencia artificial es, ante todo, preocuparnos de cómo educamos: una educación cívica que hoy debe enseñar a mirar de frente a estas tecnologías y a pedirles cuentas. De esa aula, más que de cualquier algoritmo, depende que la democracia siga siendo nuestra.