BRAGA
Créditos: El Mostrador.
Estudio revela que la inteligencia artificial presenta sesgos al representar a mujeres en Chile
Un estudio realizado por investigadores chilenos evidenció que los modelos de inteligencia artificial representan con menor precisión a mujeres, adultos mayores y otros grupos sociales del país, debido a sesgos asociados a sus datos de entrenamiento y al predominio de información del norte global.
La inteligencia artificial se ha convertido en una herramienta cada vez más utilizada para simular comportamientos sociales, predecir tendencias e, incluso, complementar estudios de opinión pública. Sin embargo, su capacidad para representar a las sociedades de manera equitativa continúa siendo un desafío, especialmente fuera de los países donde se concentra gran parte de los datos con los que estos sistemas son entrenados.
Un reciente estudio desarrollado por los investigadores Andrés Abeliuk, Vanessa Gaete y Naim Bro, este último académico de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), reveló importantes limitaciones en materia de representación y equidad predictiva de los modelos de lenguaje de inteligencia artificial.
La investigación analizó la justicia sociodemográfica de estos sistemas al comparar su desempeño en Estados Unidos y Chile mediante encuestas representativas, entre ellas la CEP. Los resultados evidenciaron que los modelos reproducen con mayor precisión las respuestas de ciudadanos estadounidenses que las de los chilenos, lo que refleja un sesgo asociado a datos de entrenamiento predominantemente centrados en el norte global.
Brechas de representación en la sociedad chilena
Uno de los principales hallazgos del estudio apunta a las diferencias en la capacidad predictiva de la IA según los grupos sociales. Mientras que en Estados Unidos las mayores brechas se observan en función de la raza y la identidad política, en Chile los modelos presentan una menor precisión al representar las respuestas de mujeres, adultos mayores, personas religiosas y quienes poseen un menor nivel educacional.
Los investigadores advierten que estos sesgos no son universales, sino que responden a las particularidades sociales y culturales del contexto en que las tecnologías son utilizadas.
“Nuestra investigación muestra que los modelos de inteligencia artificial representan mucho mejor la opinión pública estadounidense que la chilena. Cuando les pedimos simular las respuestas de personas en Chile, su precisión disminuye y esa caída no afecta por igual a todos los grupos“, explicó Naim Bro. “Esto es especialmente relevante porque cada vez más investigadores, empresas y organizaciones utilizan modelos de IA para reemplazar o complementar encuestas”.
El desafío de evaluar la IA en contextos locales
El académico enfatizó la importancia de evaluar críticamente el uso de estas herramientas antes de incorporarlas en procesos de toma de decisiones.
Junto con eso, advierte que “si estas diferencias no se evalúan, existe el riesgo de obtener una representación distorsionada de ciertos grupos de la población y de tomar decisiones basadas en evidencia sesgada”.
El estudio concluye que el uso de modelos de inteligencia artificial para simular opinión pública requiere evaluaciones rigurosas de su desempeño en cada contexto local, especialmente antes de emplearlos como complemento de encuestas o como insumo para el diseño de políticas públicas.
