Digital
Crédito: El Mostrador.
Sesgos en la inteligencia artificial: estudio detecta brechas en la representación de Chile
El estudio comparó el desempeño de modelos de inteligencia artificial en Chile y Estados Unidos. Los resultados muestran diferencias relevantes al representar a mujeres, adultos mayores, personas religiosas y con menor nivel educacional.
Los grandes modelos de lenguaje, como ChatGPT, son utilizados cada vez con mayor frecuencia para analizar tendencias, simular comportamientos sociales e incluso complementar estudios de opinión. Sin embargo, una reciente investigación advierte que estas herramientas no representan por igual a todas las personas y que sus resultados pueden variar significativamente según el contexto donde se apliquen.
El estudio, desarrollado por los investigadores Andrés Abeliuk, Vanessa Gaete y Naim Bro, académico de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), identificó importantes diferencias en la capacidad predictiva de estos modelos al comparar su desempeño entre Estados Unidos y Chile.
La IA reproduce mejor la realidad de Estados Unidos
La investigación, titulada “Auditando la equidad sociodemográfica y transcultural en la opinión pública simulada por grandes modelos de lenguaje” y publicada por la revista científica EPJ Data Science, analizó la equidad sociodemográfica de la inteligencia artificial utilizando encuestas representativas de ambos países, entre ellas la Encuesta CEP en Chile.
Los resultados muestran que los modelos logran reproducir con mayor precisión las respuestas de ciudadanos estadounidenses que las de personas en Chile.
Según los investigadores, esta diferencia estaría relacionada con el origen de la información utilizada para entrenar estas tecnologías, basada principalmente en contenidos provenientes del denominado norte global.
Mujeres y otros grupos presentan menor representación
Uno de los principales hallazgos del estudio surge al analizar qué grupos sociales presentan mayores diferencias entre las respuestas reales y las simuladas por la inteligencia artificial.
Mientras en Estados Unidos las principales brechas aparecen asociadas a la raza y la identidad política, en Chile los modelos presentan un menor nivel de precisión al representar a mujeres, adultos mayores, personas religiosas y personas con menor nivel educacional.
De acuerdo con los autores, estos resultados evidencian que los sesgos de la inteligencia artificial no son iguales en todos los países, sino que dependen del contexto social y cultural en el que estas herramientas son utilizadas.
Riesgos para estudios y políticas públicas
Los investigadores advierten que el creciente uso de modelos de lenguaje para reemplazar o complementar encuestas de opinión hace necesario evaluar cuidadosamente su desempeño antes de utilizarlos como apoyo para investigaciones o procesos de toma de decisiones.
Naim Bro, académico de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), señala que la “investigación muestra que los modelos de inteligencia artificial representan mucho mejor la opinión pública estadounidense que la chilena. Cuando les pedimos simular las respuestas de personas en Chile, su precisión disminuye y esa caída no afecta por igual a todos los grupos”.
El académico agrega que estas diferencias pueden tener consecuencias relevantes cuando los resultados obtenidos mediante inteligencia artificial son utilizados para interpretar fenómenos sociales.
“Esto es especialmente relevante porque cada vez más investigadores, empresas y organizaciones utilizan modelos de IA para reemplazar o complementar encuestas. Si estas diferencias no se evalúan, existe el riesgo de obtener una representación distorsionada de ciertos grupos de la población y de tomar decisiones basadas en evidencia sesgada”, afirmó el investigador.
La importancia del contexto local
Entre las conclusiones del estudio, los autores sostienen que la utilización de modelos de inteligencia artificial para simular opinión pública requiere evaluaciones rigurosas en cada país donde se pretenda aplicar.
En particular, plantean que estas herramientas deben ser analizadas antes de emplearse para complementar encuestas o entregar antecedentes que puedan influir en decisiones de política pública.
La investigación pone de relieve que, pese al rápido avance de la inteligencia artificial y su creciente utilización en distintos ámbitos, la calidad de sus resultados sigue dependiendo de la diversidad de los datos con que fue entrenada y de su capacidad para representar adecuadamente las realidades sociales y culturales de cada territorio.
