Agentes de IA: motor de eficiencia y desafío regulatorio para un desarrollo ético y sostenible

El avance tecnológico, en conjunto con el avance de la Inteligencia Artificial, está aquí. Cada día se viven más avances en tecnología que permiten que las personas vivan en un mundo hiperconectado sin ningún problema. Organizaciones innovadoras han comenzado a implementar y beneficiarse de los agentes de IA de manera concreta.

Sistemas como Agentforce son prueba de que son una poderosa herramienta para el crecimiento económico y el empoderamiento de los trabajadores humanos. En el caso de clientes como Wiley, la implementación de Agentforce permitió aumentar en un 40% la resolución de casos, superando con creces el desempeño de su chatbot anterior y liberando al equipo humano para enfocarse en consultas más complejas.

Sin embargo, un nuevo white paper de Salesforce advierte que mejorar la productividad y generar confianza no se logra simplemente instalando agentes de inteligencia artificial: el desafío va mucho más allá de la tecnología.

Asimismo, para que algunos agentes autónomos de la inteligencia artificial empresarial sean aceptados en los espacios de trabajo gubernamentales e industriales, deben trabajar dentro de límites definidos que garanticen una transparencia fluida de tareas a los seres humanos. Además, deben basarse en datos e información empresarial confiable y cumplir las normas más estrictas de privacidad, seguridad y precisión de los datos.

Marcelo Guajardo, gerente de Asuntos Gubernamentales y Políticas Públicas de Salesforce para Cono Sur, explica que “el desarrollo de agentes de IA representa una oportunidad transformadora para los gobiernos y organizaciones, permitiéndoles mejorar la eficiencia, personalizar servicios y responder de manera más ágil a las necesidades de la ciudadanía. Sin embargo, este avance sólo puede consolidarse si va de la mano con un marco regulatorio sólido, transparente y alineado con principios éticos claros”.

Políticas para fomentar un ecosistema adecuado para los agentes

Aunque los agentes de inteligencia artificial representan un gran avance tecnológico, los pilares de una política pública robusta en esta materia siguen siendo los mismos: un enfoque basado en el riesgo, roles claramente definidos dentro del ecosistema y garantías sólidas en cuanto a privacidad, transparencia y seguridad.

A medida que los gobiernos se preparan para un futuro donde la IA de confianza se integre transversalmente en sectores y geografías, el debate debe ir más allá de la regulación. También es clave pensar cómo se construye esta tecnología y, sobre todo, cómo se prepara a las personas para aprovecharla. Dotar a los trabajadores de las habilidades necesarias será tan estratégico como definir las reglas del juego.

“La actualización de nuestro white paper destaca el enorme potencial de los agentes de IA para impulsar la transformación digital y el desarrollo económico de los países”, considera Guajardo.

Asimismo, Guajardo explica que en nuestro país “vemos un gran avance por definir una gobernanza responsable en esta materia, y desde Salesforce reafirmamos nuestro compromiso de colaborar con autoridades, empresas y la sociedad civil para promover una IA segura, ética y centrada en las personas, que potencie el talento local y acelere el crecimiento sostenible”, finaliza.