Experto en IA, Juan Pablo Forno: hay “enormes” probabilidades de que algoritmos tomen decisiones
Juan Pablo Forno advirtió que cada vez más decisiones podrían quedar en manos de algoritmos sin control humano. “Eso tiene riesgos enormes porque ya el juicio humano pasa a estar de lado”, afirmó, y alertó especialmente sobre el uso autónomo de IA en conflictos armados.
El avance de la inteligencia artificial está abriendo un escenario en que decisiones que hasta ahora dependían del criterio de una persona podrían quedar cada vez más en manos de algoritmos, tanto en empresas como en organismos gubernamentales. Para el experto en IA Juan Pablo Forno, las probabilidades de que ese proceso se profundice son “enormes”.
En entrevista con Al Pan Pan de El Mostrador, el consultor en tecnología e inteligencia artificial y director académico de la Facultad de Economía y Negocios de la Universidad de Chile advirtió que el aumento de las capacidades de estos sistemas también implica riesgos por la pérdida de intervención humana.
“Yo creo que la probabilidad de que los algoritmos empiecen a ser cada vez más potentes y cada vez tomen más decisiones y que, digamos, empecemos a delegar cada vez más en muchos procesos, tanto de las organizaciones empresariales como a nivel gubernamental, son enormes”, sostuvo.
El problema, explicó, aparece precisamente cuando esa delegación desplaza el criterio de las personas. “Eso tiene riesgos enormes porque ya el juicio humano pasa a estar de lado”, afirmó.
“Estamos generando capacidades a las máquinas para tomar decisiones sin control humano”, agregó Forno, quien identificó como uno de los escenarios más delicados la incorporación de esa autonomía a los conflictos armados.
A su juicio, la velocidad con que puede actuar la inteligencia artificial genera además una presión para que otros sistemas respondan de la misma manera, desplazando todavía más la capacidad humana de intervenir en decisiones críticas.
“No puedes tomar decisiones a nivel humano. Tienes que empezar a tomar decisiones a nivel también de inteligencia artificial, mucho más rápido. Y ahí, cuando empiezas a decir si tengo que disparar o no, y a quién le tengo que disparar y no pasa por una decisión humana, eso es súper complejo”, explicó.
El experto enfatizó que no se trata de una discusión sobre escenarios hipotéticos o tecnologías que podrían aparecer dentro de varias décadas. “No es que esto sea el futuro o que sea algo de los próximos 20 años, esto está pasando hoy en día. Y eso es muy complejo moralmente”, sostuvo.
Forno también puso el foco en las dificultades para establecer responsabilidades cuando los sistemas toman decisiones a partir de información equivocada o desactualizada, especialmente cuando están involucradas vidas humanas.
“¿Quién es el responsable de eso? ¿El algoritmo, el que tenía que cargar los datos, el gobierno o la fuerza militar que atacó? Bueno, no hay responsable hoy día, de verdad. Y eso es lo terrible”, concluyó.
Inscríbete en el Newsletter +Política de El Mostrador, súmate a nuestra comunidad para informado/a con noticias precisas, seguimiento detallado de políticas públicas y entrevistas con personajes que influyen.
