Pedro Huichalaf y la distopía de la IA general: “No hay un botón de apagado de emergencia”
En Al Pan Pan, el exsubsecretario de Telecomunicaciones advirtió sobre los riesgos de los agentes de IA que operan autónomamente. También llamó a Chile a avanzar en soberanía digital: “Tenemos una ventana de tiempo muy limitada”.
La posibilidad de que sistemas de inteligencia artificial operen de manera autónoma y tomen decisiones sin intervención humana plantea una discusión que, según el exsubsecretario de Telecomunicaciones Pedro Huichalaf, todavía no tiene una respuesta regulatoria suficiente: cómo garantizar que una persona pueda detener la tecnología cuando sea necesario.
En entrevista con Al Pan Pan de El Mostrador con Mirna Schindler, el abogado especializado en telecomunicaciones y tecnologías de la información abordó los desafíos asociados al avance hacia la inteligencia artificial general y advirtió que Chile debe tomar decisiones sobre soberanía digital antes de que se profundice su dependencia de tecnologías desarrolladas por terceros.
“La discusión que hoy día la industria tiene [es] que no hay una regulación respecto a un botón de apagado de emergencia”, afirmó Huichalaf, quien también es vicepresidente del Consejo de Prospectiva y Estrategia.
Sus declaraciones se producen en un escenario de creciente debate sobre el desarrollo y la supervisión de la inteligencia artificial. En Estados Unidos, el presidente Donald Trump anunció la creación de una “Fuerza de IA” y la designación de un “zar” encargado de vigilar malas prácticas en el sector.
El mandatario estadounidense aseguró que su administración no buscará restringir el crecimiento de la industria. “No obstaculizaremos ni frenaremos de ninguna manera el crecimiento de esta increíble industria”, sostuvo, y agregó que su Gobierno la apoyará y vigilará mientras se expande. Según lo anunciado, las malas prácticas serían sancionadas mediante los sistemas de justicia penal y civil.
En paralelo, Anthropic ha señalado que su chatbot Claude ya participa en más de una cuarta parte de las tareas de investigación y desarrollo de la propia empresa, un antecedente que ilustra el creciente uso de sistemas de IA en el perfeccionamiento de esta tecnología.
En ese contexto, Huichalaf explicó que una de las transformaciones relevantes es el desarrollo de los llamados agentes de inteligencia artificial, capaces de ejecutar tareas por cuenta propia y coordinarse con otros sistemas.
“Los agentes son mini inteligencia artificial que empiezan a funcionar en forma autónoma, que trabajan después colaborativamente con otros agentes y finalmente llegan a un resultado”, señaló.
Consultado sobre la posibilidad de que estos agentes se desacoplen del control humano y adopten decisiones propias, el exsubsecretario respondió que esa es precisamente una de las preocupaciones que enfrenta la industria.
“Sí, mira, eso es la discusión que hoy día la industria tiene, porque no hay una regulación respecto a un botón de apagado de emergencia”, afirmó.
Huichalaf precisó que el problema apunta a garantizar la capacidad de intervención humana sobre los sistemas. “Es decir, la posibilidad de un humano de desconectar la tecnología es toda la discusión que hoy día se está planteando en la forma más extrema”, explicó.
Su advertencia se refiere a los desafíos de supervisión y regulación de sistemas cada vez más autónomos, sin establecer que todas las herramientas actuales de inteligencia artificial carezcan de mecanismos técnicos para ser desconectadas.
El exsubsecretario también trasladó el debate al escenario chileno. A su juicio, el país debe definir cómo enfrentará el desarrollo de estas tecnologías para evitar que sus capacidades y decisiones queden subordinadas a proveedores externos.
“Hay un concepto detrás que nosotros hemos estado impulsando, el concepto de soberanía digital, donde Chile, nuestro país también tiene que estar atento y tenemos una ventana de tiempo muy limitada”, sostuvo.
Huichalaf planteó que las decisiones que se adopten durante los próximos años serán determinantes para la posición de Chile frente al avance de la inteligencia artificial. En su análisis, no basta con incorporar herramientas desarrolladas en el extranjero: también es necesario decidir qué grado de participación y autonomía tecnológica buscará el país.
“Si Chile no toma la decisión dentro de los próximos cinco años, nos van a pasar por encima”, advirtió.
Para explicar el riesgo de quedar relegado a una posición de dependencia, recurrió a una comparación: “Esta es una tecnología donde o tú eres parte como comensal, digámoslo así, en una mesa, o eres el menú”.
El académico concluyó que, si Chile no adopta decisiones oportunas sobre soberanía digital, podría terminar en una situación en la que las tecnologías se desarrollen e implementen sin una participación significativa del país y su dependencia quede en manos de terceros.
Inscríbete en el Newsletter +Política de El Mostrador, súmate a nuestra comunidad para informado/a con noticias precisas, seguimiento detallado de políticas públicas y entrevistas con personajes que influyen.
