Experta ONU, Loreto Bravo y riesgos de Inteligencia Artificial: “Defendernos de IA con IA”

Los riesgos de la inteligencia artificial no están necesariamente en un escenario de ciencia ficción en que las máquinas adquieren autonomía y toman el control de la humanidad. Para Loreto Bravo, directora del Instituto de Data Science de la Universidad del Desarrollo (UDD) e integrante del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas, las amenazas más importantes provienen del uso malicioso de esta tecnología, particularmente en ámbitos como los ciberataques y el desarrollo de armas biológicas.

En entrevista con Al Pan Pan, de El Mostrador, la especialista abordó los desafíos que plantea el avance acelerado de la inteligencia artificial, las dificultades para establecer regulaciones efectivas y la necesidad de desarrollar herramientas tecnológicas capaces de enfrentar amenazas que utilizan los mismos sistemas.

Sus declaraciones se producen en medio de nuevos cuestionamientos al uso de inteligencia artificial en los tribunales de justicia chilenos, luego de que se conocieran dos casos en que esta tecnología habría sido utilizada en la elaboración de resoluciones judiciales.

Uno de los episodios ocurrió en el Séptimo Tribunal de Juicio Oral en lo Penal de Santiago, donde se dictó una sentencia de aproximadamente 456 mil páginas contra un médico colombiano acusado de emitir licencias médicas falsas. La defensa presentó un recurso de nulidad.

También te puede interesar:

El segundo caso corresponde a una resolución de la Novena Sala de la Corte de Apelaciones de Santiago, en cuyo texto quedó incorporada una instrucción dirigida a una herramienta de inteligencia artificial.

“Eres un juez de la Corte de Apelaciones que debe redactar la parte considerativa de la sentencia [rechazando/acogiendo] el recurso. Dicha sentencia debe ser redactada siguiendo estas instrucciones”, señalaba el texto que apareció en la resolución.

Estos episodios han instalado interrogantes sobre la utilización de herramientas de inteligencia artificial en decisiones judiciales, sus mecanismos de supervisión y los riesgos asociados a la generación automatizada de contenidos.

En ese contexto, Bravo explicó que los peligros de la inteligencia artificial deben examinarse desde una perspectiva distinta a la que habitualmente presenta la ficción.

“Mira, los peligros no son como lo que uno se imagina este mundo como medio de las películas de Terminator, donde las máquinas toman control y tratan de reemplazarnos, o sea, de hacer todo por nosotros o tomar nuestras decisiones, sino que son el uso malicioso de herramientas de inteligencia artificial”, sostuvo.

La investigadora mencionó como ejemplos los ataques informáticos que pueden organizarse con ayuda de estos sistemas y el eventual desarrollo de armas biológicas mediante herramientas de inteligencia artificial.

“Por ejemplo, situaciones donde hay ciberataques que pueden ser orquestados utilizando inteligencia artificial, o guerras biológicas que se utilizó inteligencia artificial para desarrollar estas armas. Entonces, yo creo que el riesgo va más bien por el mal uso de la inteligencia artificial”, explicó.

Para la integrante del panel científico de Naciones Unidas, uno de los principales problemas es que la regulación, por sí sola, no garantiza que quienes pretendan utilizar estas tecnologías con fines maliciosos respeten las restricciones establecidas.

“Y es complejo porque la regulación, en el fondo, mucha gente dice ya, regulemos, pero la regulación, en el fondo, no va a detener a los grupos maliciosos”, advirtió.

Frente a ese escenario, Bravo planteó que una de las prioridades debe ser el fortalecimiento de la investigación científica orientada a desarrollar sistemas de protección capaces de enfrentar amenazas que también utilizan inteligencia artificial.

“Yo creo que aquí el secreto está en aumentar la cantidad de investigación que estamos realizando en cómo defendernos utilizando también inteligencia artificial”, señaló.

La especialista ejemplificó el desafío con la necesidad de anticipar y contrarrestar ataques informáticos desarrollados mediante estas herramientas. “En el fondo, si va a venir un ciberataque con IA, cómo nos defendemos al respecto, y en el fondo, desde ese punto de vista, protegernos”, explicó.

La idea fue sintetizada por la investigadora en una frase: “Defendernos de IA con IA”.

Consultada sobre si esta estrategia podría compararse con el desarrollo de antivirus capaces de detectar y neutralizar amenazas informáticas, Bravo respondió afirmativamente. “Claro, algo por el estilo. Y para eso necesitamos mucha investigación y también tomar ciertas precauciones”, sostuvo.

Otro de los aspectos abordados durante la entrevista fue la posibilidad de ralentizar el desarrollo de nuevos modelos de inteligencia artificial mientras se establecen mecanismos de seguridad más robustos.

Aunque reconoció que sería deseable avanzar en esa dirección, la investigadora advirtió que la competencia tecnológica entre las principales potencias mundiales dificulta considerablemente la posibilidad de reducir la velocidad de desarrollo de estos sistemas.

“Es que, en el fondo, es una linda idea. Sería maravilloso poder hacerlo. Pero, en la práctica, tenemos a potencias internacionales un desafío geopolítico que, en el fondo, Estados Unidos dice, yo no me voy a quedar más atrás de China, y China tampoco se quiere quedar más atrás que Estados Unidos”, explicó.

Según su análisis, esa rivalidad genera incentivos para continuar desarrollando herramientas cada vez más avanzadas, incluso cuando persisten interrogantes sobre sus riesgos y mecanismos de control.

Por ello, Bravo consideró poco probable que se produzca una desaceleración significativa en la creación de nuevos modelos de inteligencia artificial. “Yo creo que no va a ocurrir una disminución de velocidad en la generación de nuevos modelos”, afirmó.

Sin embargo, distinguió entre el desarrollo de estas tecnologías y su disponibilidad para el público general, ámbito en el que considera que podrían establecerse medidas concretas de prevención.

“Lo que sí podríamos lograr es, por ejemplo, que no se liberen al público en general, que, no sé, encontrar incentivos para que la liberación de estos modelos sea controlada”, planteó.

De esta manera, la experta diferenció dos desafíos: por una parte, la dificultad de detener una carrera tecnológica impulsada por la competencia geopolítica y, por otra, la posibilidad de establecer condiciones para que los sistemas más avanzados no sean puestos a disposición de manera indiscriminada.

En ese escenario, Bravo insistió en la importancia de aumentar la investigación destinada a prevenir y enfrentar los usos maliciosos de la inteligencia artificial, utilizando las propias capacidades de esta tecnología como herramienta de defensa.