Juan Pablo Forno sobre advertencias de desertor de Anthropic: “El riesgo es real, existe”
El experto distinguió entre los episodios actuales de autonomía algorítmica y el escenario que podría surgir con una inteligencia artificial capaz de autoprogramarse: planteó que los peores escenarios tienen una posibilidad de un 10-15% según las proyecciones más negativas.
Jacob Coxon, investigador que pasó los últimos tres años entre OpenAI y Anthropic, renunció a esta última con una advertencia inquietante: las empresas que lideran la carrera saben que están desarrollando una tecnología potencialmente catastrófica, pero siguen acelerando para no quedarse atrás. “Ninguna otra actividad humana representa un nivel de peligro semejante”, escribió Coxon en su perfil de X este martes.
Hoy en Al Pan Pan de El Mostrador, con Mirna Schindler: conversamos sobre los riesgos reales que enfrenta la sociedad con las inteligencias artificiales con el consultor en tecnología e IA y autor de “El futuro llegó. Y no trae instrucciones”, Juan Pablo Forno, quien coincidió con las preocupaciones de Coxon, pero insiste en que hay que colocarlas en contexto.
“Si tú analizas un poquito más y ves como hay encuestas o hay investigación respecto a muchos investigadores, dices ‘mira, el riesgo es real, pero es bajo‘”, sostuvo, explicando que las herramientas IA de uso diario, “como el ChatGPT, como Claude (…) hoy en día no tienen la capacidad para revelarse y hacer el daño que está insinuando Coxon que se podría dar“.
Sin embargo, el contrapunto es que las futuras evoluciones podrían incorporar capacidades de autoentrenamiento y generación de superinteligencia, escenario cuya probabilidad de realizarse está sujeto a distintas estimaciones. “En el mundo de la astronomía siempre están monitoreando los asteroides, y los asteroides son muy poco probable que impacten la Tierra. Pero el problema es que si impacta la Tierra, un asteroide grande, los consecuencias son enormes”, ejemplificó.
El consultor también coincidió con la preocupación respecto de la competencia entre las empresas pioneras en el desarrollo de la inteligencia artificial. “En la Guerra Fría hubo una muy fuerte por quien tenía la mayor cantidad de armas nucleares para poder defenderse, hasta que se llegó a un punto en donde no ganaba nadie“.
“Bueno, acá pasa algo similar: en el fondo todos están peleando por quien llega primero a la superinteligencia, porque si sabes que la superinteligencia le llega el vecino, vamos a estar en una posición, digamos, incómoda, o en una posición de menor competencia respecto al que llega primero. Y ahí no son solamente las empresas gringas que están compitiendo, sino con las empresas chinas, con otras empresas que están desarrollándose”, añadió, y sostuvo que, a diferencia de las potenciales catástrofes que trajo la era nuclear -cuyas consecuencias fueron rápidamente comprendidas-, en el caso de la IA esa certeza es más difusa.
“¿Este riesgo existe? Mucha gente dice que es bajo, hay gente que lo estima así como prácticamente imposible, y otros le dan dos dígitos de probabilidad. O sea, estamos hablando de 10, 15% de que esto suceda“, sentenció.
Inscríbete en el Newsletter +Política de El Mostrador, súmate a nuestra comunidad para informado/a con noticias precisas, seguimiento detallado de políticas públicas y entrevistas con personajes que influyen.
