Yo, robot: el debate sobre el fin de la humanidad a manos de la IA

Los Cylons de Battlestar Galactica, los replicantes de Blade Runner, Skynet en Terminator, Hal en 2001, Odisea del espacio y muchas otras novelas, series y películas son vivos ejemplos de cómo la ciencia ficción viene imaginando desde hace varias décadas, con distintas variantes, cómo la inteligencia artificial se podría llegar a convertir en una amenaza incluso existencial para la especie humana.

De hecho, uno de los padres de la sci-fi, Isaac Asimov, vio tan claramente el potencial conflicto que en su famoso cuento “Runaround”,  de 1942, que ha sido llevado varias veces al cine, formuló las famosas tres leyes de la robótica: “Un robot no debe dañar a un ser humano o, por su inacción, dejar que un humano sufra daño”; “un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes se oponen a la primera ley”; y “un robot debe proteger su propia existencia hasta donde esta protección no entre en conflicto con la primera y segunda leyes”.

Todas esas prevenciones, que hasta hace poco parecían fantasía, se corporizaron hace pocos días, luego de que el ahora exingeniero de Anthropic Jacob Coxon renunciara a su trabajo y explicara, en su cuenta de X, los motivos de ello, asegurando que también trabajó en la empresa OpenAI y que ninguna de esas compañías “está actuando responsablemente”, pues se encuentran inmersas en una carrera abierta por mejorar la superinteligencia, “jugando con nuestras vidas”.

Aseguró que, pronto, serán “sistemas superhumanos que pueden hackear cualquier cosa” y que “las personas que están construyendo la IA creen que esta puede matarnos a todos para el final de la década”.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Frente a la pregunta de por qué lo están haciendo, entonces, señaló que en OpenAI muchos no han internalizado lo que puede pasar, a diferencia de Anthropic, donde dice que están “atrapados en una carrera por ser los primeros”, algo semejante a lo que expresó el domingo el Presidente de Estados Unidos, Donald Trump, en orden a que no se puede desacelerar la competencia por la inteligencia artificial.

En tal sentido, Trump afirmó ayer por su red social que “hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único feliz con ello es China“. Asimismo, aseguró que “que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA” (las mayúsculas son originales del posteo).

Los que saben

Sin embargo, poco después del posteo de Coxon, el jefe de ciencia de alineación de Anthropic, Evan Hubinger, estimó que el riesgo existe, aunque lo bajó a un 10%, mientras que el director ejecutivo de Anthropic, Dario Amodei, así como el de OpenAI, Sam Altman, han pedido una ralentización de los desarrollos de modelos de IA, lo que también fue respaldado por Elon Musk.

Al respecto, el doctor en Filosofía y profesor de las universidades de Chile y Adolfo Ibáñez, Francisco de Lara, señala que “el peligro real está en que la IA se está programando y entrenando a sí misma cada vez más. La autonomía será cada vez mayor y el control y comprensión humanos cada vez menores, consecuentemente, y el único remedio que se nos ocurre es usar IA contra la IA. Es decir, estamos en su manos incluso para controlarla”.

Su prognosis al respecto no es positiva, pues señala que “no creo que alguien vaya a pararlo, quizá cuando quede alguna embarrada grande surja la presión por regular, pero de momento ni se entiende demasiado y todos los incentivos están en seguir desarrollando y ganar la carrera: recuerda que ambas empresas salen a bolsa este año, que el dinero está fluyendo hace tiempo hacia la IA y que el Gobierno de Estados Unidos la ha declarado prioridad nacional, para ganarle a China”.

En ese sentido, recuerda que –tal como lo planteaba Asimov– “el tema que se debate es la “alineación”: que la IA se alinee con los intereses humanos y no contra ellos, pero el caso es que no lo pueden asegurar ni saben cómo hacerlo. Obviamente, se espera que si empieza a haber eventos dramáticos será noticia, habrá presión y algo se hará… pero veremos si a tiempo. Y el caso es que, como siempre, requiere que todos los países quieran hacer algo… y no será así”, concluye.

Cifras especulativas

Por su parte, el doctor en Ciencias, Tecnologías de la Información y Comunicación Carlos Navarrete, académico de la U. de Concepción y experto en inteligencia artificial, explica que “dentro de las empresas tecnológicas hay mucha presión e incertidumbre sobre lo que va a pasar con respecto a los avances tecnológicos producto de la IA, porque muchas de estas empresas, para poder seguir mejorando sus modelos, están dejando que los mismos modelos de IA, autónomamente, tomen decisiones sobre lo que tienen que hacer para mejorar su código y su estructura. Y, bueno, parte de lo que dice quien renunció a Anthropic es eso: el temor de no saber qué es lo que viene con la inteligencia artificial”.

El ingeniero agrega que, si bien “es un riesgo que se tiene”, lo dicho por Hubinger “siguen siendo muy especulativas” y que se dan en un contexto en el cual se han generado “múltiples declaraciones de los grupos de distintas empresas de IA que han firmado distintas cartas solicitando a las empresas principales, ya sean Anthropic, OpenAI, Google, que frenen el nivel de desarrollo que están llevando los sistemas de inteligencia artificial hasta estar totalmente seguros de qué es lo que va a pasar con respecto a su nivel de desarrollo y los riesgos para la humanidad. Por lo tanto, yo vería que esto está muy alineado con esa visión”.

El fin de los matemáticos

Por su parte, Leo Ferres, PhD en Ciencia Cognitiva e investigador del Instituto de Data Science de la Universidad del Desarrollo, señala que los dichos de Coxon pueden ser entendidos en un contexto distinto, como el de un empleado que se va resentido con su empleador, o alguien que actúa en función de alguna carga ideológica y, ante ello, indica que “no creo que tenga alguna clase de real razón para determinar que la IA nos va a terminar exterminando, no creo que ese sea el caso”.

“Otra cosa es, por ejemplo, la carta de los field medalists en matemáticas, porque la IA está resolviendo todos los problemas abiertos de la matemática sin los matemáticos”, detalla.

“Eso es mucho más interesante”, asevera, en el sentido de que “lo que pensábamos que nunca iba a pasar, que los matemáticos iban a ser los últimos en ser bajados, sacados de su pedestal, fueron de los primeros”.

También te puede interesar: