La IA nos quiere aniquilar. ¿Quién podrá defendernos?

Muchos hemos visto Terminator, donde una inteligencia artificial llamada Skynet escapa al control humano y decide exterminar a la humanidad, o Matrix, donde las máquinas dominan el mundo y mantienen a las personas atrapadas en una realidad simulada. Durante años miramos esas películas como ciencia ficción.

Las recientes advertencias de Jacob Coxon, investigador que renunció a OpenAI y Anthropic, trajeron ese temor a la discusión pública. El cine había imaginado el problema de crear algo que después no podamos controlar, aunque eso no significa que sus historias estén destinadas a cumplirse. Cuando una advertencia conecta con imágenes tan conocidas, el miedo puede adelantarse a la comprensión. ¿Ese temor nos ayudará a exigir explicaciones y controles, o terminará haciendo que entreguemos todavía más poder a quienes prometen protegernos?

La advertencia de Coxon apunta al peligro de desarrollar una inteligencia artificial capaz de mejorarse a sí mismahasta superar nuestra capacidad de control. En términos simples, plantea un escenario en el que los sistemas contribuyan a crear versiones cada vez más capaces, mientras las personas pierden la posibilidad de comprender y supervisar ese proceso. Su advertencia es extrema. Sostiene que podría poner en riesgo la supervivencia humanaantes de que termine esta década. Es un escenario de riesgo, cuya probabilidad y horizonte temporal requieren examen. Su argumento abre una pregunta imperiosa ¿estamos creando capacidades donde la humanidad es incapaz de gobernar?

A esta alerta se sumaron los llamados de los oligarcas tecnológicos de esta industria. Dario Amodei, CEO de Anthropic, la empresa creadora de Claude, advierte sobre una “carrera hacia el abismo” y pide ralentizar el desarrollo de los modelos más avanzados y reforzar su supervisión. Sam Altman, de OpenAI, y Elon Musk, de xAI, han respaldado esa orientación.

Altman también ha descartado una salida a Bolsa de OpenAI durante 2026, vinculando esa decisión con las preocupaciones de seguridad. Son anuncios relevantes, aunque pedir una desaceleración, abrir los sistemas a evaluadores externos y postergar una decisión financiera son medidas distintas. Su alcance debe juzgarse por lo que efectivamente cambien en el desarrollo y despliegue de estas tecnologías.

Amodei lleva la discusión a un terreno todavía más delicado cuando afirma que “durante demasiado tiempo la industria mintió a la gente” sobre los riesgos de la inteligencia artificial, aunque excluye a su propia compañía de esa acusación. Sus palabras obligan a preguntarnos qué información recibió la sociedad mientras incorporaba estas herramientas a su vida cotidiana. También corresponde examinar esa distinción entre una empresa que se presenta como transparente y unos competidores a los que acusa de haber ocultado riesgos. La transparencia no se declara, se demuestra permitiendo a terceros independientes que ejerzan esa evaluación.

Cuando quienes compiten por acelerar una tecnología coinciden en que hay que reducir la velocidad, las preguntas resultan inevitables. ¿Por qué lo dicen ahora? ¿qué saben que todavía no conocemos? ¿qué temen estar perdiendo la capacidad de controlar? ¿estamos ante una estrategia de mercado, una operación de marketing o una utilización del miedo para influir en las reglas de la competencia? ¿o existe una voluntad de transparencia frente a avances que podrían estar superando las medidas de seguridad disponibles? Estas posibilidades requieren examen. La preocupación por la seguridad puede coexistir con intereses comerciales, y reconocer esa coexistencia permite evaluar mejor las propuestas.

Lo cierto es que el mundo por estos días se atemorizó y debemos examinar cómo se comunica una amenaza de esta magnitud y qué efectos produce. El miedo puede movilizar una demanda legítima de protección. También puede convertirse en una estrategia de poder cuando la urgencia desplaza la deliberación y se le pide a la ciudadanía confiar en decisiones que no conoce y que no puede examinar.

Silicon Valley difícilmente puede determinar por sí solo el control de velocidad de una transformación mundial. Si quienes desarrollan la tecnología, cuyo negocio depende de una competencia intensiva, definen además sus peligros, las condiciones para protegernos y buscan auto regularse sin supervisión democrática, lo lógico es que existan instituciones capaces de contrastar esas afirmaciones, y la evidencia es que no existen, no hay una contraparte que vele por el bienestar de la humanidad.

La propuesta de Amodei hace explícita la conexión entre seguridad y ventaja estratégica. Combina una moderación coordinada del desarrollo con la preservación de la ventaja estadounidense frente a China y restricciones al acceso chino a chips avanzados. Trump, por su parte, ha defendido mantener el liderazgo estadounidense y ha cuestionado los llamados a desacelerar, incluso fue más allá y anunció la creación del Programa “AI Force” para impulsar la industria.

Desde Beijing se ha rechazado el discurso que presenta el avance chino como una amenaza y se ha invocado la cooperación internacional. Construir confianza resulta especialmente difícil cuando se propone colaborar y, simultáneamente, limitar las capacidades del otro. La seguridad puede quedar subordinada a una competencia en la que cada potencia considera peligroso ceder terreno.

Mientras, la portada de TIME pregunta a una inteligencia artificial “¿qué tan peligrosa eres?” instalando el lugar que está adquiriendo esta preocupación. La imagen permite volver a Terminator y Matrix, pero también plantea una dificultad. Una respuesta generada por la propia tecnología difícilmente puede reemplazar la evaluación de sus riesgos. Esa tarea requiere evidencia y responsabilidades claras. El periodismo puede ayudar a que las advertencias sean comprendidas y examinadas, aunque también puede amplificar el miedo cuando presenta escenarios inciertos como desenlaces inevitables. La pregunta de la portada debería conducirnos a saber quién puede comprobar ese peligro y quién tiene autoridad para intervenir.

¿Quién podrá defendernos? Una sociedad organizada, con instituciones democráticas capaces de protegernos y ejercer control sobre quienes concentran el poder tecnológico. La humanidad no puede presentarse con las manos atadas, resignada a que un puñado de empresas tecnológicas decida las reglas del juego, qué riesgos debemos aceptar y en qué condiciones viviremos.

La ciudadanía necesita saber que hay capacidades públicas para anticipar amenazas, exigir información, fiscalizar a estos avances tecnológicos y detener desarrollos cuando la seguridad de las personas esté comprometida. Construir esa protección exige ciencia independiente, Estados y Gobiernos preparados y cooperación internacional, con recursos y autoridad para actuar.

Defendernos es una responsabilidad colectiva que debemos convertir en capacidad efectiva. El futuro de la humanidad debe permanecer en manos de una humanidad capaz de decidir sobre él.