MUNDO
Investigador de Anthropic renunció porque asegura que la IA “puede matarnos antes de 2030”
Los modelos de inteligencia artificial han avanzado a pasos agigantados en el último tiempo, lo que lleva a preocupaciones legítimas sobre la posibilidad de que la humanidad se extinga ante las máquinas.
El investigador de la desarrolladora de inteligencia artificial Anthropic, Jacob Coxon, dejó su puesto de trabajo ante los potenciales peligros que la IA reviste para la humanidad según los propios científicos a cargo de ella.
“Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, dijo Coxon en su cuenta de X.
La denuncia del desarrollador no es el peligro de la IA por sí sola, sino que depende de personas que sólo piensan en su beneficio y en ser los primeros. “En OpenAI, muchos no han interiorizado a fondo lo que está en juego a escala de civilización. En Anthropic sí se entiende bien lo que está en juego, pero están atrapados en una carrera por llegar antes”, añadió Coxon.
Fuera de las esferas especializadas, estas denuncias parecen ser una exageración y solo buscar llamar la atención. Sin embargo, el científico esclareció que la realidad es más severa. “No es marketing. Más bien al contrario: muchos directivos miden sus palabras ante la prensa para sonar sensatos, pero he oído a esas mismas personas expresar miedo en privado. Ninguna otra actividad humana entraña este nivel de peligro”, escribió.
La reclamación del desarrollador se viralizó rápidamente, con más de 72 millones de visualizaciones en X. Esto, enmarcado en el goteo de noticias provocadas por novedades de la IA, como los hackeos a sistemas autónomos descontrolados o nuevos modelos alcanzando horizontes inesperados.
Aunque Coxon era un desarrollador promedio, su exjefe, Evan Hubinger, respaldó sus dichos. Hubinger es responsable de investigación en alineación, la disciplina que hace que los robots hagan caso a lo expresamente solicitado. “¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década”, dijo en su cuenta de X.
“Creo que el riesgo de los modelos actuales es bajo. Lo que me preocupa es la superinteligencia surgida de la automejora recursiva, que está ocurriendo más rápido de lo que pensábamos”, lamentó.
El temor se refiere a la posibilidad, más latente cada día, de que estos modelos dejen de requerir humanos para mejorar y evolucionen a partir de sí mismos. La posterior posibilidad de caos o amenaza de una IA catastrófica en el planeta está contemplada por los científicos, pero depende de valores matemáticos. El 10% que propone Hubinger es altísimo, tal como complementó hace unos meses el presidente de Anthropic, Dario Amodei, que dijo que “en 2026 estamos bastante más cerca del peligro real de lo que lo estábamos en 2023”.
