Investigación
Elaborada por El Mostrador
Sin mecanismo de control: ¿la IA puede terminar con la humanidad?
Reportes sobre agentes que parecen eludir instrucciones humanas, advertencias de la ONU y la competencia entre Estados Unidos y China reabren el debate sobre seguridad. Especialistas advierten que acelerar sin suficientes salvaguardas puede aumentar riesgos difíciles de revertir.
¿Existe realmente el riesgo de que la inteligencia artificial (IA) termine escapando al control humano? La velocidad con que avanza la IA ha encendido las alertas. Durante los primeros meses de este año, diversas empresas tecnológicas han reportado situaciones en que algunos de sus agentes han actuado de maneras que “parecen eludir las instrucciones de los humanos”.
En Naciones Unidas, el secretario general también ha advertido sobre los riesgos asociados al desarrollo acelerado de estas tecnologías. Y en la Casa Blanca, el Presidente Donald Trump y solo seis representantes de grandes empresas tecnológicas firmaron un acuerdo “moral pero no vinculante” sobre los mecanismos de seguridad que deberían implementarse.
La situación se vuelve incluso más compleja porque China, pese a avanzar desde atrás en la carrera por el desarrollo de inteligencia artificial, parece estar cerrando rápidamente la distancia. Y expertos advierten que tampoco allí existen necesariamente todas las salvaguardas que consideran necesarias.
Pero el punto de fondo es otro.
En medio de una competencia por acumular poder económico y geopolítico, la humanidad enfrenta un equilibrio difícil: ralentizar el desarrollo de los nuevos modelos hasta contar con mayores garantías de seguridad, pero sin detener una tecnología que, bien controlada, “puede permitirnos comprimir décadas de desarrollo en pocos años”.
El tiempo, advierten los especialistas, es clave para definir los límites y las reglas de la “coexistencia entre las máquinas y el ser humano”.
Si quieres conocer todos los antecedentes y las advertencias que están detrás de este debate, busca Punto por Punto en el canal de YouTube de El Mostrador.
