El falso dilema de la IA: entre utop-IA y distop-IA

La IA es una “tecnología de doble uso” que puede emplearse tanto para fines beneficiosos como para fines dañinos. En esos casos la característica esencial no está necesariamente en la tecnología misma, sino en el uso que se haga de ella.

Algunos ejemplos son la energía nuclear, la biotecnología y la edición genética. 

Con la inteligencia artificial ocurre algo parecido: de las mismas capacidades que hacen extraordinarios sus beneficios, también nacen y crecen sus riesgos. 

No siempre es posible ni conveniente controlar el riesgo prohibiendo la tecnología, porque hacerlo también eliminaría enormes beneficios. 

¿Debemos permitir o prohibir la IA? 

Pienso que claramente no hay que prohibirla, sino aprovecharla bien.

La cuestión pasa entonces a otra pregunta más compleja: 

¿Cómo conservamos sus enormes beneficios sin que sus propias capacidades causen daño ni se utilicen para causarlo?

En los últimos meses se han registrado avances, fallas y usos indebidos de la IA que han generado gran preocupación.  Por ejemplo, agentes de IA muy autónomos que escaparon del control humano; modelos de IA con “mejora recursiva” que pueden ampliar, mejorar o reorganizar por sí mismos sus capacidades;  la increíble velocidad de desarrollo de la IA se ha vuelto exponencial lo que hace más difícil su control. 

¿Qué elementos y riesgos inherentes a un determinado estado de avance de la IA, hacen que perdamos el control humano sobre ella?

En mi opinión, los riesgos más visibles actualmente son su grado de autonomía, su capacidad de mejora recursiva y el avance exponencial.

En cuanto a su uso indebido, hay personas que han recurrido a la IA para desarrollar armas biológicas y ataques cibernéticos. También la IA ya se ocupa en misiles, drones y municiones en distintos niveles en la guerra. En algunos casos, la IA elige el objetivo y opera sin intervención humana (algunos lo denominan autonomía letal), lo que aumenta los riesgos para la población civil. 

Creo que los usos indebidos son más fáciles de regular y castigar que los riesgos inherentes a un determinado nivel de desarrollo de la tecnología.

Las advertencias científicas sobre los riesgos de la IA vienen desde hace muchas décadas. Es imposible e irresponsable hacerse los desentendidos, ni decir que “no lo vimos venir”. Aquí van algunas.

En 1951, Alan Turing, el padre de la computación, planteó la posibilidad de que las máquinas inteligentes escaparan al control humano. En 2014, Stephen Hawking advirtió que una inteligencia artificial completa podría significar el fin de la humanidad. En 2015 miles de científicos pidieron que la IA se desarrollara de manera segura y beneficiosa.

El debate cambió de escala en 2022 con la irrupción de la inteligencia artificial generativa, que empezó a arrojar resultados sorprendentes. 

En marzo de 2023, científicos y empresarios tecnológicos solicitaron una pausa de seis meses en el desarrollo de los sistemas más potentes, porque era una “carrera fuera de control” para crear máquinas que ni siquiera sus propios desarrolladores podían comprender, predecir o controlar de manera fiable. No se pusieron de acuerdo y la pausa nunca ocurrió. O paran todos o ninguno. La competencia entre Estados Unidos y China añade aún más presión.

También en 2023 decenas de miles de científicos suscribieron una advertencia breve: “Mitigar el riesgo de extinción causado por la IA debe ser una prioridad mundial comparable a las pandemias y la guerra nuclear”.

Es difícil ser más explícito.

Luego vino la Declaración de Bletchley, suscrita por China, EEUU, UE, Gran Bretaña, Francia, India, Chile y otros numerosos países. Reconoció que la IA avanzada puede provocar daños “serios, incluso catastróficos”, tanto por su uso malicioso como por problemas de control. 

Más recientemente, científicos, premios Nobel y empresarios tecnológicos han pedido  que no se desarrolle una superinteligencia. Mencionan riesgos de pérdida de control, desplazamiento económico, concentración extrema del poder, amenazas a las libertades y, en último término, extinción humana. Bill Gates, que en 2023 exhibía un tono optimista, también ha endurecido sus advertencias en 2026 en “La turbulenta era de la IA ya está aquí. Las decisiones que tomemos ahora son críticas”

Quienes más advierten sobre los riesgos y piden regulaciones son precisamente quienes mejor conocen y se benefician de esta tecnología. Es inusual que las personas hagan declaraciones en contra de sus propios intereses.

¿Es razonable pensar que los creadores de la IA, miles de científicos, decenas de premios Nobel, grandes empresas tecnológicas, potencias mundiales, Naciones Unidas y hasta el Papa estén todos radicalmente equivocados? Parece improbable. Pero incluso si lo estuvieran, sería irresponsable ignorar sus advertencias.

El debate no debe plantearse entre quienes celebran la IA y quienes quieren detenerla. Ese es un falso dilema.

No tenemos que elegir entre utop-IA y distop-IA.

Podemos maravillarnos con una tecnología capaz de acelerar la ciencia, mejorar la medicina, aumentar la productividad y ampliar el conocimiento y, al mismo tiempo, exigir medidas y regulaciones efectivas para contener sus consecuencias más peligrosas.

Y si eso obliga a avanzar más lentamente, no estaremos renunciando al progreso. Solo estaremos procurando que el progreso no avance más rápido que nuestra capacidad para gobernarlo.

(Esta columna también ha utilizado IA para algunas fuentes de información y  edición).