Mucha inteligencia y poca sabiduría

La ciencia sin conciencia no es más que la ruina del alma.

François Rabelais (1532)

Hay una paradoja que acompaña a la civilización desde sus orígenes: cada vez que el ser humano aumenta su poder, debe crecer también su responsabilidad.

Descubrimos el fuego antes de aprender a dominarlo. Inventamos la pólvora mucho antes de escribir las reglas de la guerra. Liberamos la energía del átomo antes de comprender las consecuencias de Hiroshima. Casi siempre, la historia avanza en el mismo orden: primero aparecen la técnica y el poder; después llegan —no siempre a tiempo— la contención ética, la prudencia, la sabiduría y la gobernanza.

Con la inteligencia artificial todavía estamos a tiempo de lograr que ocurra lo mismo. Esperemos  que no sea demasiado tarde. Nunca una tecnología había evolucionado con semejante velocidad. 

La IA ha comenzado a transformar la medicina, la educación, la investigación científica, la economía, la industria, la defensa y la creación intelectual.  En ese sentido, no soy un enemigo de la IA. Al contrario, los beneficios que puede aportar a la humanidad son enormes si se administran bien y se contienen la ambición humana, la malicia y los riesgos que estas conllevan.

Mientras su capacidad crece exponencialmente, nuestra conversación pública sigue girando en torno a cuestiones pequeñas o banales: si un estudiante podrá hacer sus tareas con ChatGPT, si la IA puede mentir, si la gente puede compartir sus problemas personales con ella o si un computador escribirá autónomamente mejores informes que un abogado. Eso es como discutir de qué color será el agua cuando el mayor tsunami tecnológico de la historia nos reviente por la espalda.

El riesgo ya no es solo económico. Ni laboral. Ni siquiera político. Cada vez más expertos consideran seriamente un riesgo existencial para la especie humana. A diario se informa de nuevos riesgos. No se trata de un temor propio de la ciencia ficción. Investigadores y científicos como Geoffrey Hinton y Stephen Hawking, empresarios de la IA como Elon Musk, Sam Altman y Dario Amodei, e incluso desde otras perspectivas, los papas Francisco y León XIV han advertido que la inteligencia artificial plantea riesgos inéditos.

No todos describen el mismo desenlace, pero coinciden en un punto: estamos entrando en un territorio en el que la experiencia histórica deja de servir de guía. ¿Qué esperamos? ¿Cuánto tiempo más seguiremos actuando como si nada de esto nos concerniera personalmente, a nuestra familia, a la comunidad y al país? Las graves amenazas de la IA se ciernen sobre cada uno. Es como si viniera el tsunami y, en vez de organizarnos para enfrentarlo, huir o mitigar sus efectos, le diéramos la espalda, mirando hacia la playa, pensando que quizás llegará alguien que nos salvará. Es más cómodo negar el peligro para evitar la angustia que enfrentarlo. Pero negarlo lo vuelve mucho más peligroso. Creo preferible conocer, hablar, crear conciencia y opinión, impulsar prevenciones, antes que morir ahogados por el tsunami.

Las grandes potencias ya comprendieron que la inteligencia artificial no será simplemente una industria más. Será la infraestructura sobre la que descansará buena parte del poder económico, científico y militar del siglo XXI. La competencia ya no consiste solo en fabricar mejores modelos de IA. Consiste en escribir las reglas del mundo que viene. No es casualidad que Xi Jinping, al inaugurar hace pocos días la Conferencia Mundial de Inteligencia Artificial de Shanghái, haya puesto el acento no en lo técnico de la IA, sino en la gobernanza bajo la que esta debe producirse, así como en los límites y principios que la deben regir. 

Porque la pregunta es: ¿Quién gobernará la inteligencia artificial? ¿Cuáles serán sus límites, principios y reglas fundamentales?

Durante siglos la filosofía discutió cómo debía vivir el ser humano. Hoy esa vieja pregunta adquiere una forma nueva: ¿Qué principios deben orientar las decisiones de las inteligencias creadas por el propio ser humano que pronto lo superarán?

Hace casi cincuenta años, Hans Jonas advirtió que el progreso técnico había multiplicado nuestro poder mucho más rápido que nuestra responsabilidad. Su intuición fue extraordinaria: cuanto mayor es el poder de una civilización, mayor debe ser su obligación de prever las consecuencias de sus actos. 

Nunca esa advertencia había parecido tan actual.

Quizás el problema de nuestra época no sea la falta ni el exceso de inteligencia, sino la escasez de sabiduría. Desde luego, la IA no tiene sabiduría. Tampoco prudencia.

La inteligencia pregunta:

¿Cómo puedo hacerlo? 

La sabiduría responde:

¿Es correcto hacerlo? 

La diferencia entre una civilización poderosa y una gran civilización es la sabiduría, la prudencia que la guían, porque eso les permite sobrevivir.

Resulta irónico que la humanidad esté dedicando millones de millones de dólares a construir máquinas capaces de pensar igual y mejor que todos nosotros y apenas unos minutos a discutir cómo impedir que las mismas máquinas terminen matándonos o reflejando las peores pasiones reales de nuestra inteligencia humana: la ambición sin límites, el deseo de dominio, la manipulación de la verdad o la sustitución de la libertad y la calidad de vida por la eficiencia.

Porque la inteligencia sí cambiará el mundo.

Pero solo la sabiduría y la prudencia podrán impedir que terminemos perdiéndolo.

Quizás dentro de cincuenta años, si todavía existimos, nadie recuerde cuál fue el modelo de IA más poderoso, sino si nuestra generación, que aprendió a fabricar una inteligencia más potente que todos juntos, fue también capaz de conservar virtudes infinitamente más antiguas y potentes: la sabiduría y la prudencia.

Porque la inteligencia combinada con la técnica, tarde o temprano, nos permite hacer casi cualquier cosa. Pero, paradójicamente, hoy podemos ver que el futuro dependerá menos de la inteligencia que logremos construir que de la sabiduría que nosotros seamos capaces de conservar para contener el riesgo existencial.