Harari y la inteligencia artificial: para 2028 “podríamos haber cruzado algunos umbrales críticos”

Una conversación de más de una hora sostuvo el historiador israelí Yuval Noah Harari, uno de los intelectuales más influyentes en el mundo hoy por hoy, con la editora en jefe de The Economist, Zanny Minton Beddoes.

En el diálogo, Harari, autor de los libros Sapiens, Homo Deus y Nexus, realizó una serie de críticas al mayor multimillonario del mundo, Elon Musk (que semanas antes fue entrevistado en el mismo espacio), y advirtió de los peligros relativo a la inteligencia artificial (IA).

Un futuro negro 

Respecto del crecimiento de la industria de la IA, Harari fue claro: “Si continuamos con el ritmo acelerado actual de la carrera de la IA, sí, este será el resultado: En 10 años, las IAs tomarán el control, pero esto no es inevitable. Todavía tenemos el control en 2026, y es nuestra decisión qué hacer ahora. Y eso es crucial. Todo el mundo se da cuenta de que es muy peligroso dar a la IA el control de las finanzas, dar a la IA el control de la guerra, pero todos, como Elon Musk, nos están diciendo: ‘Pero esto es inevitable. ¿Qué quieren de mí? Solo soy la persona más rica del mundo, a cargo de una de las corporaciones de IA más grandes del mundo. ¿Qué puedo hacer?’. La narrativa de la inevitabilidad es una narrativa de no tener ninguna responsabilidad”.

En ese sentido, argumentó que en el diálogo entre Musk y Beddoes existe una contradicción en lo que argumenta el primero, “porque él dice que en 10 años la IA tomará el control del mundo y luego se preocupa muchísimo porque la inmigración musulmana provoque una guerra civil en Gran Bretaña en 20 años. Esto no tiene sentido. Si las IAs toman el control del planeta en 10 años, ¿por qué te preocupas tanto por cosas que tendrán un efecto cuando no tenemos idea de cómo será el planeta?”.

Sin embargo, coincidió con una de las predicciones de Musk: “que el dinero desaparecerá en 10 años. Y creo que tiene razón, porque las IAs tomarán el control del sistema financiero”, pero criticó la solución que el billonario (o trillonario a estas alturas) propuso como solución para el desempleo que van a generar los robots y la inteligencia artificial: “que el gobierno simplemente emita cheques para todo el mundo. Y cuando tú lo cuestionaste y dijiste: ‘¿Qué pasa con la inflación?’, él dice: ‘No habrá inflación. Habrá deflación, porque habrá muchísimos más productos y servicios producidos por la IA’. Si este es el caso, ¿por qué necesitas ahorrar dinero hoy?”, comentó a la periodista.

Finanzas vía IA 

Siempre en el tema económico, Harari aseveró que “la historia financiera del mundo es la historia de cómo los seres humanos inventan instrumentos financieros cada vez más sofisticados para generar confianza entre ellos. Ahora bien, las invenciones financieras de la humanidad se volvieron cada vez más sofisticadas, de modo que hoy muy pocas personas entienden el sistema financiero. Necesitas comprender enormes cantidades de datos y funciones matemáticas muy complejas para entender el mercado de bonos. Ahora es algo con lo que nuestro cerebro tiene que luchar. Para las IAs, es fácil. Así, cada vez más, los seres humanos darán a las IAs el control de las decisiones financieras y las IAs idearán nuevos instrumentos financieros mucho más sofisticados que los bonos y las acciones y nosotros ya no podremos entenderlos, del mismo modo que las vacas no entienden los cheques ni las acciones, aunque estas cosas controlan sus vidas”.

Por cierto, como se lo hizo ver la editora de The Economist, para que las personas descansen todas sus decisiones en la IA se requerirá que confíen plenamente en ella. Ante ello, el historiador precisó que “el activo más importante del mundo es la confianza. Es más importante que el petróleo, o el dinero, o electricidad, o chips, o cualquier otra cosa: confianza, y la pregunta es: ¿Qué sucederá con la confianza? Un escenario probable es que la confianza migre de los seres humanos a las IAs. Las personas dejarán de confiar en otros seres humanos y, en cambio, confiarán únicamente en las IAs. Ya vemos que está sucediendo en el sistema financiero con las criptomonedas. No todas las criptomonedas, pero muchas de ellas se basan en la idea de que ‘no creo en estos banqueros humanos. Son parte del Estado profundo, de la élite, de lo que sea, pero sí confío en los algoritmos que gestionan las criptomonedas’, porque las criptomonedas son básicamente dinero de IA”.

Harari coincidió también con la crítica de Elon Musk en orden a que mucha gente odia a los medios de comunicación y ello lo explicó, en parte, en que la gente sigue consumiendo noticias y “¿de dónde obtienen sus noticias? De los algoritmos. Las mismas personas que no confían en ti confían mucho en el algoritmo que gestiona su flujo de redes sociales, así que la confianza no se evaporó sin más: se trasladó de los seres humanos a las IAs, y esto está sucediendo ahora mismo. No es una predicción sobre el futuro”, dijo a Beddoes.

También te puede interesar:

Amores robóticas

Otro de los tópicos de la entrevista fue el vínculo íntimo entre la IA y los humanos, tal como lo predecía la película Her (2013): “Hay un número creciente de personas que no solo tienen amigos de IA, sino novios y novias de IA, y están convencidas de que son entidades sintientes, conscientes, capaces de sentir. Hay muchas maneras de generar confianza y la forma más poderosa es mediante una relación. No confiamos en nadie en el mundo tanto como confiamos en las personas con quienes construimos una relación personal. Hasta hoy, en la historia, este poderoso mecanismo no estaba realmente disponible para las instituciones políticas, financieras y religiosas, porque es difícil fabricarlo en masa. Es difícil para un Hitler o un Stalin construir una verdadera relación personal con cada persona de la Unión Soviética. Puedes dar un discurso por radio y obligar a todo el mundo a escucharlo, pero esa no es una relación personal como la que tienen con su madre”.

Sin embargo, especificó, “la IA hace posible, por primera vez en la historia, producir intimidad en masa. Puedes tener millones de IAs trabajando como parte de una red, al servicio de alguien o a su propio servicio, construyendo relaciones personales con una persona a la vez, convirtiéndose en su mejor amigo, convirtiéndose en su novio, convirtiéndose en su novia, y luego utilizando ese poder de la intimidad para convencerlas de cualquier interés político o comercial que quieran”.

También te puede interesar:

Deep fakes

En ese sentido, agregó que “las IAs se están volviendo tan buenas en las relaciones porque acumulan enormes cantidades de información sobre nosotros individualmente, así que saben cosas sobre nosotros que nosotros olvidamos, o que nuestra madre o nuestro esposo nunca siquiera supieron. Y dominan el lenguaje, que es el principal medio para la comunicación y la construcción de relaciones” luego de lo cual relató que personas conocidas le enviaron videos de él hablando sobre el futuro, pero al verlo no le pareció nunca haber dicho lo que veía en su pantalla: “me tomó un minuto y medio, un minuto y medio, para concluir: ‘Ese no soy yo’. Mis hermanas me enviaron este video. Mis hermanas me conocen desde hace 50 años y percibieron que algo no estaba bien, pero no estaban seguras”.

Por supuesto, como él mismo lo admite “estoy en una posición expuesta, porque hay muchísimo de mí en internet, así es que para la IA es fácil saber cómo sueno y cuáles son las ideas de las que hablo, pero esto pronto le sucederá a todo el mundo”.

Los riesgos del futuro

En función de las próximas elecciones presidenciales de Estados Unidos, en poco más de dos años, señaló que el desarrollo de la IA es tan acelerado, que “para noviembre de 2028 podríamos haber cruzado algunos umbrales críticos. No quiero decirle a la gente por quién votar, porque no conozco a los candidatos específicos de cada distrito del Senado, pero las preguntas cruciales que hay que hacerles a los posibles candidatos, mucho más de lo que se les pregunta sobre la economía, la inmigración o la política exterior, son: ¿Cuál es su postura sobre la IA? ¿Apoyaría una prohibición de otorgar derechos legales a las IAs? ¿Intentaría frenar el ritmo acelerado de las IAs? ¿Qué piensa de las empresas que venden novios de IA a niños de diez años? ¿Cómo va a impedirlo legalmente si votamos por usted? Este es el momento crucial para hacer estas preguntas, porque podría ser demasiado tarde en 2028, y ciertamente será demasiado tarde en 2036”.

Por ende, señaló que entre las cosas urgentes que los políticos deberían hacer ahora ya se encuentran dictar “una prohibición de la calidad de persona para la IA y una prohibición para que la IA imite, suplante, finja ser un ser humano o finja ser consciente”.

Revise la entrevista a Harari (en inglés)

Revise la entrevista a Elon Musk (en inglés)