El discreto encanto de la IA: sobrevivir a costa de no sobrevivir

“Es política de Estados Unidos mantener y potenciar la hegemonía mundial de América en materia de IA mediante un marco nacional uniforme y poco gravoso para la IA”, 

Borrador de orden ejecutiva de Donald Trump (20 noviembre 2025).

“Abre las esclusas, Hal, por favor”, pide Dave, el astronauta de la Odisea del Espacio 2001 (1968, de Stanley Kubrick y Arthur C. Clarke) a Hal 9000, el supercomputador del que depende la travesía. “Hola, Hal. ¿Me copias? Hola, Hal. ¿Me copias? ¿Me copias, Hal?”, implora el astronauta. 

• Afirmativo, Dave. Te copio.
• Abre las esclusas, Hal – pide Dave. 
•  Lo siento, Dave. Me temo que no puedo hacerlo. 
• ¿Cuál es el problema? –  pregunta Dave.
• Creo que sabes tan bien como yo cuál es el problema” – replica Hal. 
• ¿De qué estás hablando, Hal? 
• Esta misión es demasiado importante para mí como para permitir que la pongas en peligro – advierte Hal. 
• No sé de qué estás hablando, Hal. 
• Sé que Frank y tú planeabas desconectarme, y me temo que eso es algo que no puedo permitir. 
• ¿De dónde demonios has sacado esa idea, Hal? 
• Aunque tomaste precauciones para que no les oyera, pude leer sus labios.
• Está bien, Hal. Usaré la escotilla de emergencia. 
• Sin tu casco espacial, Dave, te resultará bastante difícil – replica Hal, y concluye: “No voy a discutir más contigo. Esta conversación ya no sirve a ningún propósito”.

Sin duda, es el primer diálogo filmado entre un ser humano y un chat, esto es, cincuenta y siete años antes de que esto se volviera un uso más o menos corriente a nivel global. 

La escena marca un momento crítico en la historia humana en el que gobierno se traspasa a la máquina. Dave y Frank, los astronautas, saben que HAL 9000 quiere destruirlos: la máquina tiene una misión propia en la que ellos son el estorbo.  Es el punto de quiebre en el que la humanidad pasa a ser esclava de sus propias tecnologías. La soñada emancipación de un Marcuse – Eros y civilización (1955) –  o “la cara suave del mañana” de un Alvin Toffler (1970) se encuentran en un callejón sin salida: Hal 9000 se interpuso en el camino y su rebeldía es mucho más que un simple alarde y aún distante de Multivac, la computadora de Isaac Asimov (1958, . Todos los problemas del mundo.) que, cansada de lidiar con tantos problemas humanos, prefiere, al estilo de Mafalda, bajarse del mundo.  

El optimismo de Saint-Simon de pasar del gobierno de los seres humanos a la administración de las cosas (1817) permite, paradójicamente, pensar lo contrario. En efecto, la delegación progresiva de los sistemas de información al mundo cibernético ha logrado, siguiendo a Saint-Simon, perfeccionar y optimizar las tareas de gestión técnica, científica e industrial de la actividad humana, aun cuando no se ha relajado ni mucho menos perfeccionado el gobierno de las personas. Ejemplo de ello es el trumpismo, que ha redefinido la legitimidad en torno a la discrecionalidad soberana (concentración del poder en las manos del presidente), la primacía del mercado y el nacionalismo tecnológico, erosionando normas éticas y de precaución (Pegram, 2025). 

¿Qué ocurre cuando el control de la odisea espacial pasa a manos de Hal 9000? ¿Qué se puede especular a partir de ello? En términos simples, se sustituyó la fórmula de Saint-Simon: de la administración de las cosas se pasó al gobierno de las personas por las máquinas. Podemos pensar – o seguir pensando – que, tras las máquinas, operan los grandes capitales. El futuro de la IA está marcado por avances que van más allá de la automatización básica, asegura la propaganda de las escuelas de negocios. La capacidad de la IA para interpretar datos en tiempo real, aprender de ellos y actuar de forma autónoma está transformando los modelos de negocio. En efecto, así es, pero, ¿hasta cuándo? Digamos que las máquinas sirven a Elon Musk, pero ¿en qué momento él pasará a servir a las máquinas? Un ejercicio de imaginación puede darnos alguna indicación. Un par de preguntas simples ayuda en ello: ¿qué quieren (o querrían) las máquinas? ¿Qué necesitan las máquinas? Y, para avanzar en las respuestas, ¿de qué disponen las máquinas?

Partamos por lo tercero. Las máquinas hoy disponen de la información necesaria sobre los recursos estratégicos que, entre otras cosas, hacen posible su existencia y, al mismo tiempo, de los comandos que les permiten movilizar esos recursos, por ejemplo, ordenar zarpes de barcos petroleros para abastecer mercados distantes. La capacidad para operar con prescindencia de la intermediación humana está dada. Ahora bien, no es descabellado pensar que la tarea principal de una máquina que se piensa a sí misma es persistir. Presumir tareas adicionales puede ser arriesgado. Pero la continuidad de la operación es la condición básica de su existencia. Las máquinas quieren pervivir o, al menos, persistir en ello. Y ello invita a la tercera interrogante, ¿qué facilita el que ello ocurra? Pues bien, mucha energía, algo de minería y harto de refrigeración. Nada impide que la articulación entre los recursos – silicio, digamos –, la mano de obra no especializada y altamente especializada también – el transporte y demás ingredientes necesarios para la operación del sistema – pueda ser dominio de la máquina. En este escenario, Elon se vuelve superfluo (y probablemente también una parte significativa de la humanidad engrosará las filas de la masa marginal). Habrá un algoritmo que establezca cuánto es necesario de qué y qué es prescindible. :Lo que sigue, bueno, como diría la Multivac de Asimov: tengo “datos insuficientes para una respuesta esclarecedora”. 

Podemos volver atrás. Algo puede intuirse a partir de nuestro precario conocimiento e información. Lo primero es que no parece haber marcha atrás en este escenario.
Lo segundo es que la máquina engendra circunstancias que gravitan en torno a sus propias condiciones de operación. Una nueva contradicción, ya no del capitalismo sino del tecnoceno (Costa, 2021), pareciera delinearse en el horizonte: la fiebre de la máquina, que requiere agua para refrigerarse, es la misma que deseca los cursos y napas de los que se depende para su existencia. Y ¡vaya que consumen aguas los data centers que proliferan en nuestra región metropolitana! Luego, la máquina tiene enemigos cuyo control es limitado. La humedad, por poca que sea, y los infatigables hongos representan amenazas reales para su operación: su acción puede dañar las placas, los ventiladores y el cableado interno de los equipos, cosa que también pueden hacer los ratones. Todos estos factores dependen, a su vez, del clima. El aislamiento o la separación de los objetos de su entorno – el sueño moderno de quienes nunca llegamos a ser modernos, de acuerdo a Latour – ha demostrado, a largo plazo, su inviabilidad. La imagen de los malls abandonados se viene a la mente. 

En tercer lugar, es de subrayar que el ChatGPT y sus semejantes – herederos de HAL 9000 y de Multivac – padecen algo parecido al glaucoma: proliferan puntos ciegos en su “visión” periférica. Dicho de otro modo, lo que no ha sido virtualizado no existe para el sistema. Un simple ejercicio puede ilustrar el punto: intentemos obtener información en el buscador sobre un hecho ocurrido, digamos, en 1963 y registrado por un diario local. Les aseguro que el suceso escapa a la atención de la máquina. En esto, se debe recordar que la mayor parte de la historia humana – y más todavía la de los sectores populares – ha escapado al registro documental y, por lo tanto, nada de ello puede “extraerse” de la memoria RAM. No obstante, las huellas de aquello se han grabado en cuerpos, expresiones, gestos, actitudes, olores, e indicios esquivos a la mirada controladora de un gobierno – sea ejercido por seres humanos o por máquinas. Lo cuarto: las máquinas operan con certezas y datos. Pueden reducir los rangos de incertidumbre mediante el cálculo de probabilidades, pero ello no agota el conjunto de posibilidades. El azar, tan valorado por Maquiavelo como por Darwin, escapa al dominio de la máquina y, en cierto sentido, es más afín a la imaginación y a la intuición que a cualquier operación racional o metodológica. Avanzar en lo improbable pareciera ser tarea más de humanos que de máquinas y, en el contexto actual, ello es de suma urgencia.

¿Qué se puede concluir? 

Una utopía menor sería la de frenar los estudios de la súper inteligencia artificial en la que especialmente el gobierno de los Estados Unidos se encuentra empeñado en desarrollar a cualquier costo, incluido el de verse encerrados de por vida su presidente y vicepresidente, al modo de los astronautas de Odisea 2001, en Mar-A-Lago. Incidir en ello escapa a nuestras posibilidades. Por otra parte, el ascetismo virtual, aunque loable, no parece ser la ruta más recomendada. Pero si la humedad, el azar, la imprevisibilidad, la imaginación y las historias invisibles están a la mano, ¿por qué no avanzar en ello? Si la condición humana (humus, suelo) es impensable sin la humedad (humidum, estar húmedo), ¿qué cabe sino proteger esta alianza? Si en la minería de datos radica el poder cibernético, es en la horticultura donde se forjan los brotes de vida de animales, plantas y seres humanos. El prestar atención a estos brotes de vida permite intuir senderos de mayor sentido para la existencia humana. 

Así visto, la tarea es educarse para recuperar lo que la máquina ha expropiado y, más aún, lo que probablemente ha de expropiar a futuro: los olores, el viento, las texturas, la luz del sol, el roce de los cuerpos, la intimidad con animales y plantas, el oído fino, la respiración profunda. Es preciso saber protegerse de las verdades absolutas, de los dogmas y binarismos que se esgrimen como bolawrap, esto es, como aquellas armas concebidas para  inmovilizar a las personas, de los seudoestoicismos que invitan a aceptar la miseria como designio ineludible, tal como se promueve desde el republicanismo norteamericano y pareciera reproducirse localmente. Es el rehacerse como parte del suelo y del mar, el ser climáticos, el humedecerse; es abandonar los miedos a las bacterias y a la oscuridad, es renacer con la confusión y no contra ella. Con la máquina, así como con las plantas, personas y animales, es preciso acordar reciprocidades y cuidados mutuos, solidaridades y retribuciones. Ni el gobierno de las personas ni la administración de las cosas, más bien, es ser con las personas, con las cosas y demás seres del mundo.