El matemático que dijo que no

Tristan Buckmaster, matemático de la Universidad de Nueva York, cuenta que OpenAI le ofreció un trato: firmar como único autor un artículo sobre un avance logrado por un modelo interno de la empresa, reconociendo en el texto que había sido el modelo el que lo resolvió. Dicho avance era el mismo que OpenAI anunció al mundo como la solución de uno de los problemas más difíciles de las matemáticas. La condición dejaba fuera de la autoría al colega con el que venía trabajando, porque era parte de la competencia. Buckmaster dijo que no.

Sébastien Bubeck, el investigador de OpenAI que negoció con él, indicó que nunca pidió sacar al otro autor de los créditos y que lo que dijo fue que sería más simple si éste no trabajara en Anthropic, porque le parecía impropio que un empleado de otra empresa firmara un resultado de OpenAI.

Todo esto es del martes 8 de septiembre, cuando OpenAI anunció que una inteligencia artificial suya resolvió uno de los siete problemas del milenio y uno de los más difíciles de las matemáticas. Y casi de inmediato, en vez de conversar sobre lo que eso significa para la humanidad, tuvimos esta pelea por quién llegó primero y quién firma. ¿Es más importante que un problema se resuelva, o quién lo resuelve?

Para mí esa es la parte preocupante, y de matemáticas tiene bien poco: es un problema de quién gobierna esto. ¿Quién responde por un resultado cuando quien lo calculó no es una persona? ¿Qué es plagio cuando una idea a medio terminar pasa por un servidor ajeno que además usé voluntariamente? ¿Y quién verifica lo que una empresa dice sobre sus propios datos, si nadie más puede mirarlos? ¿A quién benefician estas tecnologías y a quién pueden dañar? Las normas recién están empezando a hacerse esas preguntas, y las leyes, ni eso. Y esto va a volver a pasar.

Ahora, ¿qué es exactamente lo que se resolvió, y qué no? Las ecuaciones de Navier-Stokes describen cómo se mueven los fluidos: el agua, el aire, el humo. El enunciado oficial pide demostrar una de cuatro cosas: dos piden probar que un fluido sin nada que lo empuje nunca se rompe, y las otras dos, que uno con una fuerza externa sí puede romperse. OpenAI dice haber demostrado estas últimas, los incisos C y D, y como basta con cualquiera de los cuatro, por eso hablan de solución. Pero la pregunta del fluido que nadie empuja, la que a casi todos les importa, sigue tan abierta como estaba antes del anuncio. Eso sí, ojo: esa fuerza externa la construyeron a la medida de la demostración, no de ningún fluido real. El agua de verdad sigue sin romperse en ninguna parte (que sepamos).

Volvamos a Buckmaster, que es lo que de verdad me tiene escribiendo. El colega que no quiso borrar es Levent Alpöge, matemático que trabaja en Anthropic, con quien había demostrado, también con mucha ayuda de modelos de IA, que un problema hermano, las ecuaciones de Euler con fuerza, sí se rompe. Buckmaster sostiene que información sobre su avance llegó a OpenAI antes de que la empresa empezara, aunque escribe, textual, que no está acusando a nadie de nada. La empresa, que puso unos diez mil agentes de inteligencia artificial trabajando en paralelo unas 88 horas, reconoce que partió el 1 de septiembre tras oír un rumor que después entendió que se refería a ellos dos. Asegura que nadie vio el trabajo de los dos matemáticos antes de que fuera público. El día del anuncio, eso sí, escribió que no podía descartar que datos anonimizados del uso que ellos hicieron de sus productos hubieran ayudado a mejorar sus modelos. Dos días después esa frase ya no estaba: se investigó a sí misma, concluyó que los prompts de Buckmaster de los dos meses previos no pudieron influir, y dejó constancia en una nota al pie. Nadie de afuera puede revisar esa conclusión, porque los datos los tiene solo la empresa.

Terence Tao, medalla Fields, escribió el 3 de septiembre, cinco días antes del anuncio, retomando con sus palabras una advertencia de Hugo Duminil-Copin: extraer de forma automatizada e indiscriminada las soluciones de los problemas abiertos puede destruir el ecosistema del que iban a salir los matemáticos de la próxima generación. Y es que las ideas nuevas salen de los intentos que fallan, de esos que nadie publica ¿Quién va a querer perder años en un camino que un servidor recorre en 88 horas?

Ante esto, pienso que la pregunta correcta debería ser esta: si una IA hizo una parte sustantiva del cálculo, ¿va como coautora? Hoy la respuesta formal es que no: las normas de autoría que siguen miles de revistas dicen que una IA no puede firmar, porque no puede responder por lo que firma. En junio me preguntaron, en un panel en la Casa Central de la Universidad de Chile, para qué sirve la universidad si la IA ya lo sabe casi todo, y contesté algo parecido: la máquina puede proponer soluciones, pero quien responde, al final, es una persona. ¿Y no será justamente eso lo que nos hace humanos?

Y hablando de responder, ¿quién escribe esas reglas acá? Chile tiene un proyecto de ley de IA en el Senado y el Ministerio de Ciencia prepara una indicación que lo reescribe casi entero. El texto aprobado por la Cámara no obliga a ninguna empresa a acreditar ante un tercero con qué datos entrenó su modelo, ni le da a ninguna autoridad acceso a esos datos, y lo único que el Ministerio ha mostrado de su indicación son auditorías voluntarias. En Europa, en cambio, ya están obligados a publicar un resumen de con qué se entrenaron. Suena a burocracia, lo sé, pero es el mismo desafío que tenemos en cuántica: legislar sobre algo que todavía se está inventando. Y si no lo discutimos nosotros, lo van a decidir otros, y esos otros casi nunca están en el sur global.

Uso estas herramientas todos los días y aprendo a usarlas mejor. ¿Qué diferencia hay, al final, si una máquina se sube a hombros de gigantes con conocimiento que ya es público y resuelve un problema para la humanidad? Hablo en general, porque en este caso el trabajo del que corría el rumor todavía no era público. ¿Qué pasa si mañana propone una vacuna que llevamos décadas persiguiendo, o cómo medir la materia oscura, o junta por fin la gravedad con la cuántica? Pero creo que la conversación de fondo es mucho más profunda que esa pelea. Acá no hay dos partes parejas, y la desigualdad no es solo de recursos. Una parte supo que la otra estaba cerca y aceleró; la otra se enteró de segunda mano y tarde, sin poder ver qué hacían diez mil agentes. No estoy acusando a nadie, pero eso evidentemente cambia el juego. Y ojo que estos dos no son los más débiles de la fila: uno es profesor en Nueva York y el otro trabaja en una de esas mismas empresas. Si ellos quedan en desventaja, imagínense el resto. Es David contra Goliat, y se repite entre una universidad rica y una regional, y otra vez entre el norte y nosotros. Prefiero estar del lado de David, y David cambia según el problema.

Queda la pregunta grande, la que nos debería dar vueltas de noche. Si estamos pasando de la era del carbono a la era del silicio, ¿qué queda de lo humano? Yo a veces lo pienso así, aunque no sé si sea del todo cierto: ellas son un circuito eléctrico y nosotros uno biológico. ¿Dónde está exactamente la diferencia? Se me ocurre que en dos cosas: lo que nos duele, y que somos seres finitos que morimos. Sé que dejo fuera las emociones, y no es descuido: creo que una emoción se puede entrenar, y lo que no veo cómo se entrena es tener algo que perder. Un sistema que no puede sufrir no tiene nada en juego, no hay responsabilidad por el dolor ajeno, por dañar una existencia finita. Un ser que no se acaba no necesita elegir. Nosotros elegimos qué problema estudiar porque tenemos una sola vida para estudiarlo, y esa escasez no es un defecto de diseño: es de donde viene el sentido de la propia existencia.

Raya para la suma: no tengo la respuesta. Pero sí tengo la impresión de que estamos discutiendo el reglamento con el partido ya empezado. ¿Vamos a sentarnos en la mesa donde se deciden estas reglas, o vamos a esperar que nos las manden ya traducidas?