¿El apocalipsis sirve para vender la IA?

Algo curioso ocurre con la inteligencia artificial: quienes más trabajan para hacerla poderosa son también quienes más nos advierten de que podría volverse muy peligrosa. Hablan de pérdida del control humano, de máquinas superiores a nosotros e incluso de riesgos existenciales para la humanidad.

Durante décadas se pensó que una inteligencia superior a la humana tardaría mucho en llegar. Habría años para comprenderla, domesticarla y ponerle reglas. Pero alrededor de 2012 y, sobre todo, desde 2022, los avances se aceleraron de manera espectacular. Y persiste algo inquietante: ni siquiera quienes construyen estos sistemas comprenden íntegramente todo lo que sucede dentro de esa famosa “caja negra”.

Algunos científicos se alarmaron y abandonaron sus empresas para hablar con mayor libertad. Nadie quiere pasar a la historia como el Oppenheimer de una bomba que piensa.

Sam Altman, Dario Amodei, Elon Musk y otros líderes tecnológicos comenzaron entonces a solicitar regulación, auditorías y controles para los sistemas más poderosos.

Entonces los suspicaces levantaron una ceja y esbozaron una sonrisa pícara.

Porque resulta curioso que quienes participan en una carrera tecnológica feroz, multimillonaria y, hasta ahora, muy libre de reglas pidan que aparezca un árbitro, que entre a la cancha, les quite la pelota y les imponga reglas.

¿No sería más lógico que prefirieran el laissez-faire y dejaran a la famosa mano invisible del mercado controlar sus instintos desbocados?

Quizás realmente los mueve la seguridad. Es muy posible. Sigo sus entrevistas y he comentado que, a veces, parecen niños agobiados con un juguete que les quedó muy grande y les cuesta controlarlo. Científicos, universidades, organismos internacionales y líderes religiosos han formulado advertencias legítimas sobre la dignidad humana, el empleo, la democracia, las libertades y la concentración de la riqueza.

Pero tratándose de las grandes compañías de IA, la suspicacia permite plantearse cuatro preguntas adicionales.

Primera suspicacia: ¿el apocalipsis también vende?
Si una compañía afirma que su tecnología algún día podría superar al ser humano y dominar procesos decisivos de nuestra civilización, está diciendo indirectamente algo extraordinariamente atractivo:

“Nuestra criatura es tan poderosa que hasta nosotros mismos le tenemos miedo”.

Difícil imaginar una campaña publicitaria más impresionante.

El temor genera titulares, atención, inversiones y valoraciones empresariales. Y una cosa no excluye a la otra: un riesgo puede ser real y, al mismo tiempo, comercialmente útil.

El “Y2K” ofrece un precedente interesante. A fines de los años noventa se temió que muchos computadores, al cambiar sus marcadores de fecha del año “99” al “00”, confundieran el año 2000 con 1900 y provocaran graves fallas. Gobiernos y empresas gastaron dinerales revisando sistemas, contratando consultores y renovando equipos.

Llegó la medianoche del 31 de diciembre de 1999. Brindamos, lanzamos fuegos artificiales y esperamos.

Los aviones no cayeron, los bancos no colapsaron y las centrales eléctricas continuaron funcionando.

¿El peligro había sido exagerado o funcionó extraordinariamente bien la prevención? Probablemente algo de ambas cosas.

Esa es la maravillosa ventaja del profeta: si ocurre la catástrofe, tenía razón; si no ocurre, puede decir que sus advertencias consiguieron evitarla.

Segunda suspicacia: la IA devora capital, chips, centros de datos, electricidad y agua. Las empresas IA necesitan inversiones gigantescas y los inversionistas, naturalmente, no ponen miles de millones por amor al conocimiento humano.

Quieren retornos. ¡Pronto!

Y probablemente, de vez en cuando, preguntan: “¿Sam… cuándo?”.

Mientras más extraordinaria parezca la tecnología, más fácil resulta justificar valoraciones extraordinarias, captar inversiones y pedir paciencia para esperar las utilidades. También las regulaciones y controles pueden ofrecer a los líderes de la IA una justificación para que los inversionistas tengan paciencia. “El negocio irá más lento, amigos, no por nuestra culpa, sino por las regulaciones gubernamentales.”

Tercera suspicacia: la regulación puede construir murallas.
Es lo que se llama “captura regulatoria”, que ocurre cuando se regula una industria de interés general, pero termina adoptando decisiones que favorecen desproporcionadamente a las mismas empresas que debe supervisar.

Una regulación exigente requiere auditorías, abogados, ingenieros, licencias, sistemas de seguridad, compliance y millones de dólares.

¿Quién puede pagarlos? Los gigantes.

Para una pequeña empresa emergente de IA, esas exigencias pueden convertirse en una barrera formidable. Goliat puede convivir perfectamente con el regulador, pero los cientos de pequeños David, bastante menos, probablemente serán irrelevantes o morirán en el intento.

Paradójicamente, entonces, las mismas reglas destinadas a protegernos podrían terminar fortaleciendo al oligopolio de quienes ya dominan el negocio.

Cuarto (no suspicacia, sino ventaja): la regulación, en general, otorga seguridad jurídica y estabilidad a los negocios. Una industria riesgosa pero regulada conoce mejor qué está permitido, qué está prohibido y qué controles debe cumplir.

Si. Los negocios regulados probablemente reducen sus márgenes, pero aumentan su seguridad jurídica y su sostenibilidad en el tiempo, y disminuyen los riesgos de responsabilidad y sanciones para la compañía, los directores y los ejecutivos si llega a causarse un daño, sin mala fe y habiendo seguido las reglas.

Así que quizá los gigantes tecnológicos tengan excelentes razones para pedir reglas: algunas nobles, como la seguridad; otras para captar mayor inversión; otras para disminuir su responsabilidad; y otras comerciales.

Nada de eso demuestra que estén exagerando los peligros de la inteligencia artificial. Pero tampoco deberíamos ser ingenuos. Porque en esta extraña industria de la IA puede ocurrir algo fascinante: el apocalipsis puede ser, simultáneamente, una advertencia sincera, una necesidad y captura regulatoria, un magnífico argumento de ventas e inversiones, y una protección oligopólica para los grandes que ya se consolidaron en el negocio de la IA.