La inteligencia artificial: ¿oportunidad o amenaza?

Mi experiencia actual con la inteligencia artificial (IA) es la que se tiene con un estudiante que realiza su tesis de título o grado. En este caso, un estudiante trabajador, atrevido, algo ingenuo; al que hay que corregirle los datos, el análisis, las conclusiones apresuradas. Mas, a veces, el o la estudiante resulta brillante, y solo queda darle libertad, entregarle recomendaciones asertivas y no perturbar su creatividad. 

La IA progresará inevitablemente, y llegará a ser, o aparentar ser, ese estudiante brillante; ingenua y atrevida, pero más certera en sus conclusiones. La IA, sin embargo, no entiende nada de lo que hace, en el más amplio sentido del entendimiento humano. Se basa en un conjunto de instrucciones complejas con las cuales predice palabras que siguen a otras y que expresan ideas, codificadas en números binarios. Su conocimiento deriva de la capacidad de los computadores de procesar millones de millones de registros en un tiempo mínimo e incomparable a la escala humana y de modelos de procesamiento denominados redes neuronales.

Su capacidad de predicción está construida sobre una enciclopedia gigantesca de frases (ideas) comprimidas y codificadas, de la cual toma muestras que evalúa, y de reglas sintácticas para reconstruir las frases como oraciones con sentido. 

Todo ello es instruccional; no deliberativo, aunque incluya una clave atencional; causal, aunque haya participación de las probabilidades. No hay un razonamiento en el sentido humano, con capacidad difusa de adaptación y la posibilidad de apartar el discurso de la pura lógica matemática.

Nada de ello significa limitaciones definitivas, desde luego. En la medida que la tecnología del “hardware” (los procesadores) progresa y las habilidades del “software” (la programación) aumentan, la capacidad de la IA seguirá multiplicándose. Aun cuando esta podrá “no entender” lo que hace. Luego, hay que esperar funcionalidades todavía más sorprendentes en cuestiones que quizás desafiarán nuestra autoridad como especie.

No sabemos de la posibilidad efectiva o no de encontrarnos con algunas manifestaciones, por ejemplo, de empatía o de sabiduría, sustentadas en una especie de conciencia primitiva, puesto que aún no conocemos el origen y funcionamiento de aquellas facultades humanas y, así, no tenemos idea de cuán vedadas estarían para las máquinas.

¿Cuál será entonces nuestra ventaja como especie humana? Pues, que nosotros sí entendemos lo que la IA hace. Y somos nosotros quienes le damos su potencia y el crédito. Podrá parecer un estudiante brillante, pero requiere supervisión cercana; un ser humano atento a distinguir lo verdadero de lo falso, los sesgos, y que haga prevalecer los propios valores por sobre los consejos de la máquina, en las decisiones que deriven. En lo global, se requerirá un control multilateral que coarte a los países, multinacionales y terroristas, de su uso inicuo, de los riesgos de utilizar la IA con fines bélicos o de segregación social.

Lo relevante en la escala individual, persona a persona, es difundir cómo se construye la IA en los computadores, para develar dónde están las posibilidades de corromperla, y de convertirla en un instrumento de propagación ideológica, que domine nuestro pensamiento. 

La experiencia es que las personas tenemos la capacidad de interpelar las afirmaciones de la IA, ante lo cual ella responde no como un interlocutor tozudo y arrogante insistiendo en sus dichos sin autocrítica; al revés, reacciona asimilando la interpelación como una alternativa no considerada en su primera aproximación.

Ello no ocurre porque “piense” o “medite”. Ocurre por la misma razón que la llevó a su primera respuesta, a aquella que hemos objetado: con nuestra interpelación le hemos entregado nuevas palabras que la llevan a explorar otros espacios de frases y relaciones –otros “embedding” y marcadores, en la jerga del área–. En la medida que encuentre puentes entre su primer discurso y el que le provocamos después, podrá su sistema de generación de palabras llevarla a defender algunos puntos iniciales. Si no, cambiará, como a veces hemos visto, de un pensamiento al otro, encontrándonos la razón siempre.

El relato anterior nos debe hacer tomar conciencia de que la IA responde a nuestros intereses, y visiones, si no hay un tercero manipulándola. Tampoco quisiéramos que fuera siempre tan obediente o lisonjera, aunque esperaríamos igualmente que no se aleje demasiado de esa manera de dialogar, puesto que no deseamos un interlocutor agresivo, que se trabe en una contienda con nosotros –aunque podría interesarnos que sea así, por ejemplo, cuando nos ayude a preparar un debate–.

La IA es una oportunidad de la cual hay que tomar ventaja. Lejos debiera estar el pensamiento de rechazar esta tecnología –¡de prohibirla, por ejemplo!–; porque, por otra parte, en la historia nunca ha sido posible oponerse al avance del conocimiento y, por lo tanto, la tarea es más bien preocuparnos de que se halle bajo nuestro control.

En escuelas y universidades está el desafío de integrar esta tecnología a la formación, en lo técnico y en lo ético. No habrá área de la actividad humana en que la IA no esté presente y por ello el conocimiento de esta debe ser parte de la educación. No parece que todavía sepamos cómo hacerlo y es bueno que empecemos a discurrirlo.

En primer lugar, la IA debe dejar de ser una caja negra y sus entrañas deben quedar expuestas con todo detalle, para todo el mundo. Es una manera de desmitificarla, de mostrar qué es realmente, cuál es su autonomía real; a la vez, reposicionar al ser humano en cómo se plantea frente a su uso. 

La moraleja es que, como todo conocimiento y tecnología, tiene el potencial del bien y del mal, para decirlo dicotómicamente. No es la IA la llamada a elegir, evidentemente. 

(Nota: este artículo ha sido escrito sin apoyo –a escondidas– de la IA).