jueves, 6 de agosto de 2020 Actualizado a las 22:04

CULTURA

Cultura - El Mostrador

La ética de lo complejo en la era digital

por 2 junio, 2020

La ética de lo complejo en la era digital

Unsplash/Joshua Sortino, CC BY-SA

Es difícil concebir una ética eficaz que no se alimente de las ciencias sociales y analíticas. Situaciones como las epidemias ponen de manifiesto la necesidad de basar la acción en conocimiento científico y fundamentación ética. No es suficiente con que la ética reflexione sobre la ciencia como objeto, la ciencia tiene que formar parte de la ética porque le ayuda a comprender el mundo. Frente a la actual labor de la ética como crítica de la tecnología hay que promover una ética constructiva, que promueva un imaginario capaz de conducir el desarrollo tecnológico hacia una humanidad mejorada.
  • Compartir
  • Twittear
  • Compartir
  • Imprimir
  • Enviar por mail
  • Rectificar

La ética ha sido primordial desde los albores de nuestra civilización. Ha guiado el comportamiento humano y el desarrollo cultural. Al principio estaba relacionada con las divinidades. Más tarde adquirió su dimensión política y se universalizó. Sin embargo, la fragmentación política y religiosa del mundo derivó en un mosaico de éticas. La Ilustración trajo de vuelta la universalidad de la ética e introdujo una revolución: esta debía girar en torno al hombre. Sin embargo, este fue el comienzo de su disolución en la postmodernidad, al individualizarse.

El desarrollo tecnológico ha configurado el mapa socioeconómico mundial. Internet nos ha hiperconectado y los flujos de información tienen impacto en todos los sectores y niveles. La sociedad produce datos masivos que sirven para que la inteligencia artificial mejore la toma de decisiones y procesos, además de hacer nuestra vida más cómoda. Una nueva revolución industrial emerge, pero en esta ocasión sus dimensiones trascienden lo socioeconómico. La propia visión del ser humano en lo individual y en lo colectivo está en revisión. La revolución tecnológica también se caracteriza por su vertiginosa velocidad y tendencias cambiantes.

La reflexión ética va por detrás, y esto supone un problema crítico en el modelo de sociedad al que la IA nos dirige.

El mundo se ha convertido en una compleja red de sistemas y procesos en el que impacto viaja y se amplifica, incluyendo los riesgos para la sociedad y los más vulnerables. Las diferentes escalas de organización social están íntimamente interrelacionadas. Las esferas de lo individual y lo colectivo se superponen más que nunca, por tanto, una visión y fundamentación individual de la ética ya no es adecuada para hacer frente a la complejidad de los problemas globales. Esta relación se proyecta en lo público y lo privado, una problemática tradicional que ahora toma mayor relevancia debido a la explotación de los datos.

Es necesaria una reflexión ética que considere los retos globales y sistémicos y cuál es el papel de la digitalización. Además, hay que dotar a la ética de contenidos para realizar dicha tarea: revisar valores individuales, desarrollar valores colectivos, aprender a vivir en la complejidad y crear una ética con base científica.

Es difícil concebir una ética eficaz que no se alimente de las ciencias sociales y analíticas. Situaciones como las epidemias ponen de manifiesto la necesidad de basar la acción en conocimiento científico y fundamentación ética. No es suficiente con que la ética reflexione sobre la ciencia como objeto, la ciencia tiene que formar parte de la ética porque le ayuda a comprender el mundo. Frente a la actual labor de la ética como crítica de la tecnología hay que promover una ética constructiva, que promueva un imaginario capaz de conducir el desarrollo tecnológico hacia una humanidad mejorada.

Para esta misión no hay que devaluar la tradición filosófica que nos trae ricos conceptos éticos que tienen que ser combinados con los actuales principios de la digitalización para desarrollar un lenguaje común que sea la base de una IA centrada en las personas.

Dotar a la ética de contenidos universales es antigua tarea que hoy tenemos que afrontar desde el consenso. En ese sentido los Objetivos de Desarrollo Sostenible (ODS) son un compromiso mundial donde retos como la pobreza, el género, la desigualdad y el planeta se convierten en centrales. Estos han servido como catalizador para la aplicación social de la IA, y tienen una capacidad estratégica para guiar los intereses del sector privado hacia metas más sociales y globales. La ética tiene una oportunidad para articular los ODS con las prácticas de individuos, organizaciones y actores sociales, alineando intereses públicos y privados y la sociedad civil.

Sociedades antifrágiles

El futuro de la sociedad no debe solo construirse con objetivos de sostenibilidad a largo plazo, también tenemos que crear sociedades capaces de responder a crisis como la actual pandemia con resiliencia e incluso antifragilidad. Fruto de la estructura social, existen riesgos sistémicos latentes. Algunos de estos riesgos se deben a eventos difíciles de predecir (cisnes negros). El impacto es aún mayor debido a la digitalización, afectando a los más vulnerables. La IA nos permite modelar, predecir y monitorizar riesgos e impactos, sin embargo, la vigilancia ética es necesaria y para ello tiene que entender la complejidad. Los más afectados necesitan de atención ética y de un uso de la tecnología diseñado para tenerlos en cuenta.

En síntesis, en una futura sociedad más basada en IA, la maquinaría tecnológica tiene que ser capaz de soportar y asegurar el modelo de sociedad, los valores éticos y la visión humana individual y colectiva al igual que ahora se aseguran criterios legales, derechos o la seguridad. La ética tiene que ser activa en el diseño y fundamentación de estos mecanismos que deben ser de ámbito global para ser efectivos.

Igual de importante que el enfoque de la globalidad es el enfoque de la unicidad. La tecnología influencia el comportamiento diario y la penetración de las grandes plataformas modula nuestro comportamiento que puede volverse más homogéneo, predecible y, en último caso, controlable. Este es un riesgo para el individuo como tal y como base de lo colectivo. La ética tiene que afrontar estos problemas y promover al individuo y sus capacidades humanas para asegurar el bien colectivo y la heterogeneidad cultural.

Existen otros riesgos de la IA y la digitalización comúnmente identificados como son la privacidad, el riesgo de sobrecarga cognitiva, la información distorsionada (Deep Fakes), el control de pensamiento, la vigilancia agresiva, la brecha digital y los sesgos de diversa naturaleza. La clave es qué puede ofrecer la ética para crear caminos alternativos y dotar a la sociedad de mecanismos de defensa al igual que los individuos nos basamos en la ética para crear nuestras defensas y juicios.

El desempeño profesional también cambiará por la IA. Ya aparecen encrucijadas éticas concretas como pueden ser los diagnósticos automáticos o los coches autónomos. El dilema de la neutralidad, sesgos e impacto de los algoritmos se resuelve normalmente desde enfoques técnicos y reduccionistas. Los algoritmos desarrollados por individuos u organizaciones pueden afectar a millones de personas, esta escalabilidad implica un riesgo. La raíz de este problema es la concepción instrumentalista de la IA. El otro ingrediente es lo que alimenta a la IA: los datos. Diseñar y disponer de mejores datos debe ser una misión de toda la sociedad en colaboración radical.

Estos problemas deben ser objeto de reflexión ética interdisciplinar, llegando al nivel de evaluar el diseño de algoritmos. Desde esa reflexión se podrán diseñar regulaciones. Una educación que afronte estos contenidos es la base para evitar riesgos y promover impactos positivos y con ello incrementar la alfabetización digital, con urgencia.

Sin duda la IA seguirá progresando y acercándose a realizar tareas humanas, y en algunos casos, mejorándonos. El futuro puede venir caracterizado por una mayor humanización de la IA. Esto implica cuestiones éticas sobre el estatus social de las máquinas y su interacción con las personas.

La digitalización puede ayudar a la humanidad a alcanzar un mayor estado de desarrollo y bienestar, pero los riesgos son exponenciales. Necesitamos una ética que ayude a construir. Sin duda, un excitante momento para la ética.The Conversation

David Pastor Escuredo, Investigador en Inteligencia Artificial y Data para el Desarrollo, Universidad Politécnica de Madrid (UPM)
Este artículo fue publicado originalmente en The Conversation. Lea el original.

Más información sobre El Mostrador

Videos

Noticias

Blogs y Opinión

Columnas
Cartas al Director
Cartas al Director

Noticias del día

TV