Inteligencia artificial y manipulación: expertos advierten sobre una nueva frontera de riesgos

La inteligencia artificial (IA) avanza a una velocidad que hace pocos años parecía improbable. Más allá de automatizar tareas o procesar grandes volúmenes de información, las nuevas herramientas son capaces de identificar patrones de comportamiento, anticipar preferencias y personalizar contenidos con un nivel de precisión cada vez mayor. Este escenario ha abierto un nuevo debate: cómo proteger la autonomía de las personas frente a sistemas tecnológicos que pueden influir en la forma en que reciben información y toman decisiones.

Según expertos de Kaspersky, la discusión ya no se limita únicamente a la privacidad de los datos, sino que comienza a incorporar un concepto más amplio: la protección de la autonomía cognitiva, entendida como la capacidad de las personas para decidir libremente sin ser perfiladas, manipuladas o condicionadas de manera invisible por sistemas digitales.

La IA no lee la mente, pero sí puede influir en el comportamiento

Aunque los escenarios de ciencia ficción que muestran máquinas capaces de leer pensamientos aún están lejos de la realidad, los especialistas advierten que existen mecanismos mucho más concretos y presentes que ya tienen impacto en la vida cotidiana.

Sistemas de recomendación, algoritmos que seleccionan qué contenidos aparecen en redes sociales, motores de búsqueda personalizados y plataformas capaces de segmentar audiencias permiten moldear la forma en que cada usuario accede a la información.

De acuerdo con Kaspersky, el riesgo no radica en que una inteligencia artificial conozca exactamente lo que una persona piensa, sino en su capacidad para anticipar comportamientos e influir en decisiones mediante contenidos especialmente diseñados para cada perfil.

La compañía sostiene que esta tendencia podría intensificarse a medida que las tecnologías se vuelvan más precisas y se integren con mayor profundidad en las actividades diarias.

Fraudes digitales cada vez más sofisticados

Uno de los principales riesgos identificados por los especialistas está relacionado con la evolución de la ingeniería social.

Los ciberdelincuentes ya utilizan modelos avanzados de lenguaje para crear correos electrónicos, mensajes y sitios falsos que resultan más convincentes y difíciles de detectar. El avance de la IA podría permitir que estos ataques se vuelvan aún más personalizados mediante el uso de información obtenida desde redes sociales, plataformas digitales y bases de datos públicas.

El impacto no afecta únicamente a usuarios individuales. Según el informe global más reciente de Kaspersky Security Services, el phishing representa cerca del 15% de las técnicas de ataque más utilizadas actualmente, convirtiéndose en una de las principales puertas de entrada para amenazas dirigidas a empresas, organismos públicos y otras instituciones.

Manipulación de audiencias y opinión pública

La influencia de la inteligencia artificial también puede extenderse más allá de las personas de manera individual.

Los expertos advierten que estas tecnologías pueden amplificar mensajes específicos, reforzar determinados puntos de vista o aumentar la polarización social mediante la distribución selectiva de contenidos.

Las redes sociales ya han demostrado cómo los algoritmos pueden favorecer la formación de cámaras de eco, donde los usuarios reciben información alineada con sus creencias previas. Con sistemas de IA más avanzados, esta capacidad podría incrementarse considerablemente.

Desde la compañía señalan que este fenómeno representa un desafío que trasciende la ciberseguridad tradicional, ya que puede afectar la calidad de la información disponible, la confianza pública y la capacidad de las personas para tomar decisiones informadas.

El perfilamiento digital y la pérdida de control sobre la identidad

Otro de los riesgos emergentes tiene relación con la creciente capacidad de las plataformas para construir perfiles detallados de cada usuario.

Información proveniente de búsquedas, redes sociales, hábitos de consumo, interacciones digitales y otras fuentes puede ser integrada automáticamente para generar retratos cada vez más precisos sobre intereses, comportamientos y relaciones personales.

Este nivel de perfilamiento incrementa amenazas como el acoso digital, el doxxing y otras formas de abuso tecnológico. Además, los especialistas advierten que los sistemas predictivos podrían llevar a que las personas sean evaluadas o clasificadas por acciones que aún no han realizado, sino por comportamientos que un algoritmo considera probables.

En ese contexto, el problema deja de centrarse exclusivamente en la privacidad y pasa también por la capacidad de las personas para mantener el control sobre su propia identidad digital.

Crédito: El Mostrador.

Las interfaces cerebro-computadora y los riesgos futuros

Una cuarta área observada por los investigadores corresponde a las interfaces cerebro-computadora, tecnologías que actualmente se encuentran en fases experimentales y que buscan interpretar señales neuronales para facilitar la comunicación o el control de dispositivos.

Aunque estas herramientas presentan aplicaciones prometedoras en salud y accesibilidad, los expertos advierten que su eventual integración con sistemas conectados a internet podría abrir nuevos desafíos de seguridad.

La posibilidad de que señales neuronales interactúen con dispositivos médicos, tecnologías de asistencia o sistemas inteligentes del hogar plantea interrogantes sobre eventuales vulnerabilidades y ataques informáticos futuros.

“Aunque la IA cognitiva aún se encuentra en una etapa temprana y está lejos de alcanzar una adopción masiva, su desarrollo avanza rápidamente”, afirma Noushin Shabab.

“Se espera que los modelos avanzados de interacción entre humanos e IA se vuelvan mucho más comunes en las próximas décadas. A medida que crezca su adopción, también lo harán los riesgos asociados, por lo que debemos prepararnos desde ahora”, agrega la especialista.

Cómo enfrentar esta nueva realidad digital

Frente a este escenario, los expertos recomiendan adoptar una actitud más crítica frente a los contenidos digitales.

Entre las principales sugerencias para los usuarios destacan verificar la autenticidad de mensajes especialmente persuasivos, evitar compartir información personal innecesaria y ser conscientes de que cada interacción en línea contribuye a construir un perfil digital.

Asimismo, plantean la importancia de utilizar herramientas de protección capaces de detectar intentos de phishing, enlaces maliciosos y otras amenazas cada vez más sofisticadas.

En el ámbito empresarial, las recomendaciones apuntan a fortalecer los controles de acceso a aplicaciones y sitios web, además de capacitar a los trabajadores para reconocer campañas de manipulación e ingeniería social potenciadas por inteligencia artificial.

Para los especialistas, el desafío de los próximos años no será únicamente tecnológico. También implicará desarrollar capacidades para proteger la autonomía de las personas en un entorno donde los algoritmos tendrán una influencia creciente sobre la información que consumen y las decisiones que toman.