Crimen y algoritmo

Hoy en día la IA, especialmente los chatbots, ha adquirido una función que nadie parece haberle asignado. Se ha convertido, en muchos casos, en confidente y consejero, transmutando en un espacio donde las personas ensayan aquello que no se atreverían a comunicar a un otro o donde preguntan aquello que les avergüenza no saber o que alimenta su curiosidad. En estos sitios, muchas veces, la gente ordena sus emociones, prueba sus argumentos y, en ocasiones, describe fantasías o planes. El problema es que esta experiencia, esta conversación casual con quien aparenta ser mi mayor confidente, es a su vez un registro. La máquina escucha, la empresa conserva y, bajo ciertas condiciones, alguien más puede leer dicho registro.

Esa ambigüedad quedó claramente expuesta en el caso de Darren Zhou. En Estados Unidos, Zhou uso ChatGPT para construir amenazas y planes de violencia contra su expareja. OpenAI alertó al FBI, el cual terminó deteniendo a Zhou, quien se declaró culpable de acoso agravado, amenazas escritas y uso ilícito de un dispositivo de comunicación, más no de tentativa de homicidio.

Ante este caso, existen dos cuestiones sobre las que nos interesa reflexionar. En primer lugar, resulta relevante preguntarse qué suponen las acciones de Zhou respecto de su uso de la inteligencia artificial. ¿Qué hizo Zhou al describir, mediante un prompt, un crimen ante un chatbot? ¿Exteriorizó una fantasía o deliberó sobre su conveniencia? ¿Preparó un delito o comenzó a ejecutarlo?

La diferencia es muy importante, puesto que el derecho penal no castiga pensamientos, por perturbadores que sean. La tentativa exige haber comenzado la ejecución mediante actos directos. Una conversación puede acreditar una intención, mostrar que una amenaza es seria o completar el sentido de otros comportamientos. Incluso, puede ser ella misma una amenaza punible, pero no transforma automáticamente una fantasía criminal en tentativa. El destino de Zhou quedó sellado por las comunicaciones dirigidas a la víctima,  que terminan por exteriorizar la conducta delictual.

De la misma manera, nos parece relevante analizar las tensiones sobre la privacidad que revelan el caso, como bien sabrá el lector un chatbot no es un abogado, un médico ni un sacerdote y, por tanto, no está cubierto por el secreto profesional. Todas nuestras conversaciones con la IA ocurren dentro de una infraestructura que monitorea y analiza contenidos. Sería ingenuo olvidarlo. Pero también sería insuficiente (y preocupante) afirmar que una cláusula contractual elimina toda expectativa legítima de intimidad del usuario. El diseño del servicio induce una confianza que sus condiciones legales terminan por defraudar.

La preocupación por el uso criminal de estas herramientas es legítima. Un modelo puede reducir el costo de planificar un delito, convertir una intención imprecisa en un programa de acción, automatizar el hostigamiento o sugerir medios más eficaces para su ejecución. Ante una amenaza grave, creíble e inminente, el silencio del proveedor no sería neutralidad, sino indiferencia frente a un riesgo concreto.

Sin embargo, esto no autoriza a convertir cada conversación perturbadora en una denuncia. Se requieren una revisión humana, criterios transparentes, entrega de los datos estrictamente necesarios y control posterior. El desafío consiste en impedir que la privacidad se vuelva refugio de la violencia sin transformar a la IA en una vigilancia inquisitiva de nuestras ideas.