El avance de la tecnología ha facilitado la vida de millones de personas, pero también ha abierto la puerta a formas de violencia inéditas. Tal es el caso de Diego N., exalumno del Instituto Politécnico Nacional (IPN), acusado de manipular imágenes de compañeras con inteligencia artificial para crear contenido sexual no consensuado y comercializarlo. Este caso no solo evidencia los riesgos del mal uso de la inteligencia artificial, sino que podría sentar un precedente histórico en Latinoamérica al ser el primer juicio de este tipo en la región.
En particular, la capacidad de la IA para crear y manipular contenido multimedia ha dado lugar a violaciones graves de privacidad y abuso de personas a través de tecnologías como los deepfakes, el robo de identidad y otros actos delictivos como la extorsión y la sextorsión.
Te interesará leer: Este era el modus operandi de Diego N., el estudiante del IPN imputado por violencia digital
Ejemplos de malos usos de la IA en México y el mundo
Los deepfakes son videos, imágenes o audios creados con inteligencia artificial que imitan la apariencia, voz o comportamientos de una persona real con fines fraudulentos o malintencionados. Esta tecnología, que puede superponer la cara de una persona en otro cuerpo o manipular sus palabras, se ha utilizado para crear contenidos falsos con fines de acoso sexual, difamación o engaño.
El robo de identidad digital a través de la IA puede ocurrir cuando los delincuentes usan algoritmos de inteligencia artificial para recopilar y manipular datos personales de una persona con el fin de suplantar su identidad en línea. La suplantación de identidad es una de las formas más frecuentes de cibercrimen, en la que los agresores se hacen pasar por la víctima para cometer fraudes bancarios o incluso hacer pedidos y compras a nombre de la víctima.
La sextorsión es una forma de extorsión sexual en la que los delincuentes amenazan con difundir imágenes o videos íntimos de una persona a menos que se les pague dinero o se les entregue más material sexual. Con el avance de la IA, esta amenaza se puede intensificar, ya que los atacantes ahora pueden crear imágenes o videos falsos de contenido íntimo utilizando tecnologías como los deepfakes, lo que hace que las víctimas se sientan presionadas a pagar.
Otros casos registrados
En octubre de 2024, la legisladora Andrea Chávez denunció públicamente que su imagen había sido manipulada con inteligencia artificial (IA) para crear contenido sexual falso, difundido por el caricaturista Antonio Garci Nieto. A pesar de su inicial decisión de no denunciar, Chávez optó por seguir la vía penal para establecer un precedente jurídico en México frente a la violencia digital de género.
Tras una profunda reflexión acompañada de incontables muestras de cariño, atenderé la exigencia de miles de mujeres que me solicitan denunciar, por la vía legal, la agresión de Antonio Garci Nieto contra mi intimidad.
— Andrea Chávez (@AndreaChavezTre) October 10, 2024
Esta decisión no la tomo solo yo: la tomamos todas. pic.twitter.com/sUUnanid3z
En Aguascalientes, más de 1,000 menores han solicitado ayuda para eliminar fotos íntimas de la red. Las autoridades de dicho estado informaron que, hasta el mes de septiembre, se han registrado 1,611 casos de jóvenes que han pedido apoyo para eliminar contenido comprometedor, como fotos desnudas que fueron compartidas en internet sin su consentimiento.
La Ley Olimpia y la lucha contra la violencia digital
La Ley Olimpia en México no solo se considera una ley, sino un conjunto de reformas legales que abordan la violencia digital. En particular, se llevaron a cabo dos cambios clave: el reconocimiento de la violencia digital en la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y la tipificación del delito relacionado con la intimidación sexual en el Código Penal.
Según el Artículo 20 de la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia, la violencia digital se define como: "Toda acción dolosa llevada a cabo mediante el uso de tecnologías de la información y la comunicación con la que se exponga, distribuya, difunda, exhiba, transmita, oferte, intercambie o comparta imágenes, audios o videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento, sin su aprobación o sin su autorización y que le cause daño sicológico, emocional, en cualquier ámbito de su vida privada o en su imagen propia."
Esta legislación establece sanciones para quienes cometan estos delitos, que incluyen penas de 3 a 6 años de prisión y multas que van de 44,000 a 89,000 pesos. Sin embargo, a pesar de estos avances, persisten desafíos relacionados con el uso de tecnologías emergentes como la inteligencia artificial, que facilita la creación de contenidos falsificados y la expansión de la violencia digital.