La inteligencia artificial comenzó a desempeñar un papel clave en los procesos electorales en todo el mundo, y México no es la excepción. Con miras a los comicios de 2024, la Fundación Friedrich Naumann y Eon Institute presentaron el informe "IA generativa y su influencia en las elecciones de México 2024", un análisis que revela tanto los riesgos como las oportunidades que esta tecnología representa para la democracia.
El informe, presentado en un evento que reunió a especialistas en tecnología, política y género, destaca cómo el uso de IA puede impactar la desinformación, la violencia política y la transparencia en los procesos electorales. Siegfried Herzog, director general para América Latina de la Fundación Friedrich Naumann, subrayó la importancia de comprender estos efectos: "El uso correcto de estas herramientas podría promover la libertad y la participación democrática, pero un uso indebido puede ser un detrimento para la calidad democrática".
Por su parte, el senador Rolando Zapata, presidente de la Comisión de IA del Senado, enfatizó la urgencia de establecer marcos normativos que regulen el impacto de esta tecnología en los comicios. "Los hallazgos aquí presentados nos alertan sobre el enorme potencial de la IA para manipular la información y la opinión pública. Debemos actuar con urgencia, pero también con optimismo", señaló.
Hallazgos clave sobre el impacto de la IA en las elecciones
Según el informe, el uso malintencionado de la IA en el contexto electoral en México fue relativamente limitado hasta el momento. De los 44 casos identificados relacionados con elecciones, solo cinco obtuvieron una amplia cobertura en medios y redes sociales. Además, el uso de deepfakes fue mínimo, con la mayoría de los casos involucrando manipulaciones menos sofisticadas como shallowfakes o cheapfakes.
Uno de los fenómenos destacados es el Liar’s Dividend, un efecto en el que la desinformación no solo se propaga mediante contenido manipulado, sino también a través de afirmaciones falsas sobre la autenticidad de materiales legítimos. Esta dinámica plantea un reto adicional para los verificadores de información y los votantes.
Otro aspecto preocupante es el uso de IA para cometer delitos cibernéticos y actos de violencia política en razón de género. El informe documenta cuatro casos en los que la imagen de figuras públicas fue empleada para fraudes en línea, así como dos incidentes en los que se generó y difundió material íntimo no consensuado de candidatas.
Con respecto al ámbito institucional, se identificó una adopción temprana de IA en algunos tribunales electorales del país. Aunque su implementación sigue en una fase inicial, los expertos consideran que esta tecnología podría mejorar la eficiencia y transparencia de los procesos judiciales relacionados con elecciones.
Retos y soluciones para el uso responsable de la IA en la política
Tras la presentación del informe, un panel de especialistas discutió las implicaciones del uso de IA en los comicios. Entre los participantes estuvieron Daniela Mendoza, directora general de VerificadoMX; Lorenzo Córdova, profesor e investigador de la UNAM y expresidente del INE; Manuel Alejandro Guerrero, profesor investigador de la Universidad Iberoamericana; y Sol Sánchez Rabanal, oficial nacional de género en PNUD México.
Los especialistas abordaron la desinformación electoral y la violencia política en razón de género, destacando la importancia de la alfabetización digital y la regulación adecuada.
Desde una perspectiva de género, Sol Sánchez Rabanal advirtió sobre los sesgos presentes en los sistemas de IA y la necesidad de políticas públicas inclusivas: "La IA no es neutral; refleja los sesgos de quienes la diseñan y utilizan. Por eso, es crucial que las regulaciones y políticas públicas tengan un enfoque de género".
En un contexto donde la tecnología avanza rápidamente, los expertos coincidieron en la urgencia de establecer marcos normativos sólidos y fomentar la cooperación entre gobiernos, empresas tecnológicas y sociedad civil. Como señaló el Senador Zapata: "El futuro de la democracia depende de cómo gestionemos hoy los desafíos y oportunidades que nos presenta la inteligencia artificial". (NotiPress)
