El Instituto Electoral de la Ciudad de México (IECM) combatirá el mal uso de la Inteligencia Artificial (IA) las elecciones de 2024 por medio de herramientas gratuitas y su equipo de informática.

La consejera electoral, Érika Estrada Ruiz, señaló que, al momento, el instituto no ha recibido alguna queja por el mal uso de esta tecnología, pero ya se prepara para estudiar los audios, videos y fotos modificados artificialmente que influyan de manera negativa en la contienda.

«A través de distintas herramientas con las que también se puede contar, que son incluso gratuitas (para evitar un costo institucional), vamos a hacer estos análisis técnicos para ver de qué se trata el uso de esa IA.

«Nos hemos venido ya preparando, capacitando al personal a través de nuestra área jurídica y también tecnológica, porque sabemos que eso (la IA) es una realidad y que este va a ser ya el camino de las próxima elecciones. No queremos, por ningún motivo, que esto nos agarre con la guardia baja «, dijo a El Sol de México.

Sobre lo que los partidos políticos y aspirantes podrán hacer o no con Inteligencia Artificial, la consejera consideró que no hay que frenar esta tecnología, pero incentivar su buen uso.

«No hay que poner límites en este momento a lo que sí se puede hacer o no con IA, porque creo que las prohibiciones no podrían caer desde el plano electoral, es un tema muy genérico que valdría la pena que la regulación viniera de los órganos legislativos«, mencionó la especialista.

De acuerdo con la presidenta de la Comisión Permanente de Quejas del IECM, el área tecnológica del instituto analizará los materiales que reciban para detectar modificaciones con IA.

De no contar con las herramientas suficientes, el IECM podría pedir el apoyo a instituciones como el Instituto Nacional Electoral (INE). Si el material tiene alteraciones, será enviado al Tribunal electoral para que éste determine si hay una conducta infractora y aplicar una sanción.

«Contamos con aliados estratégicos, podemos buscar a otras autoridades expertas en temas de tecnología y eso nos ayudaría mucho.

«Probablemente hasta pidamos la ayuda de expertos que puedan emitir algún dictamen para integrar el expediente y que el Tribunal tenga todos los elementos (para sancionar)», dijo.

El pasado 31 de octubre, a cinco días del inicio de la precampaña para la jefatura de gobierno, fue difundido en redes sociales un audio en el que presuntamente el mandatario capitalino, Martí Batres Guadarrama, habla sobre el proceso interno de Morena para elegir al aspirante a suplirlo y, según se escucha, rechaza a Omar García Harfuch y apoya a Clara Brugada.

El jefe de gobierno negó que fuera su voz y aseguró que la grabación fue elaborada con un software para imitarla. Acusó a la oposición de una guerra sucia.

El miércoles, el gobierno capitalino ejemplificó cómo, mediante el software MyVocal.A, el cual cuesta 200 pesos mensuales, se puede hacer en menos de 15 minutos un audio con la voz de cualquier persona.

El IECM no sanciona las malas prácticas, pero sí tiene las facultades para exigir a terceros y a plataformas como Facebook, YouTube, Instagram, entre otras, bajar contenidos, incluyendo los que puedan publicar influencers hechos con IA.

«Detrás de todos estos dispositivos hay alguien. Hay que recordar que la IA, hasta el día de hoy, no tiene una creación espontánea, siempre va a haber una persona física, una empresa, una persona jurídica, a la cual vas a poder citar», comentó Estrada Ruiz.

En lo que respecta a la fiscalización, la consejera aclaró que esto es responsabilidad del INE y el IECM sólo presentará pruebas de presuntos gastos usados para materiales alterados.

Riesgos en propuestas

El académico de la Universidad Iberoamericana, Alejandro Cárdenas López, advirtió que el uso de IA puede poner en riesgo el valor de las elecciones, pues los actores políticos podrían recurrir más a prácticas ilegales que a presentar propuestas o bien, a rechazar su errores y a engañar.

«Esto podría hacer mucho daño al valor de lo que significa la calidad de propuestas en las campañas, qué tanto los candidatos se van a prestar a eso (…), qué tanto van a caer en la trampa del golpeteo o la declaracionitis de la prensa, en lugar de ver propuestas», dijo a este diario.

Cárdenas López mencionó que en las elecciones de México y otros países no sólo abundarán más los memes, también los falsos videos, fotos y audios, como en el caso de Batres.

«Se prevé que se empiece a utilizarse (la IA) para deepfake, especialmente de videos y fotos. Lo que sucedió con Martí Batres puede ser algo que es evidente que también con audio se use.

«Eso sería lo que se espera no sólo en las campañas de México«, dijo el experto en comunicación y tecnología.