La falta de regulación en el uso y aplicación de la Inteligencia Artificial (IA) pondría en riesgo las elecciones de 2024 en México debido a que los cibercriminales podrían utilizar la tecnología para suplantar la identidad de alguno de los candidatos.
Aunque la IA ya ha sido utilizada en las campañas políticas en México con fines propagandísticos, las herramientas que existen en la actualidad podrían utilizarse para atacar a los candidatos debido a que su regulación es nula.
Alejandra Lagunes, senadora del Partido Verde Ecologista de México (PVEM), aseguró que el uso y aplicación de la IA se debe regular a nivel ético, toda vez que esta tecnología puede ser aprovechada para desinformar o hacer ‘guerra sucia’ al rival en turno, suplantando rostros e incluso voces.
“Tenemos campañas, tenemos elecciones el próximo año. Me preocupa mucho el tema de los deep fakes o de las aplicaciones de Inteligencia Artificial, que son capaces de distorsionar la realidad y que pueden poner en peligro la democracia en nuestro país”, advirtió.
En los últimos meses, la IA se ha utilizado para falsificar fotos de personas y de caras, especialmente, de políticos, para realizar vídeos falsos distribuidos en las redes sociales. En todos los casos, la velocidad de distribución de estos deep fakes es mucho mayor que las imágenes reales y sus cifras de alcance llegan a ser muy elevadas.
¿A qué político mexicano le hicieron un audio falso con IA?
Martí Batres, jefe de Gobierno de la Ciudad de México, aseguró haber sido víctima de una suplantación de identidad hecha por la IA, con la publicación de un audio en el que supuestamente pedía apoyar una campaña contra Omar García Harfuch, aspirante a la candidatura de Morena para la CDMX.
Aunque en el audio se escucha la voz de Batres, el funcionario aseguró que se trató de un hackeo de su voz con Inteligencia Artificial para difundir un mensaje que no es real.
Lagunes indicó que por ahora hay al menos ocho iniciativas en el Senado para regular esta tecnología y evitar que se utilice de una forma no ética.
“Me preocupa la falta de marcos y de andamiajes jurídicos, pero también me preocupa que no haya marcos regulatorios flexibles que den las mismas oportunidades a todos y cada uno de los seres humanos de participar y de tener los beneficios que esta tecnología puede traer”, dijo.
Al respecto, David Ruiz, líder de Analítica de Datos de IA en Google Cloud México, destacó que para lograr un marco normativo que regule de la mejor manera posible el uso y aplicación de la Inteligencia Artificial, es fundamental la estrecha colaboración con las empresas para tener una visión más amplia.