Los llamados deepfakes, videos y audios generados por inteligencia artificial (IA), se utilizados en México para engañar a la ciudadanía y lograr que realice inversiones falsas usando la imagen de figuras públicas del más alto nivel, mientras que, a nivel mundial, están catalogados por la INTERPOL como una amenaza creciente para la seguridad global, ante lo cual expertos llaman al gobierno a endurecer las medidas contra este delito.
Este miércoles, la presidenta Claudia Sheinbaum alertó sobre los videos generados con IA que clonan su voz e imagen para intentar defraudar a la población con supuestas inversiones en el gobierno, por ejemplo, en Pemex.
Suscríbete a nuestro canal
Junto con ella, también se ha usado la imagen del presidente de la Corte, Hugo Aguilar y, en años pasados, la de Andrés Manuel López Obrador y Carlos Slim, entre otros.
También te puede interesar: Senado aprueba prohibir la comercialización de vapeadores
'No hagan caso a ellos': Sheinbaum ante deepfakes
En su Mañanera, la presidenta Sheinbaum aseveró que todos los videos en los que aparece ella u otros funcionarios llamando a invertir son falsos y creados con IA: "No hagan caso a ellos".
Sobre el tema, la INTERPOL advierte en su reporte Más allá de las ilusiones: desenmascarando la amenaza de los medios sintéticos para las fuerzas del orden, que bandas de delincuencia organizada emplean la IA para cometer fraudes financieros, suplantación de identidad y esquemas de inversión fraudulentos.
Unit 42, el equipo de inteligencia de amenazas e investigación de ciberseguridad de Palo Alto Networks, una de las mayores empresas de seguridad digital, destaca que ha detectado campañas de fraudes con IA en diversos países, entre ellos México, Canadá, Francia, Italia, Turquía, República Checa, Singapur, Kazajistán y Uzbekistán, lo que demuestra el alcance global de esta amenaza.
Para Unit 42, la similitud de dominios web y métodos utilizados por los ciberdelincuentes lleva a la conclusión de que se trata de un mismo grupo criminal, y no de bandas focalizadas localmente.
“Cada una de estas páginas fraudulentas forma parte de una campaña mucho más amplia y no se trata de sitios aislados creados para estafas ocasionales”, dice el informe La dinámica de las estafas con deepfakes.
Análisis
La especialista Claudia Del Pozo, fundadora y directora de Eon Institute, afirmó que los gobiernos deben castigar debidamente el uso dañino de la IA.
Y advirtió que “uno ya no tiene que ser un experto en inteligencia artificial para crear un esquema de fraude con IA, más o menos cualquier persona lo puede lograr”.
En entrevista con 24 HORAS, afirmó que ahora el reto es que “las herramientas de creación de contenido de IA generativa de videos tengan restricciones para que no puedan utilizar el rostro de una persona conocida, de una persona famosa”.
Advirtió que estas prácticas no van a desaparecer, “y más bien nos toca a nosotros como audiencia ser más críticos y sobre todo les toca a los medios ayudarnos a distinguir lo que es real y lo que es falso y a los reguladores a castigar debidamente”.
También te puede interesar: Con descalificaciones, se enfrentan Yunes Márquez y Marko Cortés
En tanto, Julio César Vega Gómez, director general de la Asociación Mexicana de Internet, declaró a este diario que estos videos no los generan ni fomentan las empresas relacionadas con Internet.
Envían extrañamiento a Google México
El lunes, el presidente de la Junta de Coordinación Política (Jucopo) del Senado, Adán Augusto López, envió un extrañamiento a Hugo Martínez McNaught, jefe de Relaciones Gubernamentales y Política Pública de Google México, por “permitir” el uso de la plataforma con mensajes falsos de la presidenta Claudia Sheinbaum, creados con inteligencia artificial.
“Esto es producto de la intencionalidad de lucro que tienen las prácticas realizadas por la delincuencia organizada y que no tienen que ver con los fines de las empresas a través de las cuales circulan estos videos”, aclaró Vega Gómez.
Llaman a denunciar deepfakes ante Policía Cibernética
En meses pasados, tanto la Comisión Nacional para la Protección y Defensa de los
Usuarios de Servicios Financieros (Condusef) como la Agencia Digital de Innovación Pública (ADIP) de la Ciudad de México lanzaron una alerta a la población sobre los deepfakes, videos generados con IA para defraudar utilizando la imagen de figuras públicas.
En junio, la Condusef señaló que los delincuentes están usando ilegalmente la identidad e imagen de figuras públicas y creadores de contenido financiero, con herramientas de inteligencia artificial, para dar credibilidad a anuncios falsos y obtener dinero o datos personales.
También te puede interesar: Senado aprueba Ley General de Economía Circular, México adopta modelo para reusar residuos
Mientras que en septiembre la ADIP llamó a la población a revisar el contenido que consume en Internet, identificando si los videos tienen voces artificiales, píxeles borrosos, ojos y bocas poco naturales o iluminación incongruente, así como denunciar cualquier intento de fraude por deepfake ante la Policía Cibernética de la CDMX.