En plataformas como Telegram, Instagram, Litmatch y Tinder, perfiles falsos de mujeres, creados con Inteligencia Artificial (IA), son utilizados para engañar a usuarios y obtener recursos económicos, un modus operandi de “fraudes sentimentales” que la Policía Cibernética señala que puede derivar en sextorsión, robo de identidad o extorsión.
Ante ello, en el Senado se trabaja en una legislación sobre IA que busca blindar a los usuarios ante el alza del uso fraudulento de esta nueva tecnología.
Suscríbete a nuestro canal
A través de imágenes y videos hiperrealistas, estos avatares simulan interacciones personales, ofrecen “contenido exclusivo” o cumplen peticiones personalizadas a cambio de transferencias o regalos virtuales monetizables, sin que exista una persona real detrás de los perfiles.
También te puede interesar: Condenan uso de IA para violentar sexualmente a las mujeres
Este tipo de prácticas se apoya en herramientas de Inteligencia Artificial generativa capaces de producir rostros, cuerpos y escenas con un alto nivel de realismo, lo que dificulta para muchos usuarios distinguir entre una persona real y un avatar digital.
“Hay otras formas de monetizar que no sea Only Fans, apenas empezamos, pero ahí los likes y las cosas que te manden se cambian por dinero real”, publicó un usuario del grupo Inteligencia Artificial México, a la par de capturas de pantalla de la app Litchat de una mujer morena, de cabello ondulado y en poses sugerentes, creada con IA.
En grupos de Facebook como este, decenas de usuarios comparten abiertamente los prompts (instrucciones que utilizan para la IA) sobre iluminación artificial, estilos corporales, poses y narrativa visual, algunos con objetivos como promocionar marcas, negocios o productos, pero otros con miras a engañar a usuarios de redes sociales.
La Policía Cibernética de la Ciudad de México ha desglosado este modus operandi, conocido como ingeniería social: “El objetivo va desde la manipulación emocional hasta el fraude económico, el robo de datos personales o la sextorsión”.
“En muchos casos, la relación inicia con conversaciones cotidianas, intercambio de fotos y expresiones afectivas, una vez ganada la confianza de la víctima, el agresor puede solicitar información confidencial, imágenes íntimas o incluso transferencias de dinero, alegando situaciones de emergencia”, explicó en una alerta a la ciudadanía.
Ante este escenario, la legislación mexicana aún no está adaptada a la evolución progresiva de la Inteligencia Artificial, por lo que actualmente el Senado de la República trabaja en una Ley General en la que se están considerando diversos temas, entre ellos el uso de avatares digitales.
Sobre este proyecto, Alonso Tamez, secretario Técnico de la Comisión de Inteligencia Artificial, explicó que el enfoque será establecer “principios generales aplicables de forma transversal, como decir que un avatar de inteligencia artificial no se puede usar para confundir deliberadamente, extorsionar, engañar, etcétera”, señaló.
De acuerdo con el funcionario, esto abriría la puerta a modificaciones específicas en distintos marcos normativos, como las leyes de salud, educación y el sector bancario.
“La legislación, por ejemplo, del sector bancario, con respecto a los avatares, va a tener ciertas especificaciones que blinden un poco más”, destacó.
Modelo a seguir
En la Unión Europea, basándose en el Artículo 50 de la Ley de IA, las autoridades trabajan en un Código de buenas prácticas sobre estos contenidos, que busca garantizar que correos electrónicos, imágenes o videos deepfake sean claramente identificables para el público, con el fin de reducir el riesgo de engaño, manipulación y fraude, el cual se prevé esté listo para junio de 2026.
Afirma experta Hombres, los que más caen en perfiles falsos
Sobre el uso de perfiles falsos en redes, Daniela Rojas, directora adjunta de Programas en Eon Institute, aseguró “a pesar de que habemos muchas personas que podemos identificar una foto real de la que no lo es, todavía hay una gran parte de la población que no sabe que existe este tipo de herramientas y definitivamente hay un riesgo”, subrayó.
De acuerdo con la especialista, son los hombres quienes con mayor facilidad caen en este tipo de perfiles falsos, debido a una menor percepción del riesgo.
“Las mujeres, sobre todo en un contexto como el de México, tendemos a pensar dos veces… por el contexto de violencia; somos un poco más precavidas. Los hombres no, y están cayendo mucho más ellos que nosotras”, concluyó.
Buscan sancionar violencia digital
Ante el uso de la Inteligencia Artificial para sexualizar imágenes de mujeres reales, la diputada Ana Isabel González del PRI, impulsa una iniciativa para sancionar a quienes realizan este tipo de violencia digital.
La iniciativa se aprobó por unanimidad en la Comisión de Igualdad de Género de la Cámara de Diputados y se espera que en el próximo periodo de sesiones suba al pleno para su discusión.
En entrevista con 24 HORAS, la diputada recordó la vulnerabilidad que tienen las mujeres ante el uso de la violencia digital, al utilizar los rostros y partes de sus cuerpos.
Además, advirtió que el uso de la IA también puede vulnerar a candidatas o funcionarias públicas para dañar su imagen.
También te puede interesar: Candidatas presidenciales de 2024 sufrieron violencia digital: INE
“Pueden utilizar los rostros y partes del cuerpo, los ves y son reales, también hasta para candidatas o precandidatas, porque sabemos que esta herramienta puede ser utilizada para hacer videos en beneficio de que puedas llevar diferentes campañas… hacen un video con Inteligencia Artificial y lastiman o dañan tu imagen”, advirtió.
Apenas el martes, la Secretaría de las Mujeres hizo un llamado a las personas responsables de la red social X para evitar que su plataforma se convierta en un espacio que reproduce la violencia de género, ante las denuncias sobre el uso de herramientas con inteligencia artificial Grok, para manipular, sexualizar y difundir imágenes de personas reales sin su consentimiento. Por Yalina Ruiz