Tras los hechos de violencia en la Secundaria Número 13 de Torreón, Coahuila, la presidenta Claudia Sheinbaum presentó ayer medidas para frenar los discursos de odio y la incitación a la violencia en plataformas digitales, mediante un decreto que se publicaría la próxima semana en el Diario Oficial de la Federación (DOF).
Sin embargo, Fernando Gutiérrez Cortés, del Tecnológico de Monterrey, advirtió que centrar la respuesta en la regulación de estas plataformas podría simplificar el problema y representar riesgos para la libertad de expresión.
Suscríbete a nuestro canal
“Creer que una simple regulación va a resolver el problema es una ilusión”, expresó el Director de la División de la Escuela de Humanidades y Educación del Tecnológico de Monterrey, en entrevista con 24 HORAS.
Te puede interesar: Uso de celular y lentes con cámara, entre las incidencias en examen de control de la UNAM
Sheinbaum presentó ayer el Decreto para garantizar entornos digitales seguros para niñas, niños y adolescentes, el cual prohíbe que las plataformas muestren o recomienden a menores contenido que promueva discursos de odio, extremismo violento, abuso, explotación o violencia sexual, suicidio, autolesiones deliberadas, trastornos alimenticios, violencia en el entorno escolar, acoso y ciberacoso, ciberbullying, conductas ilícitas y material sexual explícito.
La consejera jurídica de la Presidencia, Luisa María Alcalde, informó que el decreto aplica para todas las plataformas digitales y redes sociales y que exige identificar y retirar de inmediato cuentas o contenidos que promuevan o generen cualquier forma de violencia.
Si bien jurídicamente es viable que el Estado mexicano aplique las restricciones, como ya han hecho países como Alemania, el especialista en ecosistemas digitales afirmó que enfocarse de manera exclusiva en las redes sociales invisibiliza la responsabilidad de otros agentes que influyen en el comportamiento violento de los jóvenes.
“La preocupación es legítima. Sin embargo, yo diría que la discusión sí necesita ir más allá de lo sencillo, porque hay el riesgo de caer en un tema de determinismo tecnológico: decir que las redes son las culpables de todo este problema. Son un factor detonador, pero no son las únicas culpables”, señaló.
Al analizar cómo operan las plataformas de Meta o TikTok, Gutiérrez aclaró que los algoritmos de recomendación no están diseñados explícitamente para difundir el odio, sino para maximizar la retención y el tiempo de pantalla de los usuarios. No obstante, al priorizar aquellos contenidos que generan mayor enganche emocional o discusión acalorada, las plataformas terminan amplificando mensajes violentos.
“No es que el algoritmo esté diseñado para promover o amplificar mensajes de odio, simplemente está generado para que la gente se enganche, para mantenerla más en este espacio. Y si lo que está de por medio es una situación de violencia, no hace ninguna discriminación. Ese es el grave problema”, expresó.
El riesgo de la censura y la fuga hacia la web oscura
El académico advirtió que la regularización o cierre de redes sociales convencionales como X, Facebook, Instagram o TikTok suele provocar que los usuarios más radicalizados migren hacia foros no regulados de la web oscura o profunda (deep y dark web).
Para evitar que el problema simplemente cambie de escenario, subrayó, el Estado requeriría mecanismos avanzados de investigación cibernética. Pero esto conlleva otras preocupaciones sobre vigilancia y libertad de expresión.
Gutiérrez señaló que uno de los mayores desafíos técnicos y jurídicos de cualquier iniciativa regulatoria reside en la definición legal de los contenidos violentos, un terreno frágil donde cualquier ambigüedad corre el riesgo de degenerar en actos de censura previa.
“El reto está en definir con precisión, porque lo que está en juego es la libertad de expresión. Mostrar violencia no necesariamente significa promoverla. Como periodista puedes documentar una guerra y no estás incitando a la violencia; un investigador puede estudiar movimientos extremistas y no por ello incita a la violencia”, ejemplificó.
Esta preocupación no es nueva, pues recientemente el Congreso aprobó reformas a la ley de Derechos de Autor, al Código Penal Federal y a la Ley de Propiedad Industrial que, de acuerdo con la organización Artículo 19, podrían criminalizar expresiones satíricas y críticas por la ambigüedad con que fueron redactadas, al igual que agravar la censura y el monitoreo en internet.
Así, para balancear los objetivos gubernamentales sin caer en vulneraciones a la libertad de expresión, el académico propuso distinguir entre la representación, la descripción, la exaltación y la incitación directa a la violencia.
Restricción de celulares y el reto de la IA en las aulas
El anuncio del decreto coincide con la prohibición de celulares y dispositivos en aulas dentro de primarias y secundarias a partir del próximo 3 de noviembre, mientras que las instituciones de preparatoria podrán usarlos solo si hay un acuerdo para su uso pedagógico.
Gutiérrez respaldó esta restricción, argumentando que estos dispositivos actúan como distractores que alteran los procesos cognitivos de niños y adolescentes.
Por ello, el especialista recomendó extender este tipo de lineamientos hacia la educación media superior y superior, incorporando además una regulación consciente sobre la inteligencia artificial (IA).
“Hay varios estudios que denuncian esta cuestión de la 'deuda cognitiva': muchos estudiantes le están delegando procesos que son importantes para su propia formación a estas herramientas (de IA), y esto finalmente los va a afectar”.
Por lo anterior, consideró que tanto la regulación de contenido violento en redes como el acotamiento en el uso de dispositivos en salones representan un paso positivo, siempre y cuando vengan acompañadas de una visión integral que combine la regulación digital responsable con un fortalecimiento real del entorno comunitario y familiar.
“Esta discusión es añeja. Tendríamos que recordar lo que sucedió con la televisión [...] Se llegó a la conclusión de que no producía directamente comportamientos agresivos. Lo mismo está pasando ahora con las plataformas digitales. Son un factor, pero hay otros agentes que intervienen: la familia, la educación, la comunidad, por referir nada más a tres”, concluyó el académico.