Plantea Freno a la Violencia Digital Algorítmica
Por Benny Díaz
Miriam Yaszú Muñoz Márquez (Foto: Congreso del Estado de Aguascalientes)
“Tenemos una realidad que no podemos ignorar y es que han quedado al descubierto nuevas y perversas modalidades del crimen en la era digital, en donde la tecnología es utilizada en contra de la niñez y las adolescencias, lo que deja en estado de indefensión a este sector de la población y por eso tenemos que actuar en consecuencia con leyes que los protejan y no los dejen expuestos en el mundo del internet”, manifestó la diputada Miriam Yaszú Muñoz Márquez.
La legisladora de Morena dio a conocer que presentó una iniciativa que busca “poner freno a la violencia digital algorítmica, un fenómeno que está utilizando la Inteligencia Artificial (IA) para destrozar la inocencia de niñas, niños y adolescentes en Aguascalientes”.
Muñoz Márquez puso sobre la mesa datos que son “el pan de cada día en las corporaciones de seguridad, según reportes del C5i y la policía cibernética del estado. Tan solo en el último año se han registrado aproximadamente mil 700 reportes vinculados a la distribución de imágenes íntimas de menores de edad. Este seguimiento no se quedó en papel, derivó en una titánica labor de limpieza digital que logró la eliminación de más de medio millón de fotografías en diversas plataformas y en los oscuros rincones de la internet profunda”.
La diputada advirtió que el peligro ha evolucionado: “Ya no se trata únicamente de la filtración de material real capturado por una cámara, ahora los depredadores utilizan herramientas de IA para manipular, alterar o replicar de forma sintética la voz, el rostro y los datos biométricos de los menores.
“Ya no sólo se trata del manejo directo de su imagen real, sino también de aquellas referencias generadas sintéticamente para instrumentar su degradación”.
Ante este panorama, la iniciativa de Muñoz Márquez propone reformas fundamentales a la Ley de los Derechos de las Niñas, Niños y Adolescentes de Aguascalientes, centradas en tres ejes operativos y legales:
Derecho a la identidad digital protegida: establecer formalmente el derecho de los menores a que su imagen y rasgos biológicos no sean presa de algoritmos manipuladores.
Blindar legalmente la voz y los datos biométricos para evitar que la tecnología cree representaciones falsas con fines de violencia o abuso.
Obligación y facultad operativa para gestionar de manera inmediata el bloqueo, retiro o eliminación de cualquier contenido sintético que vulnere a un menor.
Para la legisladora, no hay espacio para la ambigüedad: “la tecnología debe ser, por definición, una herramienta para el esparcimiento y el desarrollo, nunca un arma para la instrumentalización de la niñez”.