IA impulsa violencia digital contra niños y niñas, advierten expertos en Cancún
La iniciativa no pretende censurar internet, sino construir espacios digitales seguros que promuevan contenido de calidad y brinden mayor tranquilidad a las familias.
Cancún.— La violencia contra niñas, niños y adolescentes ha evolucionado. Ya no se limita al ámbito físico o emocional: ahora la inteligencia artificial impulsa una forma peligrosa de violencia digital que llega directamente a sus pantallas, exponiéndolos a contenido violento, sexual, vulgar y depresivo que afecta gravemente su desarrollo mental y emocional.
Jorge Montaño, director de Red Activa México (RAM), alertó sobre esta creciente amenaza al conmemorarse el Día Internacional de los Niños Víctimas Inocentes de Agresión.
“Debemos proteger a los menores también de los riesgos invisibles de internet”, destacó el activista.
Montaño citó un caso reciente ocurrido en México, donde un menor utilizó inteligencia artificial para crear imágenes y videos de carácter pornográfico a partir de fotografías de sus compañeros de escuela, material que luego distribuyó masivamente en redes sociales.
“Este tipo de acciones representan una nueva forma de agresión y violencia entre pares”, afirmó.
En Cancún, Quintana Roo, la organización trabaja intensamente para enfrentar esta problemática. Aprovechando el posicionamiento de la región como hub cultural y tecnológico, Red Activa México busca contrarrestar el flujo de contenido nocivo que prolifera en plataformas digitales.
“Hemos detectado una enorme cantidad de material bélico, agresivo, sexual, discriminatorio y grosero que está dañando la formación de niños, niñas y adolescentes”, explicó Montaño.
La iniciativa no pretende censurar internet, sino construir espacios digitales seguros que promuevan contenido de calidad y brinden mayor tranquilidad a las familias.
Red Digital, el proyecto de creación de contenido positivo de la organización, ya opera en cinco países (México, República Dominicana, Colombia, Venezuela y Costa Rica) y cuenta con 36 desarrolladores. Su objetivo es producir y promover material educativo en educación, ciencia, tecnología, cultura y arte, para ofrecer alternativas reales al contenido negativo que actualmente domina las redes.