Introducción
El avance de la inteligencia artificial (IA), entendida como “un recurso informático diseñado para realizar tareas que normalmente requieren inteligencia humana” (Di Chiazza y Pastore, 2025, p. 36), ha traído grandes avances para la vida diaria de las personas aunque también su mal uso ha generado nuevas formas de afectación a los derechos humanos, especialmente en el ámbito digital.
En particular, este artículo refiere a la creación y difusión de imágenes falsas o manipuladas “deepfake” que atentan contra el derecho a la intimidad, la imagen y el honor de mujeres, niñas y adolescentes. Este tipo de hechos constituye una modalidad contemporánea de violencia digital basada en género que precisa ser difundido, abordado y hablado en todos los ámbitos, desde el interior de las familias, las escuelas y demás instituciones educativas e incluso dentro del órgano encargado del servicio de administración de justicia.
Este artículo analiza la problemática desde una perspectiva interseccional, articulando los derechos personalísimos referidos con el principio del interés superior de niñas, niños y adolescentes, y con los deberes de prevención y debida diligencia que surgen de la normativa nacional e internacional. Y focaliza en especial en la responsabilidad de las familias, los educadores, los órganos del Estado y toda la sociedad en la protección de la niñez que, por su condición de género, es hoy más vulnerable a sufrir este tipo de violencia digital. Además resalta la necesidad de promover desde distintos ámbitos el derecho de igualdad y no discriminación, en el uso responsable de la IA y en la prevención del daño.
Desarrollo
El Día Internacional de la Mujer constituye una oportunidad para reflexionar sobre las formas actuales que adopta la violencia de género y sobre los desafíos que plantean las nuevas tecnologías. En los últimos años, la inteligencia artificial ha comenzado a ser utilizada para generar, manipular o difundir imágenes y videos falsos que afectan de manera directa la dignidad, la imagen y el honor de mujeres, niñas y adolescentes.
Estas prácticas no son neutras: se apoyan en desigualdades estructurales que no desaparecen sino que más bien refuerzan estereotipos infundados basados en el género y producen en las victimas daños profundos, especialmente cuando se trata de mujeres niñas, que por su condición de mujer y persona menor de edad son doblemente vulnerables en la problemática, afectando no solo su estabilidad psicoemocional sino su desarrollo integral.
Al respecto la ONU Mujeres, afirma que “El mundo digital prometía conexión y empoderamiento, pero para millones de mujeres y niñas se ha convertido en un mundo de abusos. La violencia digital se está extendiendo a una velocidad alarmante, alimentada por la inteligencia artificial, el anonimato y la ausencia de leyes eficaces y mecanismos de rendición de cuentas. En la actualidad llega a todos los rincones de Internet, desde el acoso en línea y el ciber-acecho hasta el doxeo (revelación de información personal), la difusión no consentida de imágenes, los ultra-falsos (deepfakes) o la desinformación, y se utiliza como arma para silenciar, avergonzar e intimidar a mujeres y niñas” (2025)
Para comprender de raíz el problema planteado, es importante recordar que la Convención de Belém do Pará, enseña en el art. 1 que la violencia contra la mujer es “cualquier acción o conducta, basada en su género, que cause muerte, daño o sufrimiento físico, sexual o psicológico a la mujer, tanto en el ámbito público como en el privado”. La Convención sobre la Eliminación de Todas las Formas de Discriminación contra la Mujer (CEDAW) establece en la Recomendación General 19, par. 6 que la violencia por razón de género es “la violencia dirigida contra la mujer porque es mujer o que la afecta en forma desproporcionada”.
En específico, la Relatora Especial sobre la Violencia contra las Mujeres de la ONU definió en 2018 la violencia en línea contra las mujeres como “todo acto de violencia por razón de género contra la mujer cometido, con la asistencia, en parte o en su totalidad, del uso de las TIC, o agravado por este, como los teléfonos móviles y los teléfonos inteligentes, Internet, plataformas de medios sociales o correo electrónico, dirigida contra una mujer porque es mujer o que la afecta en forma desproporcionada” (REVM-ONU, 2018, párr. 23).
Este tipo de violencia no tiene una sola forma de materializarse, sino una infinidad de formas que aumentan en la medida de los avances tecnológicos, los que se saben crecen a pasos agigantados influyendo en las relaciones humanas y desarrollo de la vida cotidiana. La multiplicidad de formas no se agota, seguirá creciendo, con el crecimiento digital, lo que no implica que la violencia digital sea algo diferente o separado de la violencia real que sufren las víctimas, por el contrario, se encuentran estrechamente conectadas. La violencia contra la mujer ocurre en línea y fuera de línea.
La violencia digital comprende la creación, difusión, distribución o intercambio digital de fotografías, videos o audioclips de naturaleza sexual o íntima sin consentimiento. Como lo señala REVM “Consiste en crear, compartir o difundir en línea, sin consentimiento, material, imágenes o videos íntimos o sexualmente explícitos obtenidos con o sin el consentimiento de una persona, con el propósito de avergonzarla, estigmatizarla o perjudicarla” (REVM-ONU, 2018, párr. 41).
Como se dijo hay multiplicidad de formas, pero aquí se analiza la que implica la creación de imágenes sexualizadas, editadas con fotomontaje, o videos deepfake, en cuyo caso las imágenes o los videos de las mujeres pueden ser tomados de sitios en línea o cuentas de redes sociales y superpuestos en el cuerpo de otras personas para simular escenas sexuales o contenido pornográfico con el objetivo de dañar la reputación de la víctima (OEA, 2021, p.30)
El término “deepfake”, como combinación de “deep” (profundo) y “fake” (falso), permite crear un contenido audiovisual sin necesidad de acceder al interactuar directamente con el material original, sustituyendo la cara o el cuerpo de una persona por otra, incluso su voz y movimientos, decir alterando su imagen y comportamiento real. Se trata de una “acción representa una actividad de alto riesgo e impacto en la imagen, honor e intimidad de la persona respecto de la cual se crea un contenido audiovisual hiperrealista y engañoso sobre su persona” (Ramoz Zaga, 2024)
En términos de Daniela Duppuy “Los deepfakes son imágenes hiperrealistas manipuladas y modificadas de manera digital para mostrar personas haciendo o diciendo cosas que nunca sucedieron en realidad. Están basados en diferentes redes neuronales que estudian extensos volúmenes de información para replicar movimientos faciales, ademanes y otras expresiones humanas, voces e inflexiones, a través del deep learning”. (2025)
Si bien en la actualidad aún algunas de estas imágenes falsas pueden ser identificadas como tales por sus características, lo cierto es que el avance de la tecnología permite que cada vez se confundan más con imágenes reales. Respecto de las formas de identificarlas se señalan por ejemplo las siguientes:
“Falta de parpadeo. Muchos métodos antiguos de deepfake no lograban imitar la velocidad a la que una persona parpadea, un problema que los programas recientes han solucionado. El temblor facial, el brillo o la distorsión son un indicio. Además, busque movimientos anormales en objetos fijos en el encuadre, como un soporte de micrófono o una lámpara. Comportamiento extraño Un individuo que hace algo inverosímil o fuera de lo común siempre debería ser una señal de alerta. Pero las falsificaciones obvias pueden no ser lo que parecen Es fácil sembrar dudas sobre las imágenes reales añadiendo una inconsistencia” (Parkin, 2019)
La violencia digital que se configura a partir de las deepfake en niñas y adolescentes que crea apariencia de veracidad de una imagen que no es real dificulta el desmentido social y jurídico, y amplifica el impacto del daño. La circulación masiva, la replicabilidad y la permanencia del contenido en internet generan un escenario de afectación prolongada, con consecuencias que pueden persistir aun cuando el material original haya sido eliminado. Los espacios digitales han permitido que la violencia fuera de línea ahora pueda producirse “on line” en el anonimato, desde cualquier lugar siempre que se cuente con un dispositivo tecnológico y una plataforma aptos para generar el contenido digital malicioso.
Por eso “Las acciones feministas en el espacio digital de los últimos años han impulsado diversas y amplias agendas que buscan visibilizar la violencia digital, promover medidas para su atención y prevención, disminuir la brecha digital de género respecto al uso y apropiación de las tecnologías, entre otros objetivos”. (Comisión de Derechos Humanos de la ciudad de México, 2020, p. 18)
En este tipo de agresiones, el sesgo de género suele ser evidente: los ataques frecuentemente sexualizan, cosifican o estigmatizan a las víctimas. En el caso de niñas y adolescentes, la gravedad se intensifica por la combinación de dos factores: su especial situación de vulnerabilidad y la incidencia de la exposición digital en procesos centrales de construcción de identidad. Por ello, el abordaje debe considerar el daño como integral: personal, familiar, escolar y comunitario.
Como consecuencia de la violencia en línea, las mujeres y las niñas sufren graves perjuicios psicológicos, físicos, sexuales, emocionales, económicos, laborales, familiares y sociales (REVM-ONU, 2018)
Daniela Dupuy advierte la gravedad del problema que representa esta clase de hechos malintencionados en las niñeces, cuyo propósito es generar un daño en la víctima. Y señala que “Si alguien usa una foto de un niño para crear contenido falso y lo difunde, no solo está violando su imagen, intimidad y consentimiento: puede dañarlo emocionalmente y afectar su seguridad”. (Dupuy, 2025)
El problema exige una lectura jurídica que combine tres dimensiones: (1) la protección de los derechos personalísimos (intimidad, imagen y honor), (2) la especial tutela reforzada de niñas, niños y adolescentes, y (3) las obligaciones de prevención de la violencia contra las mujeres que surgen de la Ley 26.485 y de la Convención de Belém do Pará.
Desde este enfoque, la respuesta al problema no puede limitarse a la remoción posterior del contenido: debe priorizar la prevención del daño, la educación para la igualdad y el uso responsable de la IA.
El derecho a la intimidad protege la esfera privada frente a injerencias arbitrarias, resguardando la vida personal, la identidad y el mundo emocional de la persona. El derecho a la imagen garantiza el control sobre la captación, reproducción y difusión de la propia representación visual. El derecho al honor tutela la reputación, el buen nombre y la valoración social. Estos derechos, de naturaleza personalísima, se vinculan con la dignidad humana y con la autonomía para construir la propia identidad sin sometimiento a estigmatizaciones públicas.
La Convención sobre los Derechos del Niño reconoce en el art. 16 el derecho de niñas, niños y adolescentes a la protección frente a injerencias ilegítimas en su vida privada y frente a ataques a su honra y reputación, así como el deber de los Estados de adoptar medidas para protegerlos contra toda forma de perjuicio o abuso (art. 19). Estos estándares se proyectan plenamente al ámbito digital: la protección integral incluye la protección de la vida privada, de la identidad y de la imagen en redes y plataformas.
A su turno, la Ley de protección integral de los derechos de las niñas, niños y adolescentes N° 26.061 consolida el paradigma de protección integral, reconociendo a las infancias la condición de sujetos plenos de derechos, estableciendo la pauta rectora del interés superior, esto es la máxima satisfacción integral y simultanea de sus derechos (conf. art. 3 CDN) en toda medida y acción que se tome respecto de su persona y su vida, lo cual implica pensar en soluciones al problema planteado que garanticen y prioricen su sano crecimiento, desarrollo integral y la formación plena de la personalidad sin injerencias abusivas y violentas a su intimidad, honra, reputación dignidad.
La Ley 26.485 establece un sistema de protección integral para prevenir, sancionar y erradicar la violencia contra las mujeres, y define la violencia de manera amplia, incluyendo modalidades que alcanzan la afectación de la dignidad, la integridad psicológica, la honra y la imagen. Desde este marco, la difusión de contenidos falsos o manipulados mediante IA que humillan o desacreditan a mujeres, en especial a niñas y adolescentes puede encuadrarse, según el caso, como violencia psicológica y/o simbólica, dada su capacidad de producir menoscabo, intimidación, degradación y reproducción de patrones discriminatorios.
Por su parte, la Convención de Belém do Pará obliga a los Estados a actuar con debida diligencia para prevenir, investigar y sancionar la violencia contra las mujeres, y a adoptar medidas para modificar patrones socioculturales basados en estereotipos de inferioridad o subordinación. En el ámbito digital, este compromiso exige políticas públicas específicas: mecanismos ágiles de protección, capacitación de operadores, y estrategias educativas orientadas a la igualdad y a la no discriminación en el uso de tecnologías emergentes, incluida la IA.
La problemática expuesta exige una mirada transversal desde la perspectiva de la niñez y de la igualdad de género entre hombres y mujeres que visualice la especial situación de vulnerabilidad en la que se ven expuestas las niñas y adolescentes frente a la difusión de imágenes falsas o difamatorias mediante IA. Reiteramos, no se trata de un daño menor: compromete directamente el derecho a desarrollarse en un entorno libre de violencia y estigmatización, y puede afectar el desempeño escolar, los vínculos sociales, la salud psíquica y el proyecto de vida.
El correcto abordaje y tratamiento precisa de políticas de estado en materia de ciberseguridad y derecho a la intimidad infantil, que controlen la manipulación de datos con mecanismos efectivos que permitan identificar agresores y sancionarlos. Al mismo tiempo, se deben adoptar medidas de protección para las víctimas y posterior resarcimiento de los daños causados. Esto requiere de procedimientos efectivos de bloqueo del material falso y control de los servicios proveedores de internet involucrados.
Por esto se afirma que, dada la gravedad de la violación al derecho a la intimidad, especialmente cuando se trata de material sexual explicito, cuando el contenido afecta al honor, la dignidad o reputación es necesaria la previsión y sanción legal punitiva eficaz para su tratamiento. (Ramos Zaga, 2024)
La doctrina indica que deben existir políticas públicas de concientización, sensibilización y educación social sobre la violencia y delincuencia tecnológica, sus implicancias y riesgos (Dupuy, 2025).
La especial protección y tutela de la niñez y el compromiso asumido por el Estado Argentino de prevenir, erradicar y sancionar la violencia es un compromiso que involucra a todos los miembros de la sociedad y no solo a las autoridades de los tres poderes del Estado. “El estado tiene la obligación de la prevención que incluye medidas para crear conciencia de la violencia on line, así como de establecer un marco jurídico apropiado de protección” (Basset, 2022, p. 195)
Sin dudas, la prevención de la violencia digital no puede recaer únicamente en los legisladores, órganos del ejecutivo y de la respuesta judicial posterior. El paradigma de protección integral supone una mirada intersectorial: Estado, familias, instituciones educativas, plataformas y comunidad deben asumir responsabilidades complementarias cuando de niñas, adolescentes en su condición de mujeres, en su derecho a la igualdad de géneros y especial protección de las infancias se trata.
En cuanto a los deberes Estatales, agrega prestigiosa doctrina preocupada por los derechos de las infancias nos enseña que los poderes legislativo, ejecutivo y judicial deben proteger a las víctimas mediante procedimientos que permitan la supresión inmediata del contenido prejudicial; prever medidas de cooperación interjurisdiccional; facilitar el acceso a servicios de contención y acompañamiento a las víctimas y prever procesos de juzgamiento, sanciones y resarcimientos para las partes involucradas en el conflicto.
También, recolectar datos e información necesaria por sexo que permita evaluar el progreso en materia de derechos a la igualdad de géneros; tipificar las nuevas formas de delitos que configuran violencia digital; capacitación a operadores jurídicos (abogados y funcionarios del Poder Judicial) a la policía y demás funcionarios públicos y realizar campañas de divulgación y elevación periódica de informes de estado de progreso en la temática (Basset, 2022, p 195-196)
En particular, familias y educadores cumplen un rol decisivo como espacios primarios de socialización y formación ética, de allí la importancia que estos temas se hablen en las familias y se debatan también en diferentes espacios de formación como las instituciones educativas y medios de comunicación para crear conciencia y sensibilización social sobre la problemática.
En las familias, los progenitores tienen el deber de acompañar, orientar y establecer pautas para el uso responsable de la tecnología a sus hijos menores de edad. Esto implica educar en el respeto por la imagen ajena, la comprensión del consentimiento, la empatía y la conciencia del daño. Naturalizar la circulación de contenidos falsos como “broma” o “juego” favorece la repetición de la violencia y desplaza sobre la víctima la carga de la vergüenza. “La era digital supone nuevos retos para la familia en la educación y el correcto cuidado psicofísico de los niños frente a nuevos ámbitos de riesgo como lo constituyen los entornos digitales” (Sueiro, 2022, p. 519)
En el ámbito educativo, la responsabilidad se vincula con la obligación de garantizar entornos de aprendizaje seguros y libres de violencia. Las instituciones educativas no sólo deben preparar a los niños, niñas y adolescentes en el aprendizaje de contenido académico, sino también en valores y derechos formando ciudadanos responsables y de buena fe. Pero además, deben colaborar con las familias en la formación para la vida adulta. La alfabetización debe ser digital y requiere incorporar contenido y conceptos desde una dimensión jurídica y de derechos humanos: igualdad de género, no discriminación, prevención del hostigamiento y uso ético de la IA.
El Día Internacional de la Mujer, es un día especial de conmemoración de la lucha histórica de las mujeres por la igualdad. Un día para reflexionar sobre el pasado, el presente y el futuro de las mujeres en una sociedad tecnológica que avanza más rápido que la legislación.
Este día ofrece la oportunidad de realizar autocriticas, para debatir, pensar y proponer soluciones eficaces a las desigualdades que aún persisten brindando efectiva protección a las mujeres niñas y adolescentes que viven la problemática de la violencia on line, asumiendo cada uno desde el lugar que nos toca como miembros de una misma sociedad responsabilidades compartidas en la certeza de que así y solo así se construye un futuro mejor para la humanidad.
(*) Secretaria Juzgado de Familia Niñez y Adolescencia N°3 – Especialista en Justicia Constitucional y Derechos Humanos, con orientación en grupos vulnerables (Universidad de Bolonia, Italia) – Especialista en Teoría y Técnica del Proceso Judicial (Facultad de Derecho, Ciencias Sociales y políticas, UNNE) – Magister en Magistratura y Función Judicial – Maestranda en Familia, Niñez y Adolescencia (Facultad de Derecho Ciencias Sociales y Políticas, UNNE) – Doctoranda en Derecho (Facultad de Derecho Ciencias Sociales y Políticas, UNNE)
