El Juzgado de Familia, Niñez y Adolescencia de Corrientes, en el marco de una acción destinada a la protección de la niñez y adolescencia, ordenó al ENACOM proceder al bloqueo de una herramienta digital que, a través de la inteligencia artificial, difundió imágenes simuladas de desnudez con los rostros de adolescentes.
Las juezas a cargo, Dra Marta Legarreta y Verónica Saavedra Casco, consideraron que si bien las imágenes fueron creadas y luego difundidas por whatsapp -por un menor de edad aún no identificado-, no es menos cierto que el daño actual y concreto sobre las adolescentes se materializó a través del uso de la aplicación que facilitó la creación del contenido sexual simulado sin control ni verificación de edad, ni filtros preventivos, permitiendo el uso de imágenes de terceros sin consentimiento.
En su fallo, las magistradas explicaron que la aplicación presenta “serias problemáticas vinculadas a la violación de privacidad”, al permitir la creación y distribución de imágenes íntimas sin consentimiento explícito. Tambipén, que facilitaba riesgos de abuso: acoso, extorsión, difusión indebida de imágenes no consentidas, al permitir la manipulación de imágenes sin autorización explícita, violando la dignidad personal.
De acuerdo con el informe técnico, la herramienta no solo carece de mecanismos de autenticación, sino que tampoco ofrece garantías mínimas de almacenamiento seguro ni información sobre los desarrolladores o responsables de su mantenimiento. La magistrada remarcó que este tipo de entornos digitales no garantiza barreras efectivas de edad ni consentimiento, lo que “expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica”.
El juzgado correntino invocó en su decisión normativa nacional e internacional vinculada a la protección de la niñez y la prevención de la violencia de género, entre ellas, la Ley Olimpia (Ley N° 27.736).
En virtud del fallo, se dispuso dar intervención al ENACOM a fin de que adopte toda medida necesaria, por sí o a través de las ISP (Internet Service Provider) para proceder al bloqueo de forma inmediata del acceso desde el territorio argentino al sitio web de la aplicación y bloqueen todos los servidores DNS sujetos a su control.
Con información de Palabras del Derecho