Con los riesgos que conlleva, el uso de la Inteligencia Artificial (IA) se transformó casi en una cotidianeidad, tanto para adultos, como para adolescentes y jóvenes que, sin conocer los peligros que atrae, emplean la IA para estudios, recreación y en algunas ocasiones, hasta con fines delictivos.
Hace casi dos semanas, el Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres dictó una medida cautelar para proteger a un grupo de adolescentes cuyos rostros fueron utilizados sin consentimiento en imágenes íntimas falsas, generadas mediante IA. La resolución ordenó al Ente Nacional de Comunicaciones (Enacom) el bloqueo inmediato del sitio web desde el territorio argentino, hasta tanto se acredite el cese del riesgo de daño.
El caso se inició a raíz de la denuncia del tutor de una alumna, quien advirtió que los rostros de varias adolescentes fueron utilizados en una aplicación capaz de simular la eliminación de ropa en imágenes reales, lo que generaba contenido sexual falso. La tecnología, de acuerdo a lo que determinó el informe del Área de Seguridad Informática del Poder Judicial de Corrientes, emplea modelos avanzados de IA, como redes generativas antagónicas y modelos de difusión, para crear imágenes manipuladas sin verificar edad ni consentimiento.
Así, el contenido generado fue difundido a través de la aplicación de mensajería instantánea Whatsapp, lo que multiplicó su alcance y agravó el daño causado. La jueza que intervino en el caso señaló que el uso de esta tecnología «no garantiza barreras efectivas de edad ni consentimiento».
«La resolución se emitió tras tomarse conocimiento del uso de esta herramienta tecnológica y su difusión a través de Whatsapp. La jueza del caso advirtió que el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento», indicaron desde el Poder Judicial.
Según el informe técnico, la aplicación carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que aumenta el riesgo de abuso, acoso y difusión no consentida de imágenes íntimas.
«Se indicó que utiliza modelos avanzados de Inteligencia Artificial, como redes generativas antagónicas (GAN) y modelos de difusión, para simular la eliminación digital de ropa en fotografías reales, generando imágenes manipuladas que violan la privacidad y dignidad de las personas», detalla el informe.
Ante esa situación, la Justicia dejó claro que el objetivo no es solo frenar la circulación de este contenido, sino también prevenir nuevos daños en un ámbito digital que, en muchos casos, permanece desprotegido ante el constante avance tecnológico.
La difusión a través
de las redes sociales
A los riesgos propios de la Inteligencia Artificial se suman los de la difusión en redes sociales y el peligro que eso conlleva. Hace varios días, condenaron en el Chaco a tres personas por la difusión de fotografías íntimas de una mujer, sin su consentimiento, a través de la aplicación de mensajería instantánea Whatsapp. Se suma al caso en Corrientes, desde donde se ordenó el bloqueo de una web por la creación de imágenes falsas con IA, por lo que vuelve a cobrar relevancia el uso de las plataformas digitales, su alcance y consecuencias.