En los últimos años, la Inteligencia Artificial (IA) ha revolucionado la forma de interacción con el mundo digital. Entre sus aplicaciones, una de las más controvertidas en términos de seguridad, es la tecnología deepfake, es decir la creación de imágenes, audios o videos ultrarrealistas manipulados por IA, capaces de suplantar rostros y voces de manera casi indetectable.
Atendiendo a esta problemática, en una iniciativa interinstitucional e interdisciplinaria, lanzaron una guía para acompañar la incursión segura de niños, niñas y adolescentes en las tecnologías, útil para entornos familiares y escolares.
Laura Victoria Bonhôte, abogada especializada en Infancia y Adolescencia, dialogó con Radio Unne sobre una iniciativa que busca acompañar a las familias en la incursión tecnológica de menores de edad. Señaló la necesidad del control parental para prevenir la manipulación de su identidad vía herramientas de IA.
Bonhôte apuntó: «Este trabajo viene de hace dos años con el boom de acceso a Open IA, y la disposición que hoy hay en torno al uso de IA generativa sin ningún tipo de control ni de protección de datos. Esto quiere decir que cualquier persona, independientemente de su edad, puede hacer uso de estas herramientas».
«Estamos empezando a tomar conciencia de cuáles son los beneficios del uso de las tecnologías, pero también los riesgos. Las familias tienen que tomar conciencia de cuáles son las dificultades que pueden enfrentar los chicos dentro de los entornos digitales, para acompañar y educar», explicó la especialista en el aire de la FM 99.7.
El material, titulado Deepfakes e Infancias. Proteger identidades digitales busca acompañar el acceso temprano a la tecnología, facilitando la interacción de los jóvenes con herramientas de IA, sensibilizar para su utilización lúdica y atendiendo a los riesgos y fomentar la protección. Se trata de una iniciativa del Ministerio de Justicia y Derechos Humanos de la provincia de Santiago del Estero, acompañada por la Universidad de Buenos Aires, la Universidad de Rosario y la Sociedad Argentina de Inteligencia Artificial.
«El interés superior del niño es un principio que viene de la Convención Internacional sobre los Derechos del Niño y para todos aquellos que trabajamos en temáticas de infancia, es nuestro Norte. Otra cuestión fundamental es la autonomía, que en nuestro país viene de la mano de la legislación civil. Es aquello que también tratamos de analizar y de dar respuestas: a medida que van creciendo tienen mayor posibilidad de brindar consentimiento respecto a uso de imagen», señaló Bonhôte.
CONSECUENCIAS
En el caso del ciberacoso y el bullying digital, los deepfakes pueden ser utilizados para crear videos o imágenes humillantes de niños y adolescentes, difundiendo contenido falso que daña su integridad. Estos materiales pueden circular en las escuelas y redes sociales, incrementando la presión y el malestar psicológico de la víctima. La IA también puede ser utilizada para generar imágenes o videos sexuales falsos de menores de edad.
La especialista indicó que no existen datos oficiales sobre las afectaciones a menores de edad por deepfakes. Son los casos más resonantes que llegan a visibilizarse en el plano mediático o vía denuncia penal, como suele ocurrir con los casos vinculados a la violencia sexual digital. La abogada advirtió: «Muchos de los casos que estamos viendo y diría más del 90 por ciento son casos que se gestaron en las aulas, con víctimas niñas, mujeres».
«Las consecuencias están presentes y perduran, sobre todo cuando hablamos de infancias. No se soluciona con borrar un material de Internet. Genera una gran afectación emocional», detalló Bonhôte y apuntó a la importancia de la toma de conciencia, la información, el conocimiento, el control parental y la prevención para la protección de niños, niñas y adolescentes frente a la manipulación de su imagen y datos personales.
De qué se tratan las llamadas deepfakes
Las deepfakes son contenidos manipulados de video, audio o imagen, que parecen reales y que son creados para suplantar la identidad de otras personas o incluso crear el físico de personajes inexistentes. Son materiales que son editados o generados utilizando herramientas de inteligencia artificial, y que pueden mostrar personas reales o inexistentes. Son un tipo de medio sintético y una forma moderna de broma mediática.
El término combina la palabra fake (falso, ya que este tipo de archivos siempre son falsos, aunque se haga todo lo posible porque parezcan reales) y la palabra deep, proveniente de «deep learning» (aprendizaje profundo, que es un tipo de aprendizaje automático de la inteligencia artificial).
La capacidad de parecer tan reales viene dada por la capacidad de modelado que tienen los programas informáticos dedicados a realizar los deepfakes, que tratan de asemejarse lo más posible al funcionamiento de las redes neuronales y del cerebro humano, facilitando que nuestros sesgos cognitivos y esquemas mentales nos traicionen.
Pueden presentar incongruencias en algunas dimensiones. Presta atención a los ojos y las cejas. ¿Aparecen sombras en lugares donde esperarías? Los deepfakes pueden no representar completamente la física natural de una escena.
El uso de un Sistema de Gestión de Contenidos puede facilitar actividades fraudulentas mediante la creación de contenidos deepfakes. Asimismo, cualquier medio que se utilice para difundir contenidos engañosos, puede servir como herramienta para actividades delictivas.