Deepfakes: ¿diversión inofensiva o arma de intimidación?

En julio de 2024, la BBC informó sobre el caso de una niña de 12 años que fue víctima de una nueva forma de acoso cibernético: el deepfake. Los acosadores de su escuela publicaron una foto alterada de la niña en Snapchat. Usando herramientas de IA, agregaron su rostro a una imagen pornográfica creando un deepfake. Sus compañeros de escuela siguieron publicando la foto, mientras que la víctima estaba cada vez más traumatizada.

Lamentablemente, este no es un caso aislado, ya que los deepfakes son muy fáciles de crear y pueden causar graves problemas a sus víctimas.

Como ya sabrás, los deepfakes utilizan el aprendizaje profundo (que es un subconjunto del machine learning) para crear imágenes, vídeos o audio muy realistas. Esta tecnología imita la voz o la imagen de su objetivo y la superpone a una grabación o imagen existente. Las aplicaciones y el software de deepfake suelen ser bastante fáciles e intuitivos de usar, y crean ilusiones convincentes. Si bien esto puede ser positivo para varios proyectos creativos, también es un gran atractivo para los acosadores.

Se pueden crear versiones sencillas de deepfakes con aplicaciones como FaceApp o FaceSwap. Algunos deepfakes se han vuelto virales, como los vídeos de figuras públicas como Elon Musk, Joe Biden o Volodymir Zelensky. Estos vídeos se han utilizado principalmente para difundir noticias falsas.

Según un estudio de la empresa de inteligencia artificial Deeptrace, el 96% de los vídeos deepfake que circulan en Internet son pornográficos y, en muchos casos, no consentidos. Este problema sigue sin resolverse a nivel legal. Los deepfakes también se han utilizado como arma para dañar reputaciones y carreras, pero se presta menos atención a cómo afectan a los niños.

La facilidad de uso ha convertido a los deepfakes en una herramienta popular para el acoso escolar. Por ejemplo, se puede insertar la cara de un niño en un vídeo musical con un baile sugerente. El daño emocional y la humillación que sufre el niño como resultado pueden dañar su autoestima y también sus relaciones en la escuela.

Por supuesto, los deepfakes también pueden utilizarse de forma positiva. Por ejemplo, los niños pueden convertirse en estrellas virtuales de sus películas o juegos favoritos o conocer a su celebridad favorita. El Museo Dalí de Florida utiliza la tecnología deepfake para crear una experiencia interactiva en la que una representación realista del artista saluda a los visitantes. Por lo tanto, si bien los deepfakes pueden fomentar la creatividad y la participación, es importante mantenerse informado y enseñar a los niños sobre las precauciones que deben tomar contra su uso indebido.

Empieza por lo obvio: analicen el asunto juntos. Puede sorprenderte descubrir que, debido a su gran habilidad con la tecnología, tus hijos ya saben detectar contenido falso en línea. Centra tu atención en cuestiones como la responsabilidad, el consentimiento y la importancia de no usar su rostro o su voz sin su permiso. Crea un espacio seguro para ellos y hazles saber que siempre pueden acudir a ti o a las autoridades de la escuela si sufren acoso mediante deepfakes.

Aunque los deepfakes son cada vez más difíciles de detectar, hay algunas señales que pueden ayudar. Busca irregularidades como parpadeos poco naturales, audio inconsistente y movimientos de labios o fallas cerca de la línea del cabello o la cara. Las inconsistencias en la iluminación, como sombras desiguales o diferentes reflejos en los ojos, también pueden ser pistas. Considera también el contenido en sí: si el mensaje parece escandaloso o emocionalmente manipulador, podría ser un deepfake. Ten en cuenta que a medida que la tecnología mejora, estos indicadores pueden volverse más difíciles de detectar.

Habla con tus hijos sobre la posibilidad de compartir fotografías y videos de ellos mismos en grupos públicos. Explícales cómo estos pueden usarse fácilmente para crear deepfakes y sugiere alternativas que fomenten un comportamiento más reflexivo en línea. Sugiéreles que solo compartan fotos en chats grupales privados con amigos cercanos o familiares y que reduzcan la exposición. Enmarcar estas precauciones como opciones de empoderamiento en lugar de restricciones puede alentar una respuesta más positiva.

Si bien es cierto que puedes educar a tu hijo, él también puede enseñarte algunos conocimientos interesantes a cambio. Tal vez incluso use aplicaciones como FaceApp o FaceSwap y puedan crear juntos algunos videos inofensivos y divertidos para educarse mutuamente. Tu hijo aumentará su comprensión de esta tecnología y, al mismo tiempo, aprenderá sobre su uso ético.

Si buscas capas adicionales de protección, explora soluciones de seguridad diseñadas para monitorear y administrar los riesgos en línea para los niños, como los paquetes de seguridad ESET HOME . Estos pueden ayudarte a monitorear los sitios que visitan tus hijos a través del control parental. También ofrecen protección de identidad en línea y cifrado de datos y fotografías confidenciales.

La tecnología deepfake tiene un gran potencial y ofrece muchas oportunidades creativas para tus hijos, pero también existen riesgos que debes conocer. Para ser un mejor guía digital para tus hijos, mantente informado/a sobre los peligros, pero también fomenta el uso creativo. Explícales la ética de las deepfakes y anímalos a buscar ayuda si sufren acoso.

Fuente: SaferKidsOnline.com