¿La IA está potenciando una nueva ola de ciberacoso?

Autora: Alžbeta Kovaľová

En la era digital actual, los niños no solo crecen inmersos en la tecnología, sino también en el ámbito cada vez más amplio de la inteligencia artificial (IA). Aunque la IA ofrece comodidad y eficiencia, su omnipresencia en la vida de los niños también ha introducido una nueva serie de preocupaciones, en particular la aparición de esquemas de extorsión digital dirigidos a los miembros más jóvenes de nuestra sociedad. Desde las plataformas de redes sociales hasta las comunidades de juegos online, las herramientas de IA se han convertido en una parte integral de la vida de los niños, facilitando nuevas formas de uso indebido de las mismas y proporcionando una nueva herramienta que pueden utilizar contra los demás.

Según una reciente advertencia del FBI, la IA está favoreciendo una tendencia creciente hacia la sextorsión. Las nuevas herramientas y tecnologías, como los deepfakes y la clonación de voz, brindan a delincuentes y acosadores nuevas oportunidades para extorsionar y hacer daño.

La sextorsión ocurre cuando una persona presiona a otros para que realicen actos sexuales o compartan fotos o videos explícitos, amenazándolos con revelar información embarazosa sobre ellos.

Los ciberdelincuentes han descubierto cómo utilizar modelos de deepfake para crear videos falsos que parecen auténticos, haciendo que se asemejen a alguien en particular y luego presionando a esa persona para que realice acciones que de otro modo no haría. Estos modelos requieren muy poco material, lo que facilita su uso indebido. Si bien los nuevos videos y fotos falsos no representan a la persona real, son lo suficientemente convincentes como para avergonzar a la víctima y hacerla más vulnerable, permitiendo al delincuente exigir dinero o información.

Recuadro: Mira la entrevista en video a Ondrej Kubovic, donde se discute la preocupación acerca de la inteligencia artificial y su papel en el ciberacoso.

¿Es cierto que los niños están creando pornografía deepfake?

Sí. Leíste bien: el rostro de tu querido hijo puede ser robado y utilizado por delincuentes para crear todo tipo de contenido explícito. Y lo peor es que los mismos niños también están creando estos contenidos.

Crear deepfakes es sorprendentemente accesible, en especial para jóvenes expertos en tecnología. Este fenómeno ha desencadenado una nueva ola de ciberacoso, donde principalmente los adolescentes han descubierto que pueden usar los contenidos explícitos contra sus compañeros. Han adquirido un profundo entendimiento de las nuevas tecnologías y las están empleando para infligirse daño mutuo.

Impacto emocional

Es posible que algunos jóvenes lo hagan por diversión, otros por simple curiosidad, y algunos con la intención de perjudicar a sus compañeros. Sin embargo, independientemente de las motivaciones, ser víctima de una estafa de sextorsión resulta emocionalmente agotador y extremadamente difícil de “ superar .”

Este nuevo tipo de ciberacoso está generando un nivel de preocupación sin precedentes entre padres, educadores y profesionales de la tecnología. Las repercusiones para los niños son considerablemente más graves de lo que se suele imaginar. La lista de consecuencias a largo plazo es interminable: desde traumas que pueden perdurar durante años, hasta la pérdida de confianza y la exposición ante futuros empleadores y relaciones amorosas.

¿La respuesta está en poner límites más estrictos?

Algunos argumentan que la única manera de contener la propagación de este problema es mediante la implementación de normativas más rigurosas. Se propone elevar la edad mínima para la creación de cuentas en redes sociales, mientras que otros abogan por normas más estrictas en cuanto a la moderación de contenidos.

¿Qué pueden hacer los padres?

1. Entiende el mundo en el que viven tus hijos: tú no tenías redes sociales a su edad, pero ellos están creciendo en una época completamente nueva. Comprender el mundo que los rodea es clave para cualquier progreso.
2. Explica, explica, explica: hace tiempo se ha demostrado que las restricciones estrictas en el uso de la tecnología no funcionan. Los niños siempre encuentran la manera. Por eso, lo mejor es hablar con ellos y explicarles los riesgos y desventajas de las redes sociales, de una netiqueta inapropiada, y de hacer daño a los demás en Internet.
3. Sé su lugar seguro: tanto el agresor como la víctima necesitan a alguien con quien conversar. Ser una figura de apoyo segura y sin prejuicios para tus hijos puede prevenir muchos de los daños que podrían enfrentar, ya sea online u offline.
4. Demuéstrales lo que valen: una autoestima sana empieza en casa. Si la tienen, no necesitarán buscar validación en otra parte.
5. Tus hijos nunca son demasiado jóvenes para empezar a aprender sobre tecnología: cuanto más les enseñes, mejor preparados estarán cuando ocurra algo malo. Debes ser su ejemplo del uso apropiado de Internet, su guía.

El aumento del ciberacoso, facilitado por las herramientas de IA, plantea un problema en los tiempos que corren. A medida que avanza la tecnología, padres y educadores deben mantenerse alertas e informados. Abordar un problema como la sextorsión y el ciberacoso nunca ha sido fácil, pero para tener éxito tenemos que hablar con nuestros hijos y asegurarnos de que entienden lo bueno y lo malo de Internet. Una cosa es crear una IA ética y velar por su buen uso, pero otra muy distinta es crear una cultura de empatía, respeto y comportamiento responsable tanto en la red como fuera de ella. Sé un ejemplo para tus hijos y crea un espacio más seguro para ellos en Internet.