Una mujer mantiene una relación sexual apasionada con su cuñado hombre lobo en TikTok, mientras que otra queda embarazada de un dragón, y los niños pueden verlo todo.
Bienvenidos a la nueva era de los «microdramas» generados por IA , donde la basura explícita y absurda de las telenovelas invade internet, incluidas las pantallas de los adolescentes, sin ningún tipo de regulación.
Estos clips generados por IA provienen de la industria china de cortometrajes verticales ( duanju ), una operación de 14 mil millones de dólares que inunda las redes sociales con contenido adictivo y, a menudo, para adultos.
Entre las plataformas clave se encuentran PineDrama de TikTok, junto con las principales aplicaciones chinas ReelShort y DramaBox , que presentan historias románticas y de fantasía con episodios de tan solo 1 a 2 minutos de duración.
Cuando un usuario ve el «episodio» completo, el algoritmo de TikTok registra su atención como un interés profundo y comienza a enviarle aún más contenido erótico de dragones a su feed.
Pero a diferencia de Netflix y YouTube, TikTok no tiene un filtro para niños, lo que significa que este contenido explícito y engañoso puede aparecer en la cuenta de cualquier joven. (La edad mínima requerida en TikTok es de tan solo 13 años).
Y hay millones de jóvenes en TikTok.
Los adolescentes mayores, de entre 15 y 17 años, son el grupo de edad más popular en la aplicación (representan el 74% de sus 1.600 millones de usuarios mensuales, según se informa), y alrededor del 58% tienen entre 13 y 14 años.
Esto significa que cuentas con nombres vagos como @qwsa9fg pueden inundar TikTok con cientos de microdramas explícitos generados por IA, aparentemente sin restricciones. Los subtítulos de los videos luego incitan a los usuarios a descargar Shortmax, una plataforma de microdramas con sede en China.
Además de los vídeos generados por IA con tocamientos y manoseos, también hay violencia interpersonal. Un vídeo muestra a un hombre apuñalando a su novia en el pecho y abofeteándola.
Y dado que los anuncios de microdramas aparecen como contenido orgánico o como anuncios pagados, el contenido se muestra constantemente, incluso cuando los usuarios intentan bloquearlo.
Lo que es aún más preocupante, estos microdramas de TikTok suelen ser anuncios de granjas de contenido con inteligencia artificial que «parecen permitir o fomentar la creación de deepfakes sexuales no consensuales», según Alon Yamin, director ejecutivo de la empresa de detección de IA Copyleaks.
En otras palabras, el fantasma erótico lleva a una empresa que producirá contenido erótico real utilizando fotos de personas reales, incluso si esas personas no han dado su consentimiento para que su imagen se utilice en romances simulados o incluso en pornografía.
Yemin declaró a The Post que Copyleaks ha identificado cerca de 50 aplicaciones en la App Store de Apple que utilizan inteligencia artificial para generar deepfakes sexualmente explícitos.
Un portavoz de Apple declaró a The Post que el equipo de revisión de aplicaciones de Apple tomó medidas para eliminar las tres aplicaciones citadas en el informe de Copyleaks de la App Store el 29 de julio.
Apple declaró a The Post que las aplicaciones de «desnudez» van en contra de sus directrices y que trabajan para rechazar y eliminar las aplicaciones cuando los usuarios las denuncian.
Según el estudio de Copyleaks, prácticamente todas estas aplicaciones se promocionaron a través de anuncios de TikTok.
“Los anuncios solían tener un carácter sexual y mostraban ejemplos de cómo se podían utilizar las aplicaciones para crear deepfakes gráficos”, indicaba el informe.
Un anuncio de TikTok incluso dirigía a los usuarios a un sitio web con «Plantillas picantes» para deepfakes de IA no consensuales , incluyendo una opción «Desactivar capa» que ofrecía una variedad de plantillas de fotos de desnudos y sexualizadas.
Otra serie de TikTok promocionaba una cura para la disfunción eréctil que, al hacer clic, conducía a deepfakes de celebridades como Arnold Schwarzenegger y Sylvester Stallone con imágenes explícitas.
Copyleaks señaló que muchas de estas aplicaciones impiden a los usuarios tomar capturas de pantalla y grabar la pantalla, lo que dificulta que las personas denuncien las infracciones en línea a las autoridades.
La falta de medidas de seguridad permite que estos anuncios se filtren en las pantallas de los preadolescentes.
«Prácticamente ya no existen barreras de entrada para estos servicios», declaró Yamin a The Post. «Nuestros hallazgos deberían preocupar a cualquiera que se centre en la seguridad digital y la difusión de contenido sexualmente explícito no consentido en línea».
Tessa Stucky, asesora de crianza y experta en salud mental, declaró a The Post que el contenido sexualmente explícito puede traumatizar a los niños mucho después del primer contacto.
“Para ellos, el mundo virtual no se queda solo en internet”, declaró Stucky al Post. “Lo llevan consigo en la mente y en el corazón. Vienen a mi consulta con ansiedad, miedo y, a veces, vergüenza”.
Además de sentir autodesprecio y vergüenza persistente por haber visto contenido que no eligieron, los niños también pueden recibir ideas distorsionadas sobre las relaciones y el sexo, según Stucky. Y físicamente, observa con frecuencia problemas de sueño en niños que no pueden sacarse un video de la cabeza.
“Tengo hijos varones y no quiero que vean pornografía… Podrían interesarse en ella y seguir desarrollando su tendencia a verla”, dijo Stucky.
Añadió que los jóvenes expuestos a contenido pornográfico a temprana edad pueden volverse tan adictos que aumentarán la intensidad del contenido a medida que se insensibilizan. Teme que la IA haga que el contenido con contenido explícito sea más accesible , ya que los actores de IA no pueden dar su consentimiento a las tramas y los clichés dañinos que se seleccionan.
Su investigación demuestra que los niños expuestos a contenido sexual pueden ser más agresivos y violentos en sus futuras experiencias sexuales o sufrir disfunción eréctil en la edad adulta.
El Post envió a TikTok vídeos de ejemplo de microdramas creados con inteligencia artificial para que dieran su opinión.
En un correo electrónico, el publicista de TikTok, Zachary Kizer, respondió: «Tras revisar (los vídeos), no pudimos encontrar estos anuncios en nuestra plataforma; los ejemplos compartidos parecen ser contenido subido por el usuario y una página de perfil».
“De los vídeos a los que se refirió, uno ha sido eliminado y los dos restantes han sido etiquetados en consecuencia, limitando su distribución”, dijo.
También envió las políticas publicitarias que establecen: «Prohibimos la publicidad pagada de contenido sexualmente explícito, sugerente o que muestre desnudez» y «No permitimos servicios que creen contenido con fines de placer sexual o con intenciones sexuales».
TikTok también afirmó que “el contenido marcado con advertencias por material violento, gráfico o sensible no es apto para ser recomendado en la sección ‘Para ti’ ”.
Pero expertos como Yamin afirman que este contenido aún puede aparecer en los algoritmos de los usuarios si no está etiquetado correctamente o si los programas de IA pueden eludir esas etiquetas.
