La explosión de contenido generado por inteligencia artificial en TikTok ha obligado a la plataforma a tomar medidas urgentes. Con millones de vídeos sintéticos circulando diariamente, la red social propiedad de ByteDance ha anunciado un nuevo sistema de marca de agua invisible que permitirá identificar y gestionar mejor este tipo de contenido. Esta medida, que se probará en las próximas semanas, busca no solo mejorar la transparencia, sino también proteger a sus usuarios de estafas y desinformación que cada vez se vuelven más sofisticadas.
El reto de la IA en el feed
TikTok enfrenta un dilema creciente: mientras la inteligencia artificial impulsa la creatividad y la personalización del contenido, también abre la puerta a abusos. Desde deepfakes hasta anuncios falsos en TikTok Shop, los riesgos son reales y crecientes. En la primera mitad de 2025, la plataforma eliminó más de 70 millones de productos fraudulentos, un aumento del 40% respecto al segundo semestre de 2024. Según Nicolas Waldmann, director de asuntos externos de TikTok Shop, estos casos no son simples errores, sino parte de una red organizada de estafadores que aprovechan la tecnología para engañar a los usuarios.
Para combatir esto, TikTok no solo se enfoca en la detección automatizada, sino también en empoderar a sus usuarios. La plataforma permitirá a sus más de mil millones de usuarios globales —200 millones en la Unión Europea— decidir cuánto contenido generado por IA quieren ver en su feed. Esta personalización es clave para adaptarse a las preferencias de cada usuario y reducir la exposición a contenido potencialmente engañoso.
Una estrategia multifacética
Además de la marca de agua, TikTok ha desplegado una serie de iniciativas complementarias. Entre ellas, un fondo educativo de dos millones de dólares destinado a fomentar la alfabetización en IA en hasta 12 mercados clave. Este fondo apoyará proyectos que enseñen a los usuarios a identificar contenido sintético, entender sus riesgos y usar la tecnología de forma segura.
La plataforma también ha mejorado sus sistemas de moderación automatizada. Gracias a modelos de visión por computadora, reconocimiento de audio y análisis de texto, el 86% de los contenidos que violan las normas se eliminan automáticamente. Esto ha reducido en un 34% las decisiones erróneas, lo que demuestra que la IA, cuando se usa correctamente, puede ser una aliada en la lucha contra el abuso.
La evolución de la etiqueta de contenido sintético
Desde 2023, TikTok permite a los creadores etiquetar manualmente sus vídeos como generados por IA. Hasta la fecha, esta función ha ayudado a identificar más de 1.300 millones de vídeos sintéticos. Sin embargo, la compañía reconoce que muchos más circulan sin etiquetar. La nueva marca de agua busca cerrar esa brecha, ofreciendo una capa adicional de verificación que no depende de la voluntad del creador.
Jade Nester, directora de Seguridad, Privacidad y Política Pública de Datos de TikTok en Europa, explica que esta herramienta no reemplazará los sistemas automatizados existentes, sino que los complementará. “La marca de agua nos ayudará a detectar contenido sintético de forma más precisa, especialmente en casos donde los algoritmos no pueden determinar con certeza si un vídeo es real o no”, afirma.
El papel de la comunidad
TikTok también está apostando por la participación activa de su comunidad. Los usuarios podrán reportar contenido sospechoso, y la plataforma promete responder con mayor rapidez gracias a la combinación de tecnología y moderación humana. Además, se están desarrollando guías y recursos educativos para ayudar a los creadores a entender las normas y a los espectadores a identificar señales de contenido manipulado.
Este enfoque integral —tecnológico, educativo y comunitario— refleja la complejidad del desafío que enfrenta TikTok. La IA no es un enemigo, pero tampoco un aliado incondicional. Su uso debe ser responsable, transparente y regulado. La plataforma está tomando medidas concretas para asegurar que su ecosistema siga siendo un espacio seguro y creativo para todos.
¿Qué significa esto para los usuarios?
Para los usuarios, estas medidas significan mayor control y transparencia. Podrán elegir si quieren ver contenido generado por IA, identificarlo fácilmente y reportar cualquier abuso. Para los creadores, implica una mayor responsabilidad: etiquetar correctamente su contenido y seguir las normas de la comunidad. Y para los anunciantes, un entorno más seguro, donde los productos falsos tienen menos espacio para prosperar.
En un mundo donde la línea entre lo real y lo sintético se vuelve cada vez más difusa, TikTok está tomando la delantera en la lucha por la integridad digital. Su estrategia no solo protege a sus usuarios, sino que también establece un estándar para otras plataformas que enfrentan desafíos similares. La IA está aquí para quedarse, y TikTok está decidido a asegurar que su impacto sea positivo, no perjudicial.
