En su esfuerzo por frenar el spam generado por inteligencia artificial, TikTok ha anunciado que pondrá en marcha pruebas para encontrar nuevas formas de detectar este tipo de abuso, dirigidas específicamente a los usuarios que publican contenido engañoso sobre temas políticos, financieros y médicos.
La compañía publicó la noticia en el blog de su sala de prensa, indicando que esta medida forma parte de su campaña general para ayudar a los usuarios a comprender qué constituye contenido generado por IA en su plataforma. Las pruebas comenzarán pronto, pero la compañía aún no ha revelado la fecha exacta.
El momento elegido para esta iniciativa es especialmente importante porque coincide con el período en el que la cantidad de contenido generado por IA en las redes sociales ha aumentado drásticamente. Este hecho dificulta cada vez más que los usuarios habituales distingan si cierto contenido fue creado por humanos o por máquinas.
¿Por qué estos tres temas?
En su comunicado de prensa, TikTok señaló específicamente la cobertura de eventos políticos o de actualidad, los consejos financieros y el contenido médico como áreas que serán sometidas a pruebas de detección de spam generado por IA. Este énfasis particular tiene sentido dada la naturaleza potencialmente dañina de la información engañosa publicada en estos ámbitos.
Esta selección específica coincide con los resultados ya observados por investigadores independientes. Según un informe de Kapwing, también reseñado por Search Engine Journal en junio, el contenido relacionado con la salud ocupa una de las posiciones más destacadas en cuanto al número de publicaciones generadas por IA en TikTok, superando con creces a muchas otras categorías en las que los creadores aparecen en cámara. Los vídeos con consejos sobre afecciones médicas suelen ser fáciles de producir mediante algoritmos de IA y no requieren la participación de creadores reales, lo que podría explicar el elevado número de publicaciones de baja calidad generadas por IA en esta categoría.
El asesoramiento financiero plantea problemas similares: la información engañosa sobre inversiones, impuestos o finanzas personales puede perjudicar significativamente a la audiencia, y las herramientas de IA permiten la producción rápida de grandes volúmenes de contenido genérico en este ámbito con bajos costes. El contenido político también conlleva riesgos, especialmente dado el potencial de campañas de desinformación y manipulación de la opinión pública, sobre todo en periodos de noticias delicadas.
Cómo funcionarán las pruebas de detección
La descripción proporcionada por TikTok indica que las pruebas se realizan a nivel de cuenta y no implican el análisis de videos individuales. Esto sugiere que el proceso de detección consiste en analizar los patrones de publicación de una cuenta en su conjunto, en lugar de analizar publicaciones específicas.
También es importante destacar que la actualización dará continuidad a los esfuerzos ya existentes para combatir el spam. Según TikTok, la plataforma eliminó más de 86 millones de cuentas de spam solo en el primer trimestre de este año, lo que da una idea de la magnitud del problema del spam incluso antes del lanzamiento de la actualización.
Dado que el comunicado de prensa no ofrece mucha información sobre cómo TikTok define una cuenta que cumple con los requisitos ni qué sucede con dicha cuenta una vez identificada, la implementación exacta de las pruebas no está del todo clara. No se ha proporcionado información sobre si las cuentas identificadas serán eliminadas por completo de la plataforma, si se restringirá su distribución o si se les aplicará algún otro tipo de sanción.
Este aspecto merece una atención especial, ya que la efectividad de la actualización dependerá en gran medida de la rigurosidad con la que se defina una cuenta válida. Si la definición es demasiado amplia, muchos creadores legítimos podrían tener problemas debido a sus frecuentes publicaciones sobre salud o asuntos financieros, mientras que una definición demasiado restrictiva podría provocar que la plataforma pase por alto cuentas de spam.
Cómo han respondido otras plataformas
La actualización de TikTok es solo una de las múltiples medidas adoptadas por las plataformas sociales para contrarrestar la avalancha de contenido generado por IA. Por ejemplo, en 2021 YouTube anunció actualizaciones en sus directrices de monetización, con el objetivo de abordar el contenido no auténtico. Poco después, Meta lanzó sus propias medidas, dirigidas a eliminar el contenido repetitivo y poco original.
Google también abordó el problema. En junio, la compañía publicó un informe de investigación sobre el sistema diseñado para identificar y eliminar los grupos de cuentas que generan spam mediante inteligencia artificial.
Todas estas medidas indican claramente que el problema del spam generado por IA ha sido reconocido como uno que requiere una moderación continua y activa por parte de la administración de la plataforma. A medida que se dispone de más y más herramientas de generación de contenido, las plataformas parecen competir por desarrollar sus algoritmos de detección.
TikTok se une al Comité Directivo de C2PA
Junto con la actualización para la detección de spam, TikTok ha anunciado su participación en el comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Esta coalición desarrolla el estándar C2PA, que permite rastrear el origen y la modificación de un contenido digital.
Al unirse al comité directivo, TikTok ha manifestado su objetivo de ayudar a impulsar la adopción de la tecnología más allá de la propia plataforma.
Según TikTok, la plataforma ha etiquetado más de 3 millones de vídeos como contenido generado por IA mediante una combinación de credenciales de contenido, etiquetas de creador y la tecnología de marca de agua invisible propia de TikTok.
Esta actualización refleja la reciente tendencia de adopción de sistemas estandarizados de verificación de contenido observada en otras plataformas. En mayo, Google anunció la extensión de la verificación SynthID a la Búsqueda, mientras que la verificación C2PA también se implementará próximamente.
Estas iniciativas demuestran que la industria reconoce la importancia del uso generalizado de sistemas de procedencia de contenido tanto en plataformas sociales como de búsqueda. La participación en el comité directivo, en lugar de la adopción de la tecnología como miembro regular, podría indicar que TikTok está interesado en influir en el futuro del estándar C2PA.
Por qué esto es importante para los creadores y los especialistas en marketing.
Esta actualización es de suma importancia para quienes crean contenido en tres categorías específicas señaladas por TikTok. Los temas de salud, finanzas y política se encuentran entre los nichos de marketing más populares para quienes buscan llegar a audiencias comprometidas, lo que los convierte en áreas de gran interés para las pruebas de detección de spam.
Esto significa que si creas contenido sobre alguno de estos temas, tu cuenta podría ser objeto de una revisión más exhaustiva, incluso si todas tus publicaciones cumplen con las normas y son originales y legítimas. Esto se debe a que la revisión se realiza a nivel de cuenta; por lo tanto, la forma en que publicas tu contenido puede formar parte de la evaluación de tu perfil.
Si utilizas TikTok para crear publicaciones sobre política, salud o finanzas, debes estar atento a cómo evolucionan las pruebas. Es probable que, si el proceso de pruebas afecta la visibilidad o la distribución de la cuenta, tus campañas se vean afectadas en función de los resultados.
Asimismo, aquellas marcas que trabajan con creadores de TikTok de las áreas de interés mencionadas anteriormente deberían analizar sus relaciones actuales con dichos creadores para asegurarse de que producen contenido original y debidamente citado, en lugar de depender de herramientas de generación de IA.
Mirando hacia el futuro
Todavía quedan algunas preguntas sin respuesta. La empresa no ha proporcionado información sobre los criterios para considerar una cuenta como spam ni sobre qué sucede una vez que se detecta una cuenta en dichas pruebas. Además, aún no hay una fecha exacta para el inicio del proceso, más allá de la vaga mención de "las próximas semanas".
En lo que respecta al etiquetado de contenido, no parece que TikTok haya realizado ningún cambio en su sistema de etiquetado en relación con la noticia sobre el nuevo comité.
Preguntas frecuentes
P 1: ¿Qué está probando TikTok para combatir el spam generado por IA?
TikTok está probando mejoras en sus sistemas de detección dirigidas a cuentas que publican spam generado por IA, con especial atención a la política, los consejos financieros y el contenido médico.
P 2: ¿Por qué TikTok eligió estas tres categorías?
TikTok afirmó que estas categorías son áreas donde el contenido engañoso podría afectar la confianza pública o el bienestar personal, y estudios externos han descubierto que el contenido relacionado con la salud es una fuente importante de material generado por inteligencia artificial en la plataforma.
P 3: ¿Cuándo comenzarán las nuevas pruebas de detección de TikTok?
TikTok ha anunciado que las pruebas comenzarán en las próximas semanas, aunque la compañía no ha proporcionado una fecha de inicio exacta.
P 4: ¿La detección de TikTok funciona a nivel de cuenta o a nivel de vídeo?
TikTok explicó que estas pruebas se realizan a nivel de cuenta, lo que significa que analizan el comportamiento general de la cuenta en lugar de examinar únicamente los vídeos individuales.
P 5: ¿Cuántas cuentas falsas ha eliminado ya TikTok?
TikTok afirmó haber eliminado más de 86 millones de cuentas falsas en los primeros tres meses de este año, independientemente de estas nuevas pruebas de detección.
P 6: ¿Qué es la C2PA y por qué TikTok se unió a su comité directivo?
La C2PA es la Coalición para la Procedencia y Autenticidad del Contenido, que desarrolla estándares para rastrear el origen del contenido digital. TikTok se unió a su comité directivo para ayudar a impulsar una mayor adopción de esta tecnología.
P 7: ¿Cuántos vídeos ha etiquetado TikTok como generados por IA?
TikTok ha indicado que ha etiquetado más de 3 millones de vídeos como contenido generado por IA mediante credenciales de contenido, etiquetas de creador y marcas de agua invisibles.
P 8: ¿Han tomado otras plataformas medidas similares contra el spam generado por IA?
Sí. Tanto YouTube como Meta han actualizado sus políticas para combatir el contenido no auténtico o repetitivo, y Google publicó un documento sobre la detección de redes coordinadas de spam mediante IA.
P 9: ¿Quiénes deberían estar más preocupados por esta nueva prueba?
Los creadores y profesionales del marketing que produzcan contenido político, financiero o médico en TikTok deberían prestar mucha atención, ya que estas son las categorías específicas a las que TikTok se dirige.
P 10: ¿Ha dicho TikTok qué sucede con las cuentas señaladas durante las pruebas?
No. TikTok no ha detallado qué medidas se tomarán una vez que se denuncie una cuenta, y esta sigue siendo una de las preguntas abiertas sobre el lanzamiento.
