TikTok ha anunciado que comenzará a etiquetar automáticamente los vídeos generados por inteligencia artificial (IA), incluyendo aquellos creados en otras plataformas. Esta medida convierte a TikTok en el primer recurso importante que aplica etiquetas digitales a contenido de IA de manera automática. Actualmente, la plataforma ya marca los vídeos creados con sus propias herramientas de IA y exige a los creadores que etiqueten manualmente dicho contenido. Sin embargo, hasta ahora, los usuarios han podido eludir estas reglas al descargar y subir material generado por IA desde otras plataformas.
La compañía informó que empezará a utilizar etiquetas digitales desarrolladas por la Coalition for Content Provenance and Authenticity (C2PA) para identificar y etiquetar el mayor volumen posible de contenido de IA. Adam Presser, jefe de operaciones, confianza y seguridad de TikTok, destacó: "La IA abre posibilidades creativas increíbles, pero puede resultar confuso para los espectadores si no saben que el contenido fue creado por IA. Es por eso que etiquetamos el contenido creado con la inteligencia artificial de TikTok y hemos exigido a los creadores que etiqueten dicho contenido durante más de un año".
Implementación de Credenciales de Contenido
TikTok aplicará la tecnología de etiquetado digital, denominada Credenciales de Contenido, a los vídeos subidos a su plataforma. Esto permitirá que otras plataformas determinen "cuándo, dónde y cómo se creó o editó el contenido". Sin embargo, esta etiqueta se limitará a contenido creado por otras plataformas que también son miembros de la C2PA, que incluye a grandes actores de la IA como Microsoft, Google y Adobe. OpenAI, que se unió al grupo recientemente, también ha comenzado a usar la tecnología de Credenciales de Contenido y planea incorporarla en su modelo de IA para creación de vídeos, Sora.
Limitaciones y desafíos
No obstante, los modelos de IA más pequeños y menos regulados continuarán produciendo contenido sin etiquetar durante algún tiempo. Herramientas de código abierto como Stable Diffusion, cuyo código puede descargarse de forma gratuita, siempre pueden modificarse para eliminar el etiquetado de imágenes. Aunque Stability.AI, uno de los creadores de Stable Diffusion, es miembro del C2PA, la startup de IA Midjourney, otra herramienta popular de generación de imágenes, no está en la lista de participantes.
Comparación con otras plataformas
Los planes de etiquetado de TikTok siguen los pasos de Meta, que hizo una declaración similar en febrero. Sin embargo, los esfuerzos de etiquetado no han sido completamente efectivos para detener la proliferación de imágenes generadas por IA, especialmente en Facebook. Otras aplicaciones de redes sociales han sido más lentas en adoptar estas decisiones. Por ejemplo, Snapchat etiqueta el contenido creado con sus propias herramientas, pero advierte a los usuarios que “las imágenes creadas con productos que no son de Snap no pueden marcarse como generadas por IA”. Por otro lado, X, anteriormente conocido como Twitter, no tiene un sistema de etiquetado automático y se basa en "informes de los usuarios" para combatir las imágenes falsas.
Preocupaciones y medidas en Europa
En Europa, TikTok ha enfrentado suspensiones en países como Francia y España debido a preocupaciones sobre la adicción en los niños. La plataforma ofrece recompensas en forma de certificados de regalo por ver vídeos, lo que ha generado inquietudes. El comisionado digital Thierry Breton afirmó que TikTok "no logró demostrar" que su nueva función TikTok Lite cumple con los requisitos de la Ley de Servicios Digitales (DSA) de la Unión Europea.
En resumen, la medida de TikTok para etiquetar automáticamente el contenido generado por IA es un paso importante hacia una mayor transparencia en el contenido digital. Sin embargo, la efectividad de esta iniciativa dependerá de la cooperación entre las plataformas y la adopción de estándares similares en toda la industria tecnológica.