Hay quienes quieren hacer pasar el contenido generado por IA como real. La solución de TikTok: etiquetas automáticas

La inteligencia artificial generativa (GenAI) ha llegado para quedarse. Cada vez más personas de diferentes ámbitos recurren a ella para crear piezas visuales que suelen tener una calidad sorprendente. Hace un par de años esto era impensable. Si querías crear contenido de aspecto profesional necesitabas tener ciertas habilidades de diseño.

Como podemos ver, las herramientas generativas brindan estupendas oportunidades creativas, pero llegan acompañadas de riesgos. Por ejemplo, no siempre somos capaces de identificar si una imagen o un vídeo ha sido creado o editado con GenAI. Y esto puede ser aprovechado en escenarios de fraudes o desinformación.

Etiquetas de contenido como solución

Las redes sociales están tomando cartas en el asunto. TikTok, que es una de las plataformas más populares del planeta, acaba de anunciar que está comenzando a etiquetar contenido generado por IA (AIGC). Bajo estos nuevos parámetros, si publicas una imagen creada con un servicio como DALL· E de OpenAI se añadirá la etiqueta “generado por IA”.

Aunque quieras, no tendrás la posibilidad de ocultar la mencionada etiqueta. Esto se debe a que la función de la misma es brindar transparencia a los usuarios. Muchas imágenes, como las de vacaciones “falsificadas”, pasan frente a nuestros ojos como reales cuando realmente no lo son. La etiqueta busca abordar esta situación.

Cabe señalar que esta no es la primera vez que TikTok habla de etiquetas de contenido. Desde hace tiempo que los usuarios de la red social están obligados por las reglas del servicio a añadir etiquetas de “generado por IA” de forma manual si el contenido tiene aspecto realista. No cumplir con esta norma puede derivar en sanciones, según TikTok.

“Podríamos eliminar el contenido que vaya en contra de las Normas de la comunidad”, explica la compañía. En este caso, una vez que un usuario añadió una etiqueta de forma manual, tampoco tendrá la posibilidad de quitarla. Incluso otros usuarios pueden denunciar publicaciones generadas por IA que no tienen la correspondiente etiqueta.

¿Cómo sabe TikTok qué contenido ha sido generado por IA?

Si te preguntas cómo sabe TikTok qué contenido ha sido generado por IA, la respuesta es con Credenciales de Contenido de la Coalition for Content Provenance and Authenticity (C2PA). Cuando creamos contenidos con herramientas como DALL·E de OpenAI o Bing Image Creator de Microsoft, se ajuntan automáticamente estas credenciales.

No todas las propuestas de generación de imágenes han adoptado esta solución, pero se espera que con el tiempo vayan sumándome nuevos miembros. Se trata de una especie de marca de agua que permite identificar al instante si una imagen ha sido creada o editada con inteligencia artificial, y un medio esencial para su etiquetado.

TikTok también ha prometido que en los próximos meses comenzará a añadir Credenciales de Contenido en los medios que se exportan desde su aplicación. Esto tiene sentido si tenemos en cuenta que muchos usuarios republican los contenidos creados en TikTok en otras plataformas como Instagram de Meta o YouTube Shorts de Google.

Recordemos que Meta anunció en febrero que añadiría etiquetas de contenido basadas en el estándar de C2PA en Facebook, Instagram y Threads. Estamos presenciando en directo los primeros movimientos de las redes sociales para brindar mayor transparencia en las publicaciones. Toca esperar para saber si realmente serán efectivos.

Imágenes | ByteDance | Meta

En Xataka | Qué es la Inteligencia Artificial General (AGI), la tecnología que apunta a revolucionar nuestro mundo por completo