Con el creciente uso de contenido generado por IA, la línea entre contenido humano y sintético se difumina, lo que ha llevado a la necesidad de establecer límites claros y transparentes. En respuesta a esto, Meta ha anunciado la implementación de etiquetas que indicarán cuando una imagen fotorrealista ha sido creada utilizando su tecnología de IA. Estas etiquetas, que indicarán "Imaginado con IA", se aplicarán tanto a imágenes generadas por la herramienta de IA de Meta como a aquellas creadas con herramientas de otras empresas.
Colaborando con la competencia.
Para lograr esta transparencia, Meta está colaborando con socios de la industria para establecer estándares técnicos comunes que permitan identificar el contenido generado por IA. Esto incluye el trabajo en conjunto con empresas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock para desarrollar herramientas que puedan detectar marcadores invisibles en las imágenes, según las normas técnicas de C2PA e IPTC.
Sin embargo, la compañía reconoce que aún no es posible identificar todo el contenido generado por IA, especialmente en formatos como audio y video. A pesar de esto, Meta está implementando una función que permitirá a los usuarios revelar cuando comparten contenido de vídeo o audio generado por IA, para que pueda aplicarse una etiqueta correspondiente.
También con “etiquetas” invisibles.
Además de las etiquetas visibles, Meta también está trabajando en la implementación de marcadores invisibles, como marcas de agua y metadatos incrustados en los archivos de imagen, para garantizar una identificación más robusta del contenido generado por IA. Esta medida forma parte del compromiso de Meta con el desarrollo responsable de herramientas de IA generativa.
La empresa reconoce que el ámbito del contenido generado por IA podría volverse cada vez más adversarial en el futuro, con personas y organizaciones que buscan eludir los sistemas de detección. Por lo tanto, Meta está explorando opciones para desarrollar clasificadores que puedan detectar automáticamente contenido generado por IA, incluso si carece de marcadores invisibles.
A medida que el debate sobre el contenido generado por IA continúa, Meta se compromete a seguir colaborando con la industria, reguladores y la sociedad en general para establecer estándares y salvaguardias adecuadas. Reconocen que la inteligencia artificial ofrece grandes oportunidades, pero también insisten en la importancia de su desarrollo de manera transparente y responsable.