Meta lucha contra las apps nudify con acciones legales y cooperación tecnológica
En un mundo cada vez más digital, la proliferación de las llamadas apps nudify, que utilizan inteligencia artificial para crear imágenes falsas de desnudos o contenido sexual explícito sin consentimiento, se ha convertido en una seria preocupación. Meta, la empresa matriz de Facebook e Instagram, está tomando cartas en el asunto para combatir este problema.
¿Qué son las apps nudify y por qué son peligrosas?
Las apps nudify son aplicaciones que, mediante el uso de la inteligencia artificial, permiten a los usuarios crear imágenes manipuladas de personas desnudas o en situaciones sexualmente explícitas. El peligro reside en que estas imágenes se crean sin el consentimiento de la persona afectada, lo que supone una grave violación de la privacidad y puede causar un daño emocional significativo.
Acciones legales contra los responsables
Meta ha anunciado que está tomando acciones legales contra Joy Timeline HK Limited, la empresa detrás de las aplicaciones CrushAI. Estas apps permiten la creación de imágenes de desnudos generadas por IA sin el consentimiento de las personas. La demanda se ha presentado en Hong Kong, donde tiene su sede Joy Timeline HK Limited, con el objetivo de impedir que sigan promocionando CrushAI en las plataformas de Meta.
Esta acción legal es una clara señal de la seriedad con la que Meta se toma este tipo de abusos y su compromiso de proteger a su comunidad.
Cooperación con otras empresas tecnológicas
Consciente de que el problema de las apps nudify es global, Meta está colaborando con otras empresas tecnológicas para combatir este fenómeno. Cuando Meta elimina anuncios, cuentas o contenido que promociona estas aplicaciones, comparte información con otras empresas a través del programa Lantern de Tech Coalition, para que también puedan tomar medidas.
Esta colaboración es fundamental para evitar que estas aplicaciones proliferen en diferentes plataformas y para proteger a las personas de posibles abusos.
Mejora en la detección y eliminación de contenido
Meta también está trabajando en mejorar sus sistemas de detección y eliminación de contenido que promociona las apps nudify. Han desarrollado nuevas tecnologías capaces de identificar estos anuncios, incluso cuando no incluyen imágenes explícitas, y utilizan sistemas de búsqueda para eliminar rápidamente los anuncios que copian a los originales.
Además, han ampliado la lista de términos, frases y emojis relacionados con la seguridad que sus sistemas están entrenados para detectar.
Apoyo a la legislación
Meta apoya la legislación que lucha contra el abuso de imágenes íntimas en Internet, ya sean reales o generadas por IA. También apoyan la legislación que permite a los padres supervisar las descargas de aplicaciones de sus hijos adolescentes.
La lucha contra las apps nudify es un desafío constante que requiere un enfoque multifacético. Meta está demostrando su compromiso con la protección de la privacidad y la seguridad de sus usuarios a través de acciones legales, cooperación con otras empresas y la mejora continua de sus sistemas de detección y eliminación de contenido. Sin embargo, es importante que todos los usuarios estén informados y sean conscientes de los riesgos asociados a estas aplicaciones.