Google pide disculpas por su IA generativa de imágenes y bloquea temporalmente la función
Tras el lanzamiento de una nueva función de generación de imágenes para la aplicación conversacional Gemini (anteriormente conocida como Bard) hace tres semanas, Google se disculpa y anuncia la suspensión temporal de la generación de imágenes de personas debido a problemas de precisión y sensibilidad.
La función, que utiliza un modelo de inteligencia artificial llamado Imagen 2, ha generado imágenes inexactas y, en algunos casos, ofensivas. Google reconoce el error y agradece los comentarios de los usuarios al respecto.
Qué problemas tiene Imagen 2 y Gemini.
El problema radica en dos aspectos principales. En primer lugar, la configuración para mostrar una variedad de personas no tuvo en cuenta casos específicos en los que se requería precisión en la representación. En segundo lugar, el modelo se volvió demasiado cauteloso y rechazó responder a ciertas solicitudes, interpretando erróneamente algunas como sensibles.
Como resultado, se han generado imágenes embarazosas e incorrectas que han inundado las redes sociales de memes y gente ofendida por lo que la IA de Google muestra. Google ha decidido suspender temporalmente esta función mientras trabaja en una versión mejorada que aborde estos problemas. Este proceso incluirá pruebas exhaustivas para garantizar su precisión y sensibilidad.
Es importante tener en cuenta que Gemini es una herramienta de creatividad y productividad, pero puede no ser completamente fiable, especialmente en la generación de imágenes o texto sobre eventos actuales o temas sensibles. Google recomienda recurrir a su motor de búsqueda para obtener información precisa y actualizada sobre estos temas.
Si bien no se puede garantizar que Gemini no genere resultados inexactos u ofensivos en el futuro, Google se compromete a tomar medidas cada vez que surja un problema. Reconocen que la inteligencia artificial es una tecnología emergente con un gran potencial, pero también con desafíos, y están trabajando para implementarla de manera segura y responsable.