Hace unos años Google tenía un problema bastante importante en el reconocimiento de personas en Google Fotos, identificando personas negras como gorilas.
Google detiene generación de contenido con Gemini
Ahora está sucediendo lo contrario en su inteligencia artificial Gemini de una forma tan escandalosa que la compañía ha tenido que deshabilitar esta función. Y es que la IA de Google tiene tremendamente dificultades en generar imágenes históricas mostrando personas caucásicas.
Gemini ha estado creando diversas imágenes de los padres fundadores de Estados Unidos y de los soldados Nazi, siempre mostrando rostros de minorías, en lo que parecía un intento de evitar los estereotipos raciales y de género, pero ha generado el resultado contrario.
El año pasado, Bloomberg, revisó más de 5.000 imágenes creadas con Stable Diffusion, y descubrió que este sistema creaba imágenes basadas en prejuicios racistas y machistas.
La compañía ha aceptado las críticas, y ha declarado que ya están “trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini“.
Mientras sale esa versión pulida, la compañía ha confirmado que ha deshabilitado la generación de imágenes de personas hasta que haya disponible una versión mejorada.
Google reconoce el error y mejorará Gemini muy pronto
Y es que este problema de Google no ha sido un caso aislado. Desde que estuvo disponible para todos, Gemini ha estado generando, a petición de los usuarios, imágenes de personas no blancas generadas incluso cuando se le pedía fidelidad histórica.
Lo que ha generado, como suele ser habitual en estos casos, un montón de teorías de conspiración, incluyendo la que de que Google está evitando intencionalmente representar a personas blancas en su IA.
No obstante, el problema principal, y de lo que han quejado especialmente los usuarios, es que la generación errónea de imágenes de Gemini parece que va más allá de las inexactitudes históricas.
Este ha sido el principal motivo de esas teorías de la conspiración que se han granjeado, además, una fuerte crítica a Google:
