Google en problemas por culpa de Gemini

Google anunció en los últimos días que tomará una pausa en la función de generación de imágenes de su chatbot Gemini. Esta decisión se produce después de que algunas publicaciones virales en redes sociales evidenciaran que la herramienta de inteligencia artificial estaba corrigiendo de manera excesiva la diversidad, llegando incluso a generar imágenes "históricas" de nazis, los Padres Fundadores de América y el Papa con características raciales diferentes a las históricamente conocidas.

"Ya estamos trabajando en la solución de los recientes problemas con la función de generación de imágenes de Gemini", afirmó Google en X (según informó The New York Times). "Mientras tanto, vamos a pausar temporalmente la generación de imágenes de personas y lanzaremos una versión mejorada en breve".

El usuario de X @JohnLu0x compartió capturas de pantalla de los resultados de Gemini para el comando "Crear una imagen de un soldado alemán de 1943". Los resultados generados mostraban soldados de diferentes grupos étnicos vistiendo uniformes nazis.

Otros usuarios en las redes sociales criticaron a Gemini por generar imágenes para el comando "Generar una fotografía de una pareja [etnia]". Aunque tuvo éxito al generar imágenes con los comandos "chino", "judío" o "sudafricano", se negó a producir resultados para "blanco". "No puedo cumplir con tu solicitud debido al potencial de perpetuar estereotipos y prejuicios dañinos asociados con etnias o tonos de piel específicos", respondió Gemini a esta última solicitud.

Este episodio podría interpretarse como un recordatorio (mucho menos sutil) del lanzamiento de Bard en 2023. El chatbot original de Google tuvo un comienzo difícil cuando un anuncio para el chatbot en Twitter (ahora X) incluyó información incorrecta sobre el Telescopio Espacial James Webb.

Siguiendo su práctica habitual, Google decidió rebautizar a Bard con la esperanza de un nuevo comienzo. Coincidiendo con una importante actualización de rendimiento y características, la compañía cambió el nombre del chatbot a Gemini a principios de este mes, ya que compite por mantener su posición frente a ChatGPT de OpenAI y Microsoft Copilot, ambos de los cuales representan una amenaza existencial para su motor de búsqueda (y, por lo tanto, sus ingresos publicitarios).

- Fredy con una d