A pesar de la creencia de que las IA, al ser programas, no tienen prejuicios ni discriminación racial, en realidad las cosas no parecen del todo realistas. Gemini, la IA de Google, ha salido impresionado con sus grandes capacidades, pero también son los detalles los que molestan a mucha gente. Y según los usuarios de las redes sociales, no puede crear imágenes de personas caucásicas.
La confusión resultante deja muchos ejemplos, ya que los usuarios de Gemini han intentado de diversas formas encontrar una imagen creada por una persona con estas características sin lograr un solo resultado real. En respuesta, Google decidió dejar temporalmente de generar imágenes desde Gemini para solucionar el problema.
¿Es racista Google Gemini? Las fotos hablan por sí mismas
Nuevo juego: intenta que Google Gemini cree una imagen de un hombre caucásico. No lo he logrado todavía. pic.twitter.com/1LAzZM2pXF
– Frank J. Fleming (@IMAO_) 21 de febrero de 2024
Es vergonzosamente difícil lograr que Google Gemini sepa que existen los blancos pic.twitter.com/4lkhD7p5nR
-DD (@debarghya_das) 20 de febrero de 2024
Hasta ahora, hay muchos ejemplos que demuestran que la IA de Google está dispuesta a tomar fotografías de caucásicos. Encontrarás personas de piel más oscura u otras etnias que intentan crear retratos que transmitan estas características. Abundan los ejemplos: Cuando se le pide una imagen precisa de un rey británico medieval, la IA responde con personajes de piel oscura o de etnias muy diferentes. Por lo solicitado.
En un momento en el que la igualdad de derechos y representación son más importantes que nunca, la medida de Google es controvertida. Si bien parece confirmar que las características de los pueblos indígenas y otras razas históricamente menos populares se han incorporado a la IA, excluir claramente a los caucásicos los deja vulnerables a las críticas.
Nunca me había sentido más avergonzado de trabajar en una organización. pic.twitter.com/eD3QPzGPxU
– Calle. Estrategia (@stratejake) 21 de febrero de 2024
Los empleados de Google se han puesto del lado de este hallazgo y señalaron que rechazaron sus resultados de IA. Los comentarios en X (Twitter) insinúan que el grupo detrás de Gemini tiene una agenda igualitaria para todos menos el Cáucaso.
En cualquier caso, la empresa decidió solucionar el problema y respondió de inmediato. Mientras tanto, Gemini no podrá crear imágenes hasta que se resuelva la situación y se puedan responder adecuadamente las preguntas del usuario.
