Google confunde a una pareja negra con gorilas - El Mostrador

martes, 2 de marzo de 2021 Actualizado a las 11:10

Agenda Saludable

Presentado por:

Google confunde a una pareja negra con gorilas

por 2 julio, 2015

BBC Mundo
Google confunde a una pareja negra con gorilas
La nueva aplicación Google Photos posee un sistema de reconocimiento facial y etiqueta automáticamente las imágenes que los usuarios suben a ella. Sin embargo, esta vez cometió un grave error y fue tildado de racista.
  • Compartir
  • Twittear
  • Compartir
  • Imprimir
  • Enviar por mail
  • Rectificar

"Consternado". Así dice estar Google después de que su nueva aplicación para compartir y almacenar imágenes y video, Google Photos, etiquetara a una pareja de negros como "gorilas".

La app etiqueta automáticamente las fotos que los usuarios suben a ella, por medio de su software de inteligencia artificial.

En este caso, el sistema se equivocó.

Y las reacciones no tardaron en llegar.

El primero en quejarse fue una de las dos personas de la fotografía, Jacky Alcine, un desarrollador de software con base en Nueva York, Estados Unidos.

Y a ésta le siguieron decenas de usuarios, quienes criticaron a Google por las connotaciones racistas de la etiqueta.
Además, Alcine no tardó en contactar vía Twitter a uno de los ejecutivos de la compañía, Yonatan Zunger.

"Esto no está bien en un 100%", fue la respuesta de Zunger, el arquitecto jefe de redes sociales de la empresa.

"Estaba arriba en mi lista de errores que no quería que ocurrieran jamás", reconoció.

Señaló que Google ya tomó medidas para evitar que otros sufran el mismo equívoco.

Y añadió que "también está trabajando en más arreglos relacionados con la lingüística- las palabras con las que tener cuidado en las fotos de la gente- y con el propio sistema de reconocimiento de imágenes; por ejemplo, para que reconozca mejor a los rostros de piel oscura".

Errores anteriores

Esta no ha sido la primera vez que Google Photos ha clasificado de forma incorrecta.

Según la página web especializada iTech Post, en mayo etiquetó a unos perros como caballos.

Ni tampoco es la primera vez que las acusaciones de racismo planean sobre Google.

También le llovieron las críticas cuando al buscar "la casa del negro" o "rey negro" (en inglés) en Google Maps en los alrededores de Washington DC, la aplicación Google Maps llevaba directamente a la Casa Blanca.

2go

Para minimizar estos errores, Google Photos permite a los usuarios modificar las etiquetas cuando estas están equivocadas.

Y, a su vez, esto debería ayudar a mejorar la precisión del sistema automático de reconocimiento, ya que el software tiene la capacidad de aprender.

Sin embargo, más allá de todas las explicaciones, Google ha reconocido la dimensión del último error y ha pedido disculpas.

"Estamos consternados y sentimos realmente lo que pasó", dijo un portavoz de la empresa a la BBC.

"Estamos tomando acciones inmediatas para evitar que aparezcan este tipo de resultados", informó.

Y agregó: "Claramente hay mucho trabajo que hacer con el etiquetado automático de las imágenes y estamos buscando cómo prevenir estos errores en el futuro".

Sin embargo, a una de las víctimas de la confusión, Alcine, sigue preocupándole el asunto.

"Tengo un par de preguntas, como qué tipo de imágenes y gente se utilizaron en la preparación inicial (de la aplicación) para que condujeran a unos resultados como estos", dijo el desarrollador de software a la BBC.

"(Google) dice que ha intensificado la búsqueda para que entren candidatos de color, pero sólo el tiempo dirá si esto ocurrirá y si ayudará a corregir la imagen que las empresas de Silicon Valley tienen sobre la diversidad (...)".

Contenido relacionado

La Casa Blanca o "la casa del negro": los resultados "racistas" de Google

BBC Mundo

Compartir Noticia

Más información sobre El Mostrador

Videos

Noticias

Blogs y Opinión

Columnas
Cartas al Director
Cartas al Director

Noticias del día

TV