Cuando la tecnología se equivoca: Google Fotos etiquetó a dos afroamericanos como “Gorilas”

nada

[dt_gap height=”10" /]

Cuando un bug de software causa que un botón no ande o que se cierre inesperadamente el programa la situación puede ser molesta, pero todos entendemos que la tecnología dista de ser perfecta. Ahora hay cosas más serias, como que un programa confunda a un ser humano con un animal. Sobre todo cuando es en un país como Estados Unidos, donde los conflictos raciales han dejado una marca imborrable en la sociedad hasta el día de hoy.

[d[dt_gap height=”10" /]p>

googlephotos0001Jacky Alcine es un joven neoyorkino. El pasado 28 de Junio el muchacho revisaba su colección de fotos en el servicio de Google y un álbum llamó su atención. ¿El título? “Gorilas”. Cuando vió la previsualización de las imágenes que se contenían en el cuadernillo electrónico pudo darse cuenta que eran los autorretratos que se había sacado recientemente con una amiga. Si, el software había confundido el rostro de una persona afroamericana con un animal.

Al notar esto el reclamo no se hizo esperar y Jacky subió la captura de pantalla a Twitter, donde la situación escaló al siguiente nivel cuando gran cantidad de usuarios retwittearon el mensaje en la red social. “Google Fotos, la cagaron. Mi amiga no es un gorila” dijo el usuario buscando una respuesta, cuando más tarde agregó:

“Me gustaría entender como sucedió. El problema radica en el COMO. Así es como determinan el objetivo de mercado de alguien”.

[dt_[dt_gap height=”10" /]

[dt_ga[dt_gap height=”10" /]p style="text-align: justify;">googlephotos0002Fue el mismo Yonatan Zunger, director de ingeniería en software de Google el que respondió en Twitter:   “Santa mierda. No, así no se determina el objetivo de mercado de alguien. Esto está 100% mal”. Luego Zunger envió un segundo mensaje al joven en Twitter afirmando que se habían removido todas las etiquetas incorrectas, y las búsquedas serían corregidas en breve.

Un comunicado oficial de Google fue emitido posteriormente:

“Estamos consternados y realmente apenados de que esto haya sucedido. Estamos tomando medidas inmediatas para evitar que este tipo de resultado vuelva a aparecer. Todavía hay claramente un montón de trabajo que hacer con el etiquetado automático de las imágenes, y estamos viendo cómo podemos evitar este tipo de errores en el futuro”.

¿Cómo sucede esto? Claro, esa es la pregunta del millón. Los sistemas de reconocimiento de imagen han avanzado muchísimo en la última década, pero aún se basan en un principio técnico de comparación de patrones mediante gigantescas bases de datos desde donde pueden comparar muestras de cientos de miles de líneas junto a un contexto que le ayuda a tomar una decisión sobre el contenido que la plataforma cree que “ve” en la foto. Hoy quedó en evidencia que la programación de estas características aún tienen un gran trabajo por delante hasta poder “ver” y razonar como un humano y no como la máquina que son.

Comentarios

comentarios

Related Posts

Solicita la devolución de tu dinero en Facebook Marketplace
Aplicaciones de Apple 2017
Las mejores aplicaciones y juegos 2017 según Apple
Google Files Go
Files Go no sólo sirve para liberar espacio, descúbrelo todo
Datally, una app que ayudará a ahorrar datos en tu celular
Organiza tus vacaciones y tus viajes con las mejores apps del mercado
Google Pixel 2 XL
Análisis Google Pixel 2 XL, el mejor Android del mercado