Google Photos confunde a afroamericanos con gorilas

Una captura de pantalla tomada por Jacky Alcine fue la causante a principios de julio (2015) del revuelo en torno a la aplicación de almacenamiento y etiquetado automático de imágenes de Google. En ella se muestra a dos personas afroamericanas etiquetadas como gorilas. Las disculpas por parte de la compañía responsable de Google Photos, Mountain View, no se hicieron  esperar. De hecho, respondió vía Twitter, el mismo medio en el que saltó la polémica sobre el tema.

Pero, ¿cómo pudo ocurrir? La culpa, evidentemente, es de los duendes. En este caso, de los de Internet. O por decirlo técnicamente, del algoritmo que el buscador utiliza para etiquetar imágenes.

El sistema de Google para subir  fotos es un servicio de aprendizaje automático capaz de describir una persona, lugar o cosa encuadrada en una escena mediante 15 palabras. El equipo que ha desarrollado este método,entre los que se encuentra el ingeniero catalán Oriol Vinyals,  forma parte  de Google Brain. Este proyecto está dedicado al desarrollo de técnicas de aprendizaje como el machine learning, una rama de la inteligencia artificial que entrena a los ordenadores en el reconocimiento y el aprendizaje del habla humana, tal como explica Vinyals para La Vanguardia.

El servicio Google Photos almacena imágenes de hasta 16 MPx y vídeos de 1080p. La misión de este sistema es mejorar la catalogación de imágenes y ofrecer al usuario una búsqueda más rápida. Lo que comenzó como un avance puede suponer a día de hoy una desventaja para la propia imagen de marca de Google, ya que millones de usuarios de la Red se han sentido ofendidos. A ojos de la compañía Mountain View no pueden existir connotaciones racistas porque no ha habido intervención humana en la actuación.

La solución inmediata propuesta por Mountain View ha sido la retirada de la etiqueta «gorilas» del sistema, lo cual no garantiza que no se vuelva a producir con cualquier otra etiqueta, dado que el sistema no puede compararse a un cerebro humano.

Esta necesidad de clasificar todo lo que entra en un servidor para poder recuperarlo después, también ha llevado a la compañía Microsoft a diseñar el sistema How-old.net, que mediante el reconocimiento facial detecta la edad de las personas. Peligra el secreto mejor guardado de algunos de los personajes públicos.