Polémica en Twitter: su algoritmo prioriza fotos de personas blancas frente a negras

Polémica en Twitter: su algoritmo prioriza fotos de personas blancas frente a negras

Javier Martín

La última polémica sobre el racismo en las redes sociales tiene a Twitter como protagonista. Y es que, en las últimas horas, numerosos usuarios están acusando de discriminación racial al algoritmo con que opera la compañía de San Francisco.

En un momento de especial sensibilidad en todo el mundo, especialmente en Estados Unidos, con el problema del racismo, esta polémica ha provocado una reacción muy rápida de Twitter.

En concreto, la acusación se centra en que la inteligencia artificial de la red social prioriza las fotos de personas de raza blanca sobre los afroamericanos.

Cómo crear tu círculo de interacciones en Twitter

La voz de alarma la dio Tony Arcieri, un ingeniero de criptografía, que quiso hacer una prueba sobre el sesgo racial del algoritmo de Twitter. Para ello, colocó en un tweet dos fotografías, una de ellas del expresidente estadounidense Barack Obama y otra del senador republicano Mitch McConnell, este último de raza blanca.

Las fotos de los rostros de los dos políticos se presentaban en vertical, con unas proporciones diferentes a las que habitualmente se utilizan en Twitter. Las imágenes se mostraron en parejas. Una de ellas, situando primero la foto del senador y la otra, a Obama. Sorprendentemente, en ambas el algoritmo de Twitter seleccionó la previsualización de McConnell.

Imagen - El algoritmo de Twitter es racista con las fotos

Rápidamente, el experimento se hizo viral y usuarios de todo el mundo se pusieron a comprobar si realmente Twitter era racista con las fotos. No se puede decir que los resultados fueran unánimes, pero sí que buena parte de los usuarios destacaban cierto sesgo discriminatorio en la elección de las imágenes.

Algunos tuiteros afirmaban, por otro lado, que la clave estaba en la sonrisa, que Twitter elegía los rostros más risueños. Otros aseguraban que, según habían podido comprobar, el algoritmo seleccionaba los píxeles más claros.

En cualquier caso, la polémica estaba servida. Liz Kelley, del equipo de comunicación de la red social, se ha comprometido a hacer más análisis para evitar cualquier tipo de sesgo racial en su algoritmo. Por su parte, el director de diseño de la compañía, Dantley Davis, ha asumido el fallo de Twitter.

La controversia recuerda a la vivida hace tres años en FaceApp, cuando se vio obligada a eliminar un buen número de filtros de FaceApp que fueron considerados racistas.

Las redes sociales son hoy una de las mayores plataformas de comunicación y aprendizaje. Sin duda, pueden existir muchos errores no deliberados en sus procesos, pero es importante ser ágil y solventarlos para evitar cualquier tipo de discriminación. La polémica sobre el algoritmo de Twitter y el racismo con las fotos es un buen toque de atención sobre ello.

Apple, Cloudflare y más compañías ponen trabas al racismo

Ver Comentarios