Tecnología

Twitter elimina recorte de fotos tras quejas raciales

Twitter ha desactivado la función de recorte automático de imágenes en su plataforma, luego de recibir una serie de quejas de sesgo racial.

Twitter elimina recorte de fotos tras quejas raciales

El pasado mes de septiembre, algunos usuarios de Twitter empezaron a notar que cuando publicaban una foto en la que aparecían tanto una persona negra como una blanca, la persona negra solía aparecer recortada en la vista previa.

En ese momento, Twitter dijo que había probado el algoritmo de recorte de la imagen en la vista previa antes de lanzar la función, y no encontró ningún sesgo. Pero más tarde admitió que “tenemos que hacer más análisis”.

Al parecer, los usuarios de Twitter tenían razón.

El algoritmo que hace funcionar la inteligencia artificial detrás de la herramienta de recorte de imágenes mostraba un “tratamiento desigual basado en diferencias demográficas“, escribió el director de ingeniería de software de Twitter, Rumman Chowdhury, en una entrada del blog de Twitter esta semana.

Tras subir miles de imágenes a la plataforma, los investigadores descubrieron que la herramienta de recorte favorecía a los blancos sobre los negros en un 4%, a las mujeres blancas sobre las negras en un 7% y a los hombres blancos sobre los negros en un 2%.

Chowdhury dijo que Twitter realizó el estudio para determinar si la herramienta de recorte permitía a los usuarios elegir cómo se recortaban sus fotos.

“Una de nuestras conclusiones es que no todo en Twitter es un buen candidato para un algoritmo, y en este caso, cómo recortar una imagen es una decisión que se toma mejor por las personas”, señaló Chowdhurry en su post.

Los usuarios de Twitter ven ahora las imágenes en su totalidad cuando se publican en la plataforma, un cambio realizado a principios de este mes.

El análisis de Twitter también detectó que, en algunos casos, la herramienta de recorte de imágenes se centraba en el pecho y las piernas de las mujeres. Chowdhury dijo que su equipo probó esa tendencia en un grupo más amplio de imágenes, pero al final no encontró una diferencia estadísticamente significativa.

La herramienta de recorte se diseñó para crear al instante una versión instantánea de una imagen para que los usuarios la vieran rápidamente mientras se desplazaban por su línea de tiempo. Un usuario podía ver la foto completa tras hacer clic en el centro de la imagen recortada.

Chowdhury detalló que Twitter comenzó a usar la herramienta de recorte en 2018, como una forma de estandarizar el tamaño de las imágenes publicadas y aumentar el número de fotos que los usuarios pueden ver en su línea de tiempo.

La herramienta fue impulsada por lo que se llama un algoritmo de saliencia, que es un modelo predictivo que intenta estimar lo que alguien querría ver primero en una imagen. El algoritmo de saliencia se creó a partir de datos de estudios de seguimiento ocular en humanos.

Colin Madland, un estudiante de doctorado canadiense de raza blanca, tuiteó en septiembre que Twitter había recortado la parte izquierda de una foto en la que aparecía la imagen de un colega negro, y que sólo mostraba la parte derecha de la foto en la vista previa, que incluía la cara de Madland.

Twitter pedirá a los usuarios que reconsideren los tuits abusivos

Twitter elimina recorte de fotos tras quejas raciales

Twitter quiere apelar a la bondad que llevan dentro sus usuarios, incluso los trolls más insensibles. La compañía desplegará un nuevo aviso a los usuarios que estén a punto de enviar un tuit que sus algoritmos consideren que puede ser “dañino u ofensivo”.

A los que intenten enviar un mensaje de este tipo se les preguntará si “quieren revisar esto antes de tuitear”, con las opciones de editar, eliminar o enviar de todos modos.

La función, que llegará primero a los iPhones y después a los dispositivos Android, ha estado en pruebas durante el último año, y la red social dice que ha reducido significativamente el volumen de abusos.

Lee aquí: Twitter ahora tendrá publicaciones premium