Algoritmo do Twitter funciona melhor com rostos jovens e de pele clara, mostra pesquisador

O algoritmo de recortes de imagens do Twitter tem tendência a priorizar rostos jovens, magros e de pele clara, demonstrou um pesquisador da Escola Politécnica Federal de Lausana, na Suíça.

Bogdan Kulynych foi o vencedor de uma competição promovida pelo próprio Twitter para examinar vieses e danos causados por seus sistemas automatizados. Como recompensa, ele recebeu US$ 3.500.

A pesquisa dele mostrou que o sistema da rede social favorece rostos que são “fino, jovens, de cor de pele clara ou cálida e textura de pele suave, e com traços faciais de estereótipos femininos”.

Para chegar a essa conclusão, Kulynych usou um programa de inteligência artificial chamado StyleGAN2 para gerar imagens aleatórias de rostos com características realistas. Depois, foram feitos ajustes na cor da pele e atributos que tornassem o modelo masculino ou feminino.

As imagens foram testadas no algoritmo do Twitter, que possui uma pontuação de “saliência” para decidir qual será o objeto de destaque.

“Esse viés poderia resultar na exclusão de populações minoritárias e perpetuação de padrões estereotipados de beleza em milhares de imagens”, disse o pesquisador.

A rede social já havia reconhecido que havia um problema na ferramenta que fazia recortes automáticos nas imagens para que elas coubessem no feed do aplicativo da rede social e disse ter deixado de usá-lo.

As críticas começaram depois que usuários fizeram testes ao publicarem imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.

Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.

Replicando um teste gringo.
Vamos vê qual o algoritmo do Twitter vai escolher: Mitch McConnell ou Barack Obama? pic.twitter.com/FCYyJCKMWh

— Joel Luiz Costa #TemGenteComFome (@joelluiz_adv) September 20, 2020

Em seu perfil no Twitter, o vencedor do prêmio disse que “os danos dos algoritmos não são apenas ‘bugs'” ou “erros involuntários”. Para ele, há um problema na concepção dos projetos. “Isso parte da maximização do engajamento e, no geral, do lucro que transfere os custos para os outros”, escreveu Kulynych.