Não é de hoje que existem relatos de que as tecnologias de reconhecimento facial, em geral, no que se refere ao gênero de pessoas com tons de pele mais claros em relação as que possuem tons de pele mais escuros, onde também tiveram o melhor desempenho homens com pele mais clara, e o pior em mulheres com pele mais escura.
Porém, com o aprimoramento da tecnologia de reconhecimento facial, divulgada no dia 26 de junho de 2018 pela Microsoft, esse problema foi resolvido. No anúncio, a companhia informou que foi capaz de reduzir as taxas de erro para homens e mulheres com pele mais escura em até 20 vezes. Para todas as mulheres, as taxas de erro foram reduzidas em nove vezes. O que, no geral, segundo a empresa, com essas melhorias foi possível reduzir significativamente as diferenças de precisão em toda a demografia.
A equipe responsável pelo desenvolvimento da tecnologia de reconhecimento facial, que está disponível para clientes como a Face API via Serviços Cognitivos do Azure, trabalhou em parceria com especialistas em preconceito e justiça para melhorar um sistema chamado classificador de gênero, focando especificamente em obter melhorias nos resultados para todos os tons de pele.
As melhorias alcançadas no aprimoramento da tecnologia graças ao treinamento expandido e revisado e conjuntos de dados de benchmark; lançando de novos esforços de coleta de dados para melhorar ainda mais os dados de treinamento, concentrando-se especificamente no tom da pele, gênero e idade; e melhorando o classificador para produzir resultados de maior precisão.
