Programas automatizados aumentam preços de produtos para as mulheres, assim como escondem vagas de emprego para elas. Proposta em tramitação na Câmara quer criar regras para atacar a discriminação
Ao navegar nas redes sociais, em sites de compras e até em plataformas que oferecem vagas de empregos, as mulheres são apresentadas a espaços on-line com a mesma aparência dos endereços acessados pelos homens. Mas, de forma silenciosa, sem alarde, programas e regras adotados por empresas que atuam na web discriminam o gênero feminino, oferecem produtos mais caros para elas e ainda escondem vagas de emprego, afetando drasticamente a economia das brasileiras.
Um estudo realizado pela Escola Superior de Propaganda e Marketing (ESPM) revela que o problema ocorre no mundo off-line, ou seja, fora da internet, mas agora está presente também no comércio eletrônico. De acordo com a pesquisa, os produtos rosa ou com personagens femininos custam, em média, 12,3% a mais do que os outros para mulheres que compram em locais físicos no Brasil.
Na internet, muitas vezes, o preço menor está no celular ao lado, usado por um homem. Com base nos dados de navegação, como histórico de buscas, redes sociais, postagem de fotos e mensagens, além de e-mail logado no celular ou computador, as ferramentas de busca identificam se o usuário é homem ou mulher e alteram os preços.
O estudo citado também apontou que as roupas de bebê femininas encarecem mais de 20% em relação às masculinas. E o impacto na vida das pessoas é cada vez maior. Outra pesquisa feita pela Carnegie Mellon University e pelo Instituto Internacional de Ciência da Computação (ICSI em ingles) nos Estados Unidos apontou que a busca do Google oferece maiores quantidades de vagas de emprego e com maiores salários quando os homens pesquisam, em relação às mulheres.
A Amazon, gigante de tecnologia a nível global, chegou a demitir 150 funcionários com base em um algoritmo, ou seja, uma programação de computador definiu em poucos minutos quem ficaria desempregado ou continuaria na empresa.
Os mesmos programas, sejam eles com uso de inteligência artificial ou criados de maneira mais simples, são usados na hora da admissão, para buscar candidatos ou candidatas para as vagas por meio do Linkedin e Facebook, por exemplo. Nestes espaços, mais uma vez as mulheres são discriminadas, recebem menos vagas enquanto navegam e são menos selecionadas nos programas usados para identificar candidatos de interesse das empresas. Outra pesquisa, realizada pela Universidade Southern California, encontrou discriminação de gênero na entrega de anúncios de emprego no Facebook.
Avaliação
A advogada Maria Cristine Lindoso, pesquisadora na área de direito civil, tecnologia e gênero, autora do livro Discriminação de Gênero no Tratamento Automatizado de Dados Pessoais, afirma que o problema começa quando a área de tecnologia da informação permanece dominada, majoritariamente, por homens, que, muitas vezes, colocam seus preconceitos e visões de mundo na programação dos algoritmos. De acordo com ela, esses preconceitos podem ser passados ao “DNA” dos programas de maneira intencional ou não.
“É muito importante pensar primeiro que algoritmos são linguagens matemáticas e eles não são neutros. Esses algoritmos, muitas vezes, traduzem preconceitos históricos, intenções dos programadores. Muitas vezes, podem carregar preconceito, podem trazer viés. É, por isso, que a discriminação acontece. No caso do mercado de emprego, do direcionamento de candidato, é bem comum, por exemplo, cargos com salários mais altos serem oferecidos para homens, e trabalhos com jornadas mais flexíveis são fornecidos pra mulheres com base numa ideia estereotipada de que mulheres precisam cuidar dos filhos”, explica.
Maria Cristine destaca que essa situação já acontece no Brasil, e o preconceito algorítmico afeta também pessoas negras, integrantes da comunidade LGBTQIAP+ e moradores das periferias ou comunidades mais carentes. “É importante para as mulheres terem garantia de que essa análise não vai ser feita de forma discriminatória. Se você vai pedir um seguro de um carro, um seguro de saúde, você vai pedir um empréstimo com financiamento ou até outras coisas, você recebe um anúncio, por exemplo, na internet, tudo isso mediado por algoritmo”, explica.
“Usar algoritmos para tomar decisão não envolve só gênero, não só raça, não só orientação sexual, mas também classe social, local de moradia. Existem vários elementos que podem ser utilizados de forma discriminatória. Já existe vedação pra isso na Lei Geral de Proteção de Dados. Mas é muito importante que a gente tenha iniciativas de lei que complementem esses esforços e deixem ainda mais claro como que isso não pode acontecer”, completa a especialista.
Projeto de lei
Uma proposta apresentada na Câmara pelo deputado Rubens Pereira Jr (PT-MA) pretende criar regras para atacar o problema e a discriminação on-line. De acordo com o texto do projeto de lei (PL 585/24), o objetivo é criar “medidas de prevenção e combate à discriminação algorítmica de gênero, estabelecendo diretrizes para processos decisórios automáticos e proibindo a prática de modulação de preços baseada no perfilamento de gênero nos serviços e produtos vendidos on-line”.
Na prática, a ideia é criar uma lei que proíba este tipo de discriminação, fixando parâmetros para impedir que as empresas adotem esse tipo de comportamento. A lei obrigaria que as companhias orientassem equipes de tecnologia a se atentarem a este tipo de situação na hora de desenvolver o software.
