Google elimina pronomes de gênero no Smart Compose para evitar preconceito

Líderes de produto da Google afirmaram que a empresa removeu designações de gênero das sugestões de frases do Smart Compose, ferramenta baseada em Aprendizado de Máquina que oferta termos para composição mais rápidas de e-mails. A medida foi tomada para evitar a reprodução de preconceitos quanto ao gênero por parte dos sistemas automatizados.

Já há algum tempo, questões de preconceito de gênero nas Inteligências Artificiais vêm sendo discutidas. Até mesmo o Congresso estadunidense já demonstrou preocupação com a reprodução de preconceitos por sistemas automatizados quando, em setembro, sete membros enviaram cartas à FTC e ao FBI pedindo avaliações sobre o problema.

O que acontece é que, em algumas ofertas de empregos, por exemplo, os sistemas desconsideram candidatas do gênero feminino, uma vez que seus bancos de dados contendo bons exemplos de pessoas a serem contratadas possuem poucas mulheres, dada a dificuldade de inserção de pessoas que não sejam masculinas em certas carreiras, especialmente em tecnologia.

Por mais que a eliminação de qualquer desinência de gênero pareça ser uma solução drástica, a Google talvez não tivesse muita opção se não cortar o mau pela raiz. Segundo Paul Lambert, gerente de produtos da empresa, disse que várias opções que mantinham os pronomes foram tentadas previamente, sem sucesso. A única maneira de deixar garantir que preconceitos não seriam reproduzidos foi eliminar quaisquer termos que denotassem gênero, o que deve afetar cerca de 1% das sugestões do Smart Compose.

A medida mostra proatividade da Google em resolver problemas que poderiam se complicar no futuro. Em 2016, a empresa ajustou sugestões de preenchimento automático no mecanismo de busca devido a resultados antissemitas, em caso semelhante. Caso a companhia não impusesse esses limites ao conteúdo sugerido pelo Smart Compose, aumentariam as chances de enfrentar polêmicas após o problema ser apontado pelos usuários.

De Jogador 013
Ver Completo