Ferramentas de IA podem fazer com que as mulheres pareçam menos sofisticadas no trabalho

Um novo estudo levanta questões sobre como a escrita gerada por IA poderia moldar as percepções de profissionalismo e competência

Duas pessoas podem solicitar a um chatbot de IA o mesmo e-mail do local de trabalho e obter resultados visivelmente diferentes, dependendo de pouco mais do que sua escolha de palavras.

Essa é a descoberta no centro de nova pesquisa da Universidade Johns Hopkins em Baltimore. Os pesquisadores testaram quatro chatbots amplamente utilizados, GPT-4, Llama, Gemma e Mistral, com solicitações de e-mails no local de trabalho, pedidos de emprego e cartas de demissão.

Quando reescreveram as instruções para incluir uma linguagem mais comumente associada às mulheres, tais como ressalvas como “talvez” e “eu acho”, frases coletivas como “nós” e “nossa equipe” e adjetivos expressivos como “adorável” e “maravilhoso”, as respostas foram menos complexas, em um nível escolar mais baixo e menos formais.

Katherine Van Koevering, pesquisadora inaugural de pós-doutorado no Data Science and AI Institute da universidade e principal autora do estudo, disse que o tamanho da diferença surpreendeu a equipe.

“A principal conclusão, claro, é que quando reescrevemos os avisos solicitando a comunicação no local de trabalho usando mais recursos linguísticos associados às mulheres, o resultado do modelo foi de um nível de complexidade mais baixo, de nível escolar mais baixo, creio que menos formal”, disse Van Koevering. “Parecia surpreendentemente diferente.”

Anjalie Field, autora sênior do estudo e cientista da computação da Johns Hopkins em Baltimore, que estuda ética e discriminação na IA, disse que pesquisas anteriores examinaram o preconceito no que os modelos produzem.

“Tem havido muito menos pesquisas que realmente se concentram na perspectiva das pessoas que usam esses modelos e no desempenho dos modelos para diferentes grupos de pessoas ou mesmo indivíduos diferentes”, disse Field.

Descartando espelhamento

Uma questão óbvia é se os modelos estavam simplesmente refletindo o estilo da pessoa que escreveu a mensagem. Para testar isso, os pesquisadores mediram a complexidade de cada solicitação e compararam-na com a complexidade da resposta.

“Mediríamos a complexidade do prompt e depois compararíamos isso com a complexidade do resultado”, disse Van Koevering. “Isso nos diria o quanto disso está sendo espelhado em comparação com a IA captando outra coisa.”

“Acho que o espelhamento representou apenas um terço ou menos, mesmo em nosso nível mais alto de espelhamento”, acrescentou ela.

Na maioria dos casos a parcela foi muito menor. Ao mais alto nível, o espelhamento explicou cerca de um terço das diferenças de complexidade, o que geralmente não é suficiente para minar a significância estatística dos resultados.

O efeito apareceu em todas as quatro ferramentas, embora sua intensidade variasse de acordo com o modelo.

“Eu não diria que foi exatamente a mesma coisa, mas a importância dos resultados foi mantida para cada modelo que testamos”, disse Van Koevering.

O que isso pode significar para a escrita no local de trabalho

Com o espelhamento explicando apenas parte da diferença, a atenção se volta para o que os resultados significam no trabalho.

“Qualquer pessoa que use esse tipo de linguagem, que use coisas como limites ou adjetivos expressivos, poderá obter resultados de modelos menos sofisticados, menos complexos e menos formais”, disse Field.

“Se você solicitar um modelo com esse tipo de linguagem e, em seguida, pegar esse resultado e enviá-lo ao seu colega, isso refletirá sobre você e como eles pensam sobre você”, acrescentou ela.

Os pesquisadores também pediram a uma IA que comparasse os resultados das solicitações associadas às mulheres e aos homens e dissesse quais pareciam mais confiáveis ​​e competentes.

“(A IA) escolheu a saída para os prompts de recursos sociolinguísticos masculinos na maioria das vezes”, disse Van Koevering.

Ela disse que há alguma sugestão de que o efeito vai além do quão sofisticada a escrita soa, até o quão competente e autoritária ela parece.

Van Koevering disse que o padrão também pode se estender muito além do gênero.

“Em teoria, isso funciona com qualquer tipo de diferença linguística”, disse ela. “Se você digitar com a grafia britânica, talvez ela responda de maneira diferente. Se você usar gírias, talvez ela responda de maneira diferente.”

A equipe também testou se a inclusão de um nome tradicionalmente masculino ou feminino alterava a resposta. Praticamente não teve efeito, de acordo com o comunicado da Johns Hopkins.

Outra investigação analisou a forma como os sistemas de IA tratam o género nos ambientes de trabalho. Em um estudo da Universidade de Washington sobre triagem de currículos de IA que seus autores resumiram em um artigo da Brookings Institution de abril de 2025os nomes de homens e mulheres foram seleccionados em taxas iguais em apenas 37% dos 27 testes de rastreio de currículos em três modelos linguísticos e nove profissões. A HRD America também relatou pesquisas da Universidade de Chicago mostrando que as mulheres eram menos propensas do que os homens a usar ChatGPT na mesma profissãoe em uma Organização Internacional do Trabalho alertando que A IA generativa pode afetar mais os empregos das mulheres do que os dos homens.

O que empresas e trabalhadores podem fazer

Questionado sobre o que as organizações deveriam fazer com as novas descobertas, Field disse que sinalizar o problema para o pessoal é uma opção.

Isso significaria fornecer orientações que muitos trabalhadores dizem não ter recebido. Em uma pesquisa de maio de 2026 com 1.020 funcionários realizada pela plataforma de carreira Resume Now, 41% disseram que seu empregador não lhes deu ferramentas, treinamento ou orientação para usar IArelatou HRD América.

Para trabalhadores individuais, Field disse que uma maneira de lidar com isso é ter cuidado com a forma como eles solicitam um modelo e verificar se o estilo e o tom da saída correspondem ao que desejam enviar. Ela disse que adicionar instruções sobre o tom desejado a um prompt é outra opção, embora a equipe não tenha testado explicitamente.

Van Koevering disse que os próprios trabalhadores podem testar o efeito.

“Escreva como você imaginaria escrevê-lo e, em seguida, crie algumas personas em sua cabeça e escreva de maneiras diferentes e veja a diferença”, disse ela.

Ela disse que a desvantagem é o tempo extra necessário para retrabalhar a escrita na qual as pessoas provavelmente já gastaram muito tempo.

Field disse que não gosta dessas soluções alternativas como uma solução de longo prazo porque elas sobrecarregam o usuário. Para ela, as modelos devem ser treinadas para prestar atenção ao tom e ao estilo que cada tipo de pedido exige, independentemente de sua formulação.

“Essa não é uma solução para os gestores de RH. É nisso que os tecnólogos deveriam trabalhar”, disse Field.

Entretanto, as sugestões dos investigadores resumem-se à sensibilização e aos testes. Os empregadores podem garantir que os funcionários saibam que a forma como uma solicitação é formulada pode mudar o tom do que uma ferramenta de IA escreve, e os trabalhadores podem verificar esse tom antes que uma mensagem seja enviada.

Até que os próprios modelos mudem, as descobertas sugerem que o mesmo pedido ainda pode voltar com um som diferente, dependendo de como é redigido.

Source link