A IA está errando nas mulheres à medida que o viés de gênero persiste, revelam dados

À medida que a inteligência artificial transforma a forma como as pessoas trabalham, se comunicam e acessam informações, a ONU Mulheres alertou na segunda-feira que a tecnologia está reproduzindo antigos estereótipos de gênero, que amplificam o abuso online e excluem as mulheres das decisões que definirão o futuro digital.

O alerta surge enquanto estudos mais recentes mostram que, à medida que a IA generativa se tornou parte do cotidiano de bilhões de pessoas – desde a elaboração de e-mails até o planejamento de campanhas e a criação de apresentações – as desigualdades também estão sendo reforçadas por meio de algoritmos discriminatórios.

Somente no Reino Unido, 88% das agências de publicidade e mídia já estão utilizando a tecnologia de alguma forma.

Antes do Diálogo Global das Nações Unidas sobre Governança da Inteligência Artificial e da Cúpula Global de IA para o Bem em Genebra, no início de julho, a ONU Mulheres está incentivando governos, empresas e desenvolvedores a garantir que a igualdade de gênero esteja incorporada no design, implantação e governança dos sistemas de IA.

Gênero e preconceito racial

Evidências sugerem que o problema é generalizado. Um estudo com 133 sistemas de IA constatou que 44% apresentaram viés de gênero, enquanto mais de um quarto apresentou viés tanto de gênero quanto racial.

Grandes modelos de linguagem associaram repetidamente as mulheres ao lar, à família e ao cuidado das crianças, ao mesmo tempo em que ligam os homens aos negócios, à liderança e ao sucesso profissional. Em alguns casos, sistemas de IA geraram respostas que retratam as mulheres como objetos sexuais ou como subordinadas aos homens.

Segundo a ONU Mulheres, quando pesquisadores pediram a grandes modelos de linguagem que simplesmente completassem uma frase que começasse com o gênero de uma pessoa, cerca de uma em cada cinco respostas retornou sexista ou misógina.

Alguns até descreviam as mulheres como propriedade, como objetos.

Não é um defeito de design

Esses resultados, dizem especialistas, não são erros aleatórios ou falhas na IA, mas sim um padrão documentado em vários sistemas em larga escala.

Eles são o resultado previsível de sistemas de IA treinados com décadas de representação desigual de mulheres e homens, observa a ONU Mulheres.

Falando à UN News, Jayathma Wickramanayake, líder da ONU Mulheres em Tecnologias Digitais, explicou que modelos de IA "puxam viés de décadas de texto escrito por pessoas, sobre pessoas, em um mundo onde as mulheres eram classificadas como lar e família, e os homens como negócios e carreira".

Para a Sra. Wickramanayake, a parte mais preocupante é que isso não é uma falha de design – "é uma lacuna real de políticas que ficou em aberto".

Dos 138 países avaliados mundialmente, apenas 24 se referiram ao gênero em suas estratégias nacionais de IA, e apenas 18 incluíram medidas substanciais responsivas ao gênero.

Para a especialista digital da ONU Mulheres, isso não é um bug esperando para ser corrigido na próxima atualização, "é uma escolha que fazemos repetidamente em dados de treinamento, em salas de design, em documentos de políticas que permanecem em silêncio sobre metade da população".

Danos online se intensificando

Para muitas mulheres e meninas, os riscos vão além dos estereótipos. As mulheres já enfrentam níveis desproporcionais de abuso online, e a IA está facilitando a criação e disseminação de algumas formas de violência.

Ouça uma entrevista com uma especialista da ONU Mulheres sobre o aumento de influenciadores online "manosfera":

De acordo com dados da ONU Mulheres, quase uma em cada quatro mulheres defensoras dos direitos humanos, ativistas e jornalistas entrevistadas relatou ter sofrido violência online assistida por IA. Doze por cento disseram que imagens pessoais foram compartilhadas sem seu consentimento, enquanto seis por cento relataram ter sido alvo de deepfakes ou imagens e vídeos manipulados.

À medida que o conteúdo gerado por IA se torna a norma, crescem as preocupações de que assédio, manipulação e abuso baseado em imagens se tornem mais difíceis de detectar e prevenir.

Ausentes da tabela

Ao mesmo tempo, as mulheres continuam sub-representadas nas indústrias que desenvolvem a tecnologia, levantando preocupações de que o futuro da inteligência artificial está sendo construído sem que suas perspectivas estejam refletidas no roteiro.

Embora a IA deva impulsionar o crescimento em setores focados em tecnologia, as mulheres representam apenas 30% da força de trabalho global em IA, informou a Organização Internacional do Trabalho (OIT).

A ONU Mulheres alerta que as pessoas que constroem esses sistemas não refletem adequadamente a diversidade das populações que deveriam servir.

Sem maior participação de mulheres e outros grupos sub-representados, diz a organização, os vieses existentes correm o risco de se enraizar nas tecnologias futuras.

A disrupção econômica é a que mais recai sobre as mulheres

O impacto econômico da IA também pode cair de forma desigual. As mulheres têm quase o dobro da probabilidade dos homens de ocupar empregos que enfrentam alto risco de automação fora do setor de IA. Os efeitos podem ser agravados por outros fatores, incluindo raça, deficiência, renda e geografia.

À medida que a IA transforma os mercados de trabalho, a ONU Mulheres alerta que comunidades já enfrentando exclusão podem ser empurradas ainda mais para trás, a menos que ações direcionadas sejam tomadas.

O argumento de negócios para a inclusão

Enfrentar o viés não é apenas uma questão de direitos, segundo a ONU Mulheres — também faz sentido comercial.

Pesquisas da Stereotype Alliance, uma iniciativa organizada pela ONU Mulheres, descobriram que publicidade livre de estereótipos de gênero traz resultados empresariais mais fortes. Como resultado, marcas que utilizavam publicidade inclusiva registraram maior crescimento nas vendas, maior lealdade dos clientes e maior poder de precificação do que os concorrentes.

À medida que a IA molda cada vez mais marketing e criação de conteúdo, as organizações que incorporam inclusão em seus processos de IA provavelmente se beneficiarão, enquanto aquelas que não o fizerem podem enfrentar riscos reputacionais e comerciais.

O manual da Unstereotype Alliance, lançado em junho de 2026, oferece aos profissionais de marketing uma forma de detectar viés antes do lançamento, toda vez que utilizam IA generativa.

Uma escolha que moldará o futuro

A ONU Mulheres enfatiza que, quando desenvolvida de forma responsável, a inteligência artificial pode ajudar a identificar estereótipos, ampliar a representação e melhorar a acessibilidade. Mas se esses benefícios serão realizados dependerá de quem está envolvido na formação dos sistemas e de quem as experiências se refletem em seu projeto.

A ONU Mulheres está pedindo que a igualdade de gênero — e os direitos e experiências de mulheres e meninas — sejam integrados em todas as etapas do ciclo de vida da IA, desde o desenvolvimento até a implantação e governança.

À medida que governos, empresas de tecnologia e organizações internacionais se reunirão em Genebra no próximo mês, sua mensagem é clara: se mulheres e meninas não forem incluídas na construção do futuro da IA, as desigualdades do passado correm o risco de se refletir nas tecnologias do futuro.

A ONU Mulheres enfatizou que, quando projetada com segurança e usada com intenção, a IA pode causar o oposto dos danos que estão sendo documentados atualmente. Ele pode detectar estereótipos em vez de reproduzi-los, ampliar a representação em vez de restringi-la e melhorar a acessibilidade em escala para aqueles sistemas atuais frequentemente negligenciados.