10.12.2025

O mundo tem um problema de igualdade de gênero, e a Inteligência Artificial (IA) reproduz os vieses de gênero presentes na nossa sociedade.

Embora globalmente mais mulheres acessem a internet a cada ano, nos países de baixa renda apenas 20 por cento estão conectadas. A divisão digital de gênero cria uma lacuna de dados que se reflete diretamente no viés de gênero na IA.

Quem cria a IA e quais vieses estão inseridos ou não nos dados que a treinam podem perpetuar, ampliar ou reduzir desigualdades de gênero.

O que é viés de gênero na IA?
Um estudo do Berkeley Haas Center for Equity, Gender and Leadership analisou 133 sistemas de IA em diferentes setores e descobriu que cerca de 44 por cento apresentavam viés de gênero, e 25 por cento mostravam tanto viés de gênero quanto racial.

Beyza Doğuç, artista de Ancara, Turquia, encontrou viés de gênero na IA generativa enquanto pesquisava para um romance e pediu à tecnologia que escrevesse uma história sobre um médico e uma enfermeira. A IA generativa cria novos conteúdos, como textos, imagens e vídeos, inspirada em materiais semelhantes usados no seu treinamento, geralmente em resposta a perguntas ou comandos de uma pessoa usuária.

A IA tornou o médico homem e a enfermeira mulher. Doğuç continuou enviando prompts, e a IA sempre escolhia papéis estereotipados de gênero para os personagens, associando qualidades e habilidades específicas a mulheres ou homens. Quando ela perguntou sobre o viés apresentado, a IA explicou que isso ocorria devido aos dados em que havia sido treinada e, especificamente, devido ao “word embedding”, ou seja, o modo como palavras são codificadas em sistemas de aprendizagem de máquina para refletir significado e associação com outras palavras. Se a IA é treinada com dados que associam homens e mulheres a habilidades ou interesses distintos, ela produzirá conteúdo replicando esses vieses.

“A inteligência artificial espelha os vieses presentes na nossa sociedade e que aparecem nos dados usados para treiná-la”, disse Doğuç em uma entrevista recente à ONU Mulheres.

Quem desenvolve a IA e quais dados são usados no treinamento têm implicações diretas para soluções tecnológicas baseadas em IA.

Sola Mahfouz, pesquisadora de computação quântica da Universidade Tufts, está entusiasmada com a IA, mas também preocupada. “Ela é equitativa? Até que ponto reflete as estruturas patriarcais e os vieses inerentes de seus criadores, predominantemente homens?” ela refletiu.

Mahfouz nasceu no Afeganistão, onde foi forçada a deixar a escola quando o Talibã foi até sua casa e ameaçou sua família. Ela eventualmente deixou o Afeganistão e imigrou para os Estados Unidos em 2016 para cursar a universidade.

Com empresas buscando cada vez mais dados para alimentar sistemas de IA, pesquisadores do Epoch afirmam que as empresas de tecnologia podem ficar sem dados de alta qualidade para treinar esses sistemas até 2026.

Natacha Sangwa, estudante de Ruanda que participou do primeiro acampamento de programação da iniciativa African Girls Can Code no ano passado, observa, “Percebi que [a IA] é majoritariamente desenvolvida por homens e treinada com conjuntos de dados baseados principalmente em informações de homens.” Sangwa viu de perto como isso afeta a experiência das mulheres com a tecnologia. “Quando mulheres usam alguns sistemas de IA para diagnosticar doenças, muitas vezes recebem respostas imprecisas, porque a IA não reconhece sintomas que podem se manifestar de maneira diferente em mulheres.”

Se as tendências atuais continuarem, tecnologias e serviços baseados em IA continuarão carecendo de perspectivas diversas de gênero e raça. Essa lacuna resultará em serviços de menor qualidade e decisões enviesadas sobre empregos, crédito, saúde e muito mais.

Como evitar vieses de gênero na IA?
Eliminar o viés de gênero na IA começa com a priorização da igualdade de gênero como objetivo desde a concepção dos sistemas. Isso inclui avaliar dados para identificar má representação, garantir que os dados reflitam experiências diversas de gênero e raça, e reformular os times que desenvolvem IA para torná-los mais diversos e inclusivos.

Segundo o Global Gender Gap Report de 2023, apenas 30 por cento das pessoas que trabalham com IA atualmente são mulheres.

“Quando a tecnologia é desenvolvida a partir de apenas uma perspectiva, é como olhar o mundo com metade da visão”, comentou Mahfouz. Ela trabalha em um projeto para criar uma plataforma alimentada por IA que conecte mulheres afegãs entre si.

“Precisamos de mais pesquisadoras no campo. As experiências únicas de vida das mulheres podem influenciar profundamente os fundamentos teóricos da tecnologia e abrir novas aplicações”, acrescentou.

“Para evitar o viés de gênero na IA, precisamos primeiro enfrentar o viés de gênero em nossa sociedade”, disse Doğuç.

Há uma necessidade urgente de incorporar conhecimentos de diferentes áreas, incluindo expertise em gênero, no desenvolvimento da IA. Isso permite criar sistemas de aprendizagem de máquina que sirvam melhor às pessoas e contribuam para um mundo mais igualitário e sustentável.

Em uma indústria de IA em rápida evolução, a ausência de perspectivas, dados e decisões informadas por gênero pode perpetuar desigualdades profundas por muitos anos.

O campo da IA precisa de mais mulheres, o que exige ampliar e garantir o acesso de meninas e mulheres à educação e às carreiras em STEM e TIC, além de favorecer sua liderança nesses setores.

O Fórum Econômico Mundial relatou em 2023 que mulheres representavam apenas 29 por cento da força de trabalho em ciências, tecnologia, engenharia e matemática. Embora mais mulheres estejam se formando e entrando em carreiras STEM do que nunca, continuam concentradas em cargos de entrada e são menos propensas a ocupar posições de liderança.

Como a governança da IA pode acelerar o progresso rumo à igualdade de gênero?
A cooperação internacional sobre tecnologia digital tem se concentrado em questões técnicas, infraestrutura e economia digital, muitas vezes deixando de lado como os avanços tecnológicos afetam a sociedade e geram rupturas em todas as suas camadas, especialmente para os mais vulneráveis e historicamente excluídos. Há um déficit global de governança para enfrentar os desafios e riscos da IA e aproveitar seu potencial sem deixar ninguém para trás.

“Hoje, não existe mecanismo que impeça desenvolvedores de lançar sistemas de IA antes de estarem prontos e seguros. É preciso um modelo global de governança multissetorial que previna e corrija situações em que sistemas de IA apresentem vieses de gênero ou raça, reforcem estereótipos prejudiciais ou não atendam a padrões de privacidade e segurança”, afirmou Helene Molinier, assessora de Cooperação em Igualdade de Gênero Digital da ONU Mulheres, em entrevista recente ao Devex.

Na arquitetura atual da IA, benefícios e riscos não são distribuídos de forma equitativa, com poder concentrado nas mãos de poucas empresas, Estados e indivíduos, que controlam talentos, dados e recursos computacionais. Também não há mecanismos para considerar fatores mais amplos, como novas formas de vulnerabilidade social geradas pela IA, a transformação de setores produtivos e mercados de trabalho, o potencial de tecnologias emergentes serem usadas como ferramentas de opressão, a sustentabilidade da cadeia de suprimentos da IA ou o impacto da IA nas futuras gerações.

Em 2024, as negociações do Global Digital Compact (GDC) oferecem uma oportunidade única para criar impulso político e colocar as perspectivas de gênero na tecnologia digital no centro de um novo marco de governança digital. Sem isso, corremos o risco de sobrepor a IA às desigualdades existentes, deixando a discriminação e os danos de gênero inalterados, e até mesmo ampliados e perpetuados pelos sistemas de IA.

O documento de posição da ONU Mulheres sobre o GDC apresenta recomendações concretas para aproveitar a velocidade, escala e alcance da transformação digital em favor do empoderamento de mulheres e meninas em toda sua diversidade, desencadeando transformações que coloquem países no caminho de um futuro digital justo para todas as pessoas.