Esta é a conclusão de um novo estudo divulgado pela ONU Mulheres. O documento alerta para o avanço de algoritmos discriminatórios no mercado global, revelando que 44% das tecnologias de IA analisadas demonstram viés de gênero, enquanto 26% combinam preconceitos de gênero e de raça.
Falta de fiscalização humana
A IA generativa se tornou uma das ferramentas mais utilizadas na comunicação e no marketing. Um censo dos profissionais de publicidade do Reino Unido, no ano passado, revelou que 88% das agências de mídia fizeram uso da ferramenta na região.
Segundo o estudo, 51% dos profissionais monitoram os conteúdos gerados por IA antes de sua veiculação.
O relatório da Organização das Nações Unidas para Educação, Ciência e Cultura, Unesco, revela que os Grandes Modelos de Linguagem de IA associam mulheres a conceitos como “casa”, “família” e “filhos”, enquanto homens são vinculados a “negócios”, “executivo” e “carreira”.
Além disso, em testes de complementação de frases iniciadas pelo gênero da pessoa, cerca de 20% das respostas exibiram atitudes sexistas e misóginas, retratando mulheres como objetos sexuais ou propriedade de seus maridos.
De 138 países avaliados pela ONU Mulheres, apenas 24 mencionam gênero em suas estratégias nacionais de IA, e só 18 incluem políticas para mitigar o problema.
As interfaces cérebro-computador desempenharão um papel central na definição de como a inteligência humana e a inteligência artificial se encaixam
Escalada da violência digital
A popularização da IA também intensificou a violência de gênero nos espaços digitais.
Dados da ONU Mulheres mostram que quase uma em cada quatro defensoras de direitos humanos, ativistas e jornalistas já sofreu violência online mediada por IA.
Entre as entrevistadas, 12% relataram o compartilhamento não consensual de imagens íntimas e 6% foram alvo de deepfakes.
Enquanto sofrem os impactos negativos, as mulheres continuam fora das empresas de tecnologia, representando apenas 30% da força de trabalho global no setor.
Dentre as profissionais de outras áreas, os cargos ocupados por mulheres têm quase o dobro de chance de serem substituídos por robôs que o dos homens.
Inclusão como forma de atuação
O resultado do estudo da Aliança Antiestereótipos, iniciativa liderada pela ONU Mulheres com o setor privado, mostra que empresas que criam publicidades inclusivas e livres de estereótipos registram um aumento de 3,46% nas vendas de curto prazo e 16,26% no longo prazo.
Essas marcas têm ainda 62% mais chances de ser a primeira escolha do consumidor e experimentam uma fidelidade 15% maior.
A agência defende que, se for projetada com parâmetros de segurança e utilizada de forma intencional, a IA pode se transformar em uma aliada poderosa para detectar estereótipos e ampliar a representatividade.
No entanto, a organização enfatiza que o rumo dessa tecnologia depende das decisões tomadas por governos, empresas e desenvolvedores, exigindo a inclusão obrigatória das vozes e experiências vividas por mulheres e pela sociedade civil.
source
Com informações da ONU
