UE luta contra a pré -historização de gênero em inteligência artificial!

UE luta contra a pré -historização de gênero em inteligência artificial!

Polen, Land - A União Europeia planeja medidas abrangentes para promover a igualdade de gênero na inteligência artificial (IA). Um rascunho apresentado pelo ministro da Polônia de Igualdade de Oportunidades Katarzyna Kotula nomeia especificamente a necessidade de agir contra o viés específico de gênero nos sistemas de IA. Isso é considerado um passo crucial, pois há preocupação de que a IA não apenas assuma os estereótipos de gênero existentes, mas também possam fortalecê -los. Os estereótipos, como a visão de que as mulheres agem principalmente nas profissões de enfermagem e os homens são considerados fortalecedores de fiscalização, são de importância central. A base desses viés é frequentemente dados de treinamento estereotipado que são usados nos algoritmos da IA, o que pode levar a distorções perigosas. A situação no sistema de saúde é particularmente preocupante, onde os dados coletados para pacientes do sexo masculino são frequentemente usados para o treinamento de sistemas de IA, que desfavoreciam as mulheres.

Para enfrentar esses desafios, o Conselho da UE pede aos Estados membros que expandam suas estruturas de igualdade e criem novas autoridades. Está planejado que as posições existentes sejam fortalecidas, o que inclui uma responsabilidade clara e mais pessoal e orçamento. O objetivo é estabelecer a IA como uma ferramenta de igualdade, em vez de agir como um veículo de discriminação. Além disso, um foco está no combate a misógino on -line e é recomendável examinar "redes masculinistas". Homens e meninos devem estar ativamente envolvidos em iniciativas de igualdade para promover mudanças sustentáveis. Isso é particularmente relevante porque estudos recentes mostram que a confiança na IA varia entre os sexos; Apenas 32% das mulheres confiam em sistemas de IA, enquanto a proporção de homens é de 47%.

Lute contra a discriminação

Além disso, o rascunho aborda a discriminação que as mulheres e meninas experimentam no mundo digital. A violência on -line em particular encontra mulheres em posições de poder e mulheres jovens de grupos marginalizados, incluindo políticos e jornalistas. Os desenvolvimentos anteriores no campo da IA mostram que essas tecnologias são frequentemente treinadas com dados distorcidos que cimentam as funções de gênero existentes. Por exemplo, as traduções de IA geralmente trazem tarefas estereotipadas para profissões--uma enfermeira é normalmente identificada como mulher, um médico quase sempre é apresentado como homem. Essa tendência aumenta os clichês específicos de gênero existentes e leva a distorções sistemáticas ao pensar em papéis de gênero.

O Conselho da UE criou, portanto, fundações legais destinadas a integrar uma "perspectiva de gênero" abrangente em todas as medidas e leis políticas. Isso também afeta a Lei da IA e a Lei de Serviços Digitais. Isso quer garantir que a justiça de gênero seja usada não apenas em teoria, mas também na prática. Além disso, uma nova diretriz entra em vigor em dezembro de 2024, que prevê uma cota para mulheres para cargos no conselho de supervisão em grandes empresas listadas. Isso promove a formação de gênero em pelo menos 40% dos diretores não gerentes, deve ser mulheres, ou 33% de todos os órgãos de supervisão.

O caminho para o futuro

O relatório do Instituto Europeu de Curso de Gênero (EIGE) este ano enfatiza a necessidade de reduzir os estereótipos específicos de gênero, que estão sub -representando mulheres em particular em futuras indústrias, como IA e energias renováveis. Para tornar isso possível, uma estratégia para fechar a lacuna entre as opiniões de mulheres e homens jovens deve ser desenvolvida para a igualdade de gênero. A integração de uma perspectiva de gênero pode ajudar a reduzir as discrepâncias em uso e as habilidades em lidar com os sistemas de IA. No momento, 40% das mulheres não usam IA, enquanto é de apenas 31% para homens.

A discussão sobre a igualdade de gênero na IA, portanto, não é apenas uma questão de justiça, mas também uma que reflete e influencia as estruturas sociais como um todo. Sindicatos e organizações como ver.di Veja a responsabilidade de conduzir condições justas no uso da IA no mundo do trabalho. Para identificar e desmontar a discriminação e os preconceitos nesses sistemas, são recomendadas sugestões como filtragem de dados, feedback humano e resultados dos testes em estereótipos antes que novos modelos de IA sejam publicados.

A UE aproveitou a oportunidade para tornar o gênero da transformação digital -amigável e reduzir ativamente as desigualdades prevalecentes no espaço digital. Resta espera -se que essas medidas não apenas tenham um setorial, mas também entre as gerações.