L'UE lutte contre la préhistorisation de genre dans l'intelligence artificielle!

L'UE lutte contre la préhistorisation de genre dans l'intelligence artificielle!

Polen, Land - L'Union européenne prévoit des mesures complètes pour promouvoir l'égalité des sexes dans l'intelligence artificielle (IA). Un projet qui a été présenté par le ministre polonais de l'égalité des chances Katarzyna Kotula nomme spécifiquement la nécessité d'agir contre les biais spécifiques au sexe dans les systèmes d'IA. Ceci est considéré comme une étape cruciale, car il est à craindre que l'IA prenne non seulement les stéréotypes de genre existants, mais pourrait également les renforcer. Les stéréotypes, tels que l'idée que les femmes agissent principalement dans les professions infirmières et les hommes sont considérés comme des renforcements d'application, sont d'une importance centrale. La base de ces biais est souvent des données de formation stéréotypées qui sont utilisées dans les algorithmes d'IA, ce qui peut entraîner des distorsions dangereuses. La situation dans le système de santé est particulièrement inquiétante, où les données recueillies pour les patients masculins sont souvent utilisées pour la formation des systèmes d'IA, qui défavorisée.

Afin de relever ces défis, le Conseil de l'UE demande aux États membres d'étendre leurs structures d'égalité et de créer de nouvelles autorités. Il est prévu que les postes existants soient renforcés, ce qui comprend une responsabilité claire et plus de personnel et de budget. L'objectif est d'établir l'IA comme un outil d'égalité au lieu d'agir comme véhicule de discrimination. De plus, il est mis sur la lutte contre les Misogynia en ligne, et il est recommandé d'examiner les "réseaux masculinistes". Les hommes et les garçons doivent être activement impliqués dans des initiatives d'égalité afin de promouvoir un changement durable. Ceci est particulièrement pertinent car des études récentes montrent que la confiance dans l'IA varie entre les sexes; Seulement 32% des femmes font confiance aux systèmes d'IA, tandis que la proportion d'hommes est de 47%.

lutter contre la discrimination

En outre, le projet aborde la discrimination que les femmes et les filles éprouvent dans le monde numérique. La violence en ligne en particulier rencontre les femmes en postes de pouvoir et les jeunes femmes de groupes marginalisés, y compris les politiciens et les journalistes. Les développements précédents dans le domaine de l'IA montrent que ces technologies sont souvent formées avec des données déformées qui ciment les rôles de genre existants. Par exemple, les traductions de l'IA apportent souvent des affectations stéréotypées aux professions - tandis qu'une infirmière est généralement identifiée comme une femme, un médecin est presque toujours présenté comme un homme. Cette tendance augmente les clichés spécifiques au genre existants et conduit à des distorsions systématiques dans la réflexion sur les rôles de genre.

Le Conseil de l'UE a donc créé des fondements juridiques qui visent à intégrer une «perspective de genre» complète dans toutes les mesures et lois politiques. Cela affecte également la loi sur l'IA et la loi sur les services numériques. Cela veut garantir que la justice de genre est utilisée non seulement en théorie, mais aussi dans la pratique. En outre, une nouvelle directive entre en vigueur en décembre 2024, qui prévoit un quota pour les femmes pour les postes de conseil de supervision dans les grandes sociétés cotées. Cela favorise la gamme de sexes d'au moins 40% des administrateurs non gérés doivent être des femmes, soit 33% de tous les organismes de surveillance.

La voie vers le futur

Le rapport de l'Institut européen pour le cours de genre (EIGE) souligne cette année la nécessité de réduire les stéréotypes spécifiques au genre, qui sous-représentent les femmes en particulier dans les industries futures telles que l'IA et les énergies renouvelables. Pour rendre cela possible, une stratégie pour combler l'écart entre les opinions des jeunes femmes et des hommes doit être développée pour l'égalité des sexes. L'intégration d'une perspective de genre peut aider à réduire les écarts d'utilisation et les compétences concernant les systèmes d'IA. À l'heure actuelle, 40% des femmes n'utilisent pas d'IA, alors qu'elle n'est que de 31% pour les hommes.

La discussion sur l'égalité des sexes dans l'IA n'est donc pas seulement une question d'équité, mais aussi une question qui reflète et influence les structures sociales dans son ensemble. Les syndicats et les organisations tels que ver.di Voir la responsabilité de conduire des conditions équitables dans l'utilisation de l'IA dans le monde du travail. Afin d'identifier et de démonter la discrimination et les préjugés dans ces systèmes, des suggestions telles que le filtrage des données, la rétroaction humaine et les résultats des tests sont recommandés sur les stéréotypes avant la publication de nouveaux modèles d'IA.

L'UE a profité de l'occasion pour rendre la transformation numérique sexiste et réduire activement les inégalités en vigueur dans l'espace numérique. Il reste à espérer que ces mesures auront non seulement un secteur, mais aussi d'une génération entre les générations.