¡La UE lucha contra la prehistorización de género en la inteligencia artificial!

¡La UE lucha contra la prehistorización de género en la inteligencia artificial!

Polen, Land - La Unión Europea planea medidas integrales para promover la igualdad de género en la inteligencia artificial (AI). Un borrador presentado por el Ministro Polaco de Igualdad de Oportunidades Katarzyna Kotula nombra específicamente la necesidad de actuar contra el sesgo específico de género en los sistemas de IA. Esto se considera un paso crucial, ya que existe la preocupación de que AI no solo se haga cargo de los estereotipos de género existentes, sino que también podría fortalecerlos. Los estereotipos, como la opinión de que las mujeres actúan principalmente en profesiones de ancianos y hombres se consideran fortalecedores de aplicación, son de importancia central. La base de este sesgo a menudo son los datos de entrenamiento estereotípicos que se utilizan en los algoritmos de IA, lo que puede conducir a distorsiones peligrosas. La situación en el sistema de salud es particularmente preocupante, donde los datos recopilados para pacientes masculinos a menudo se usan para la capacitación de los sistemas de IA, que desfavorecieron a las mujeres.

Para enfrentar estos desafíos, el Consejo de la UE le pide a los Estados miembros que expanden sus estructuras de igualdad y creen nuevas autoridades. Se planea que los puestos existentes se fortalezcan, lo que incluye una responsabilidad clara y más personal y presupuesto. El objetivo es establecer la IA como una herramienta para la igualdad en lugar de actuar como un vehículo para la discriminación. Además, se centra en combatir la misogynia en línea, y se recomienda examinar las "redes masculinistas". Los hombres y los niños deben participar activamente en las iniciativas de igualdad para promover el cambio sostenible. Esto es particularmente relevante porque los estudios recientes muestran que la confianza en la IA varía entre los sexos; Solo el 32% de las mujeres confían en los sistemas de IA, mientras que la proporción de hombres es del 47%.

lucha contra la discriminación

Además, el borrador aborda la discriminación que experimentan las mujeres y las niñas en el mundo digital. La violencia en línea en particular conoce a mujeres en posiciones de poder y mujeres jóvenes de grupos marginados, incluidos políticos y periodistas. Los desarrollos anteriores en el campo de la IA muestran que estas tecnologías a menudo están entrenadas con datos distorsionados que consolidan los roles de género existentes. Por ejemplo, las traducciones de IA a menudo traen tareas estereotipadas a las profesiones, mientras que una enfermera se identifica típicamente como mujer, un médico casi siempre se presenta como hombre. Esta tendencia aumenta los clichés específicos de género existentes y conduce a distorsiones sistemáticas al pensar en los roles de género.

El Consejo de la UE ha creado fundaciones legales que están destinadas a integrar una "perspectiva de género" integral en todas las medidas y leyes políticas. Esto también afecta la Ley AI y la Ley de Servicios Digitales. Esto quiere garantizar que la justicia de género se use no solo en teoría, sino también en la práctica. Además, una nueva guía entra en vigor en diciembre de 2024, que proporciona una cuota para mujeres para puestos de junta de supervisión en grandes empresas que cotizan en bolsa. Esto promueve la alineación amigable con el género por al menos el 40% de los directores que no son administradores deben ser mujeres, o el 33% de todos los cuerpos de supervisión.

El camino hacia el futuro

El informe del Instituto Europeo de Curso de Género (EIGE) este año enfatiza la necesidad de reducir los estereotipos específicos de género, que subrepresentan a las mujeres en particular en futuras industrias como IA y energías renovables. Para hacer esto posible, se debe desarrollar una estrategia para cerrar la brecha entre las opiniones de las mujeres jóvenes y los hombres para la igualdad de género. La integración de una perspectiva de género puede ayudar a reducir las discrepancias en el uso y las habilidades para tratar los sistemas de IA. En este momento, el 40% de las mujeres no usan IA, mientras que solo es el 31% para los hombres.

La discusión sobre la igualdad de género en la IA, por lo tanto, no es solo una cuestión de equidad, sino también una que refleja e influye en las estructuras sociales en su conjunto. Comercios y organizaciones como ver.di Vea la responsabilidad de impulsar las condiciones justas en el uso de AI en el mundo del trabajo. Para identificar y desmantelar la discriminación y los prejuicios en estos sistemas, se recomiendan sugerencias como el filtrado de datos, la retroalimentación humana y los resultados de las pruebas sobre los estereotipos antes de que se publiquen nuevos modelos de IA.

La UE ha aprovechado la oportunidad para hacer que la transformación digital sea amigable con el género y reducir activamente las desigualdades que prevalecen en el espacio digital. Queda por esperar que estas medidas no solo tengan un sectoral, sino también en generaciones.