UE walczy z prehistoryzacją płci w sztucznej inteligencji!

UE walczy z prehistoryzacją płci w sztucznej inteligencji!

Polen, Land - Unia Europejska planuje kompleksowe środki promujące równość płci w sztucznej inteligencji (AI). Projekt, który został przedstawiony przez polskiego ministra równych szans, Katarrzyna Kotula, szczególnie nazywa potrzebę działania przeciwko uprzedzeniom związanym z płcią w systemach AI. Jest to uważane za kluczowy krok, ponieważ istnieje obawa, że ​​sztuczna inteligencja nie tylko przejmuje istniejące stereotypy płciowe, ale także może je wzmocnić. Centralne znaczenie mają stereotypy, takie jak pogląd, że kobiety działają głównie w zawodach pielęgniarskich, a mężczyźni są uważane za wzmacniacze egzekwowania. Podstawą tych stronniczości są często stereotypowe dane treningowe używane w algorytmach AI, które mogą prowadzić do niebezpiecznych zniekształceń. Sytuacja w systemie opieki zdrowotnej jest szczególnie niepokojąca, w której dane zebrane dla pacjentów płci męskiej są często wykorzystywane do szkolenia systemów AI, które w niekorzystnej sytuacji.

Aby sprostać tym wyzwaniom, rada UE prosi państwa członkowskie o rozszerzenie swoich struktur równości i utworzenie nowych władz. Planowane jest, że istniejące stanowiska są wzmocnione, co obejmuje wyraźną odpowiedzialność oraz więcej personelu i budżetu. Celem jest ustanowienie AI jako narzędzia równości zamiast działania jako narzędzie dyskryminacji. Ponadto nacisk kładziony jest na zwalczanie mizogynii online i zaleca się zbadanie „sieci męskich”. Mężczyźni i chłopcy mają być aktywnie zaangażowani w inicjatywy równości w celu promowania zrównoważonych zmian. Jest to szczególnie istotne, ponieważ ostatnie badania pokazują, że zaufanie do AI różni się między płciami; Tylko 32% kobiet ufa systemom AI, podczas gdy odsetek mężczyzn wynosi 47%.

Walcz z dyskryminacją

Ponadto projekt dotyczy dyskryminacji, jakiej doświadczają kobiety i dziewczęta w cyfrowym świecie. W szczególności przemoc online spotyka kobiety na stanowiskach władzy i młodych kobiet z marginalizowanych grup, w tym polityków i dziennikarzy. Poprzednie zmiany w dziedzinie AI pokazują, że technologie te są często szkolone z zniekształconymi danymi, które cementują istniejące role płciowe. Na przykład tłumaczenia AI często przynoszą stereotypowe zadania dla zawodów-podczas gdy pielęgniarka jest zwykle identyfikowana jako kobieta, lekarz jest prawie zawsze prezentowany jako mężczyzna. Tendencja ta zwiększa istniejące klisze specyficzne dla płci i prowadzi do systematycznych zniekształceń w myśleniu o role płci.

Rada UE utworzyła zatem fundacje prawne, które mają na celu zintegrowanie kompleksowej „perspektywy płci” ze wszystkimi środkami politycznymi i przepisami. Wpływa to również na ustawę AI i ustawę o usługach cyfrowych. To chce zapewnić, że sprawiedliwość płciowa jest wykorzystywana nie tylko w teorii, ale także w praktyce. Ponadto w grudniu 2024 r. Wchodzi nowa wytyczna, która przewiduje kwot dla kobiet na stanowiska rady nadzorczej w dużych spółkach giełdowych. Promuje to ofertę przyjazną dla płci przez co najmniej 40% dyrektorów nie zarządzających musi być kobietami, czyli 33% wszystkich organów nadzorczych.

droga do przyszłości

Raport Europejskiego Instytutu Kursu płciowego (EIGE) w tym roku podkreśla potrzebę ograniczenia stereotypów specyficznych dla płci, które niedostatecznie reprezentują kobiety, szczególnie w przyszłych branżach, takich jak AI i energie odnawialne. Aby to umożliwić, należy opracować strategię zmniejszenia luki między poglądami młodych kobiet i mężczyzn pod kątem równości płci. Integracja perspektywy płci może pomóc zmniejszyć rozbieżności w użyciu i umiejętności w zakresie radzenia sobie z systemami AI. W tej chwili 40% kobiet nie korzysta z AI, podczas gdy dla mężczyzn jest to tylko 31%.

Dyskusja na temat równości płci w sztucznej inteligencji jest zatem nie tylko kwestią sprawiedliwości, ale także taką, która odzwierciedla i wpływa na struktury społeczne jako całość. Związki zawodowe i organizacje, takie jak ver.di Zobacz odpowiedzialność za prowadzenie uczciwych warunków w użyciu AI w świecie pracy. W celu zidentyfikowania i demontażu dyskryminacji i uprzedzeń w tych systemach, takie sugestie, takie jak filtrowanie danych, ludzkie informacje zwrotne i wyniki testów są zalecane na stereotypach przed opublikowaniem nowych modeli AI.

UE skorzystała z okazji, aby transformacja cyfrowa była przyjazna dla płci i aktywne zmniejszenie nierówności panujących w przestrzeni cyfrowej. Należy mieć nadzieję, że środki te będą miały nie tylko sektorowy, ale także przez pokolenia.