EÚ bojuje proti rodovej prehistorizácii v umelej inteligencii!

EÚ bojuje proti rodovej prehistorizácii v umelej inteligencii!

Polen, Land - Európska únia plánuje komplexné opatrenia na podporu rodovej rovnosti v umelej inteligencii (AI). Návrh, ktorý predložil poľský minister rovnakých príležitostí Katarzyna Kotula, konkrétne vymenuje potrebu konať proti rodovo špecifickému zaujatosti v systémoch AI. Toto sa považuje za kľúčový krok, pretože existuje obava, že AI nielen preberá existujúce rodové stereotypy, ale môže ich tiež posilniť. Ústredným významom sú stereotypy, ako napríklad názor, že ženy konajú hlavne v ošetrovateľských profesiách a muži sú považovaní za silných pracovníkov. Základom tohto zaujatosti sú často stereotypné údaje o tréningu, ktoré sa používajú v algoritmoch AI, čo môže viesť k nebezpečným skresleniam. Situácia v systéme zdravotnej starostlivosti je obzvlášť znepokojujúca, keď sa údaje zozbierané pre mužských pacientov často používajú na výcvik systémov AI, ktoré znevýhodňujú ženy.

S cieľom splniť tieto výzvy Rada EÚ požiada členské štáty, aby rozšírili svoje štruktúry rovnosti a vytvorili nové orgány. Plánuje sa, že sa posilňujú existujúce pozície, ktoré zahŕňajú jasnú zodpovednosť a viac zamestnancov a rozpočet. Cieľom je vytvoriť AI ako nástroj pre rovnosť namiesto toho, aby pôsobil ako prostriedok na diskrimináciu. Okrem toho sa zameriava na boj proti online misogynii a odporúča sa preskúmať „maskulinistické siete“. Muži a chlapci sa majú aktívne zapájať do iniciatív rovnosti s cieľom podporovať trvalo udržateľné zmeny. To je obzvlášť dôležité, pretože nedávne štúdie ukazujú, že dôvera v AI sa medzi pohlaviami líši; Iba 32% žien dôveruje systémom AI, zatiaľ čo podiel mužov je 47%.

Boj proti diskriminácii

Návrh sa okrem toho zaoberá diskrimináciou, ktorú ženy a dievčatá zažívajú v digitálnom svete. Online násilie sa stretáva najmä so ženami na mocenských pozíciách a mladých ženách z marginalizovaných skupín vrátane politikov a novinárov. Predchádzajúci vývoj v oblasti AI ukazuje, že tieto technológie sú často trénované s skreslenými údajmi, ktoré upevňujú existujúce rodové úlohy. Napríklad preklady AI často prinášajú stereotypné úlohy k profesiám, zatiaľ čo sestra je zvyčajne identifikovaná ako žena, lekár je takmer vždy prezentovaný ako muž. Táto tendencia zvyšuje existujúce klišé špecifické pre pohlavie a vedie k systematickým deformáciám pri premýšľaní o rodových úlohách.

Rada EÚ preto vytvorila právne základy, ktoré sú určené na integráciu komplexnej „rodovej perspektívy“ do všetkých politických opatrení a zákonov. To tiež ovplyvňuje zákon AI a zákon o digitálnych službách. Chce to zabezpečiť, aby sa rodová spravodlivosť používa nielen teoreticky, ale aj v praxi. V decembri 2024 nadobudne účinnosť nové usmernenie, ktoré ustanovuje kvótu pre ženy pre pozície dozornej rady vo veľkých kótovaných spoločnostiach. To propaguje zostavu priateľskú k rodom najmenej 40% riadiacich riaditeľov, ktoré musia byť ženy alebo 33% všetkých orgánov dohľadu.

Cesta do budúcnosti

Správa Európskeho inštitútu pre rodový kurz (EIGE) v tomto roku zdôrazňuje potrebu znížiť rodové stereotypy, ktoré nedostatočne zastupujú ženy, najmä v budúcich odvetviach, ako sú AI a obnoviteľné energie. Aby sa to umožnilo, musí sa vyvinúť stratégia na uzavretie priepasti medzi názormi mladých žien a mužov pre rodovú rovnosť. Integrácia rodovej perspektívy môže pomôcť znížiť nezrovnalosti v používaní a zručnosti pri riešení systémov AI. V súčasnosti 40% žien nepoužíva AI, zatiaľ čo pre mužov je to iba 31%.

Diskusia o rodovej rovnosti v AI je preto nielen otázkou spravodlivosti, ale aj o tom, ktorá odráža a ovplyvňuje sociálne štruktúry ako celok. Odbory a organizácie ako ver.di Pozrite sa na zodpovednosť za riadenie spravodlivých podmienok v používaní AI vo svete práce. S cieľom identifikovať a rozobrať diskrimináciu a predsudky v týchto systémoch sa na stereotypoch odporúčajú návrhy, ako je filtrovanie údajov, ľudská spätná väzba a výsledky testov pred uverejnením nových modelov AI.

EÚ využila príležitosť na to, aby sa digitálna transformácia týkala pohlavia a aktívne znižovala nerovnosti, ktoré prevládajú v digitálnom priestore. Zostáva ešte dúfať, že tieto opatrenia budú mať nielen sektor, ale aj naprieč generáciami.