EU bojuje proti genderové prehistorizaci v umělé inteligenci!

EU bojuje proti genderové prehistorizaci v umělé inteligenci!

Polen, Land - Evropská unie plánuje komplexní opatření na podporu rovnosti pohlaví v umělé inteligenci (AI). Návrh, který představil polský ministr rovných příležitostí Katarzyna Kotula, konkrétně pojmenující potřebu jednat proti zaujatosti specifické pro genderově specifické v systémech AI. To se považuje za rozhodující krok, protože existuje obava, že AI nejen přebírá existující genderové stereotypy, ale také je může posílit. Stereotypy, jako je názor, že ženy jednají hlavně v ošetřovatelských profesích a mužích, jsou považovány za prosazující prosazování, mají ústřední význam. Základem těchto zkreslení jsou často stereotypní tréninková data, která se používají v algoritmech AI, což může vést k nebezpečným zkreslením. Situace ve zdravotnickém systému je obzvláště znepokojivá, kde se údaje shromážděné u mužských pacientů často používají pro školení systémů AI, které znevýhodněné ženy.

Abychom tyto výzvy splnili, rada EU žádá členské státy, aby rozšířily své struktury rovnosti a vytvořily nové úřady. Plánuje se, že stávající pozice jsou posíleny, což zahrnuje jasnou odpovědnost a více zaměstnanců a rozpočtu. Cílem je stanovit AI jako nástroj pro rovnost místo toho, aby působil jako prostředek k diskriminaci. Kromě toho se zaměřuje na boj proti online misogynii a doporučuje se prozkoumat „maskulinistické sítě“. Muži a chlapci se musí aktivně zapojit do iniciativ rovnosti, aby podpořili udržitelné změny. To je zvláště důležité, protože nedávné studie ukazují, že důvěra v AI se mezi pohlavími liší; Pouze 32% žen důvěřuje systémům AI, zatímco podíl mužů je 47%.

Boj proti diskriminaci

Kromě toho návrh řeší diskriminaci, kterou ženy a dívky zažívají v digitálním světě. Zejména online násilí se setkává s ženami na mocenských pozicích a mladých ženách z marginalizovaných skupin, včetně politiků a novinářů. Předchozí vývoj v oblasti AI ukazuje, že tyto technologie jsou často vyškoleny s zkreslenými údaji, které upevňují stávající genderové role. Například překlady AI často přinášejí stereotypní úkoly do profesí-zatímco sestra je obvykle identifikována jako žena, lékař je téměř vždy prezentován jako muž. Tato tendence zvyšuje stávající klišé specifické pro pohlaví a vede k systematickým zkreslením při přemýšlení o genderových rolích.

Rada EU proto vytvořila právní nadace, které mají za cíl integrovat komplexní „genderovou perspektivu“ do všech politických opatření a zákonů. To také ovlivňuje zákon AI a zákon o digitálních službách. To chce zajistit, aby genderová spravedlnost byla používána nejen teoreticky, ale také v praxi. V prosinci 2024 navíc vstoupí v platnost nové pokyny, která zajišťuje kvótu pro ženy pro pozice dozorčí rady ve velkých společnostech. To podporuje sestavu přátelskou k genderu nejméně 40% nesprávných ředitelů, které musí být ženy, nebo 33% všech dozorčích orgánů.

Cesta do budoucnosti

Zpráva Evropského institutu pro genderový kurz (EIGE) v tomto roce zdůrazňuje potřebu omezit stereotypy specifické pro pohlaví, které nedostatečně zastoupejí ženy, zejména v budoucích odvětvích, jako je AI a obnovitelná energie. Aby to bylo možné, musí být pro rovnost žen a mužů rozvinuta strategie k uzavření propasti mezi názory mladých žen a mužů. Integrace genderové perspektivy může pomoci snížit nesrovnalosti v používání a dovednosti při jednání se systémy AI. V současné době 40% žen nepoužívá AI, zatímco u mužů je to jen 31%.

Diskuse o rovnosti pohlaví v AI není tedy jen otázkou spravedlnosti, ale také ta, která odráží a ovlivňuje sociální struktury jako celek. Obory a organizace jako ver.di Viz odpovědnost za řízení spravedlivých podmínek ve používání AI ve světě práce. Za účelem identifikace a demontáže diskriminace a předsudků v těchto systémech se před zveřejněním nových modelů AI doporučuje návrhy, jako je filtrování dat, lidská zpětná vazba a výsledky testů.

EU využila příležitosti k tomu, aby digitální transformační pohlaví byla přátelště a aktivně snižovala nerovnosti převládající v digitálním prostoru. Zbývá doufat, že tato opatření budou mít nejen odvětví, ale také napříč generacemi.