Le lotte dell'UE contro la preistorizzazione di genere nell'intelligenza artificiale!

Le lotte dell'UE contro la preistorizzazione di genere nell'intelligenza artificiale!

Polen, Land - L'Unione Europea pianifica misure globali per promuovere l'uguaglianza di genere nell'intelligenza artificiale (AI). Una bozza che è stata presentata dal ministro polacco delle pari opportunità Katarzyna Kotula nomina in particolare la necessità di agire contro il pregiudizio specifico di genere nei sistemi di intelligenza artificiale. Questo è considerato un passo cruciale, dal momento che si preoccupa che l'IA non solo assuma stereotipi di genere esistenti, ma potrebbe anche rafforzarli. Gli stereotipi, come l'opinione che le donne agiscono principalmente nelle professioni infermieristiche e che gli uomini sono considerati i rafforzatori di applicazione, sono di fondamentale importanza. La base di questi pregiudizi sono spesso i dati di addestramento stereotipato che vengono utilizzati negli algoritmi AI, che possono portare a pericolose distorsioni. La situazione nel sistema sanitario è particolarmente preoccupante, in cui i dati raccolti per i pazienti maschi vengono spesso utilizzati per la formazione dei sistemi di intelligenza artificiale, che hanno svantaggiato le donne.

Al fine di affrontare queste sfide, il Consiglio dell'UE chiede agli Stati membri di espandere le loro strutture di uguaglianza e creare nuove autorità. Si prevede che le posizioni esistenti siano rafforzate, il che include una chiara responsabilità e più personale e budget. L'obiettivo è quello di stabilire l'IA come strumento per l'uguaglianza invece di agire come veicolo per la discriminazione. Inoltre, si concentra sulla lotta alla misoginia online ed è raccomandato di esaminare le "reti mascoliniste". Uomini e ragazzi devono essere attivamente coinvolti in iniziative di uguaglianza al fine di promuovere un cambiamento sostenibile. Ciò è particolarmente rilevante perché studi recenti dimostrano che la fiducia nell'intelligenza artificiale varia tra i sessi; Solo il 32% delle donne si fida di sistemi AI, mentre la percentuale di uomini è del 47%.

Combatti contro la discriminazione

Inoltre, la bozza affronta la discriminazione che le donne e le ragazze sperimentano nel mondo digitale. La violenza online in particolare incontra le donne in posizioni di potere e giovani donne di gruppi emarginati, tra cui politici e giornalisti. Gli sviluppi precedenti nel campo dell'IA mostrano che queste tecnologie sono spesso addestrate con dati distorti che conservano ruoli di genere esistenti. Ad esempio, le traduzioni di intelligenza artificiale portano spesso incarichi stereotipati alle professioni, mentre un'infermiera viene generalmente identificata come femmina, un medico è quasi sempre presentato come maschio. Questa tendenza aumenta i cliché specifici di genere esistenti e porta a distorsioni sistematiche nel pensare ai ruoli di genere.

Il consiglio dell'UE ha quindi creato basi legali che hanno lo scopo di integrare una "prospettiva di genere" globale in tutte le misure e le leggi politiche. Ciò influisce anche sull'AI Act e la Digital Services Act. Questo vuole garantire che la giustizia di genere sia usata non solo in teoria, ma anche in pratica. Inoltre, entra in vigore una nuova linea guida nel dicembre 2024, che prevede una quota per le donne per le posizioni del consiglio di vigilanza in grandi società quotate. Ciò promuove la gamma di genere di almeno il 40% dei direttori non gestiti deve essere donne, ovvero il 33% di tutti gli organi di vigilanza.

la strada per il futuro

Il rapporto dell'European Institute for Gender Course (EIGE) quest'anno sottolinea la necessità di ridurre gli stereotipi specifici di genere, che sono donne sottorappresentate in particolare in industrie future come AI ed energie rinnovabili. Per renderlo possibile, una strategia per colmare il divario tra le opinioni di giovani donne e uomini deve essere sviluppata per l'uguaglianza di genere. L'integrazione di una prospettiva di genere può aiutare a ridurre le discrepanze nell'uso e le competenze nella gestione dei sistemi di intelligenza artificiale. Al momento, il 40% delle donne non usa l'IA, mentre è solo il 31% per gli uomini.

La discussione sull'uguaglianza di genere nell'intelligenza artificiale non è quindi solo una questione di equità, ma anche una che riflette e influenza le strutture sociali nel suo insieme. Sindacati e organizzazioni come ver.di Vedi la responsabilità di guidare le condizioni eque nell'uso dell'IA nel mondo del lavoro. Al fine di identificare e smantellare la discriminazione e i pregiudizi in questi sistemi, sono raccomandati suggerimenti come il filtraggio dei dati, il feedback umano e i risultati dei test sugli stereotipi prima che vengano pubblicati nuovi modelli AI.

L'UE ha colto l'occasione per rendere il genere di trasformazione digitale e ridurre attivamente le disuguaglianze prevalenti nello spazio digitale. Resta da sperare che queste misure non avranno solo un settoriale, ma anche attraverso le generazioni.