AI în procedura de azil: risc de decizii greșite și încălcări fundamentale ale drepturilor!

AI în procedura de azil: risc de decizii greșite și încălcări fundamentale ale drepturilor!

Graz, Österreich - Oficiul Federal Austriac pentru Afaceri Externe și Asylum (BFA) intenționează să introducă inteligență artificială (AI) în procedurile de azil pentru a scurta timpii de procesare și a crește eficiența. Într-o procedură din ce în ce mai digitalizată, sistemele bazate pe AI, cum ar fi chatbots și instrumentele de analiză a datelor, trebuie utilizate pentru a prelucra informații despre țările de origine. Sunt utilizate programe dovedite, cum ar fi Deepl și Complexity, precum și aplicații special dezvoltate, rapoarte exxpress.at .

Aceste tehnologii ar trebui să ajute la evaluarea riscurilor de persecuție și la verificarea credibilității informațiilor. Cu toate acestea, experți precum politicianul Laura Jung și avocatul Angelika Adelsamer și -au exprimat îngrijorări serioase. Ei avertizează despre sensibilitatea la erori și netransparența sistemelor, precum și posibile încălcări ale drepturilor fundamentale. Așa-numita problemă a cutiei negre este deosebit de îngrijorătoare, în care procesul de luare a deciziilor AI nu este de înțeles, ceea ce încalcă statul de drept.

îngrijorări cu privire la tehnologie

Ca parte a proiectului de cercetare A.I.Syl la Universitatea din Graz, au fost identificate riscuri mari. Jung a subliniat că modelele vocale, cum ar fi ChatGPT, pot crea „halucinații”, ceea ce ar putea duce la decizii grave greșite. În plus, noua metodologie de analiză poate oferi cunoștințe și obiectivitate, în timp ce se bazează de fapt pe o bază factuală slabă. These concerns are reinforced by planning the BFA to read mobile phones for the identity examination, which is considered a massive interference with privacy, so Uni-Graz.at .

Un alt risc este posibilitatea ca modelele AI să poată prejudicia datele de instruire. Adenamer subliniază că nu numai solicitanții de azil, ci și toți resortisanții din țara a treia sunt afectați de această prelucrare extinsă a datelor. Scepticismul în comparație cu reducerea costurilor promise și creșterea eficienței este mare, deoarece procedurile incorecte ar putea pune în pericol drepturile fundamentale și statul de drept.

Regulamentul UE și implicațiile acestora

Discuția actuală despre utilizarea AI este strânsă de reglementarea planificată a AI a UE. Inițial destinată să protejeze persoanele pe fugă, regulamentul urmărește o abordare bazată pe risc care dezavantajează refugiații. De exemplu, autoritățile de migrație și securitate primesc adesea permise excepționale pentru a utiliza tehnologii cu risc ridicat. gwi-boell.de zonele sunt prohibite, permise în migration și ar putea crește socialul social discriminare.

Toate acestea ridică întrebarea în ce măsură utilizarea AI este compatibilă cu drepturile omului și principiile statului de drept în procedura de azil. Teama este că tehnologia va duce la încălcări mai rapide ale drepturilor omului, mai degrabă decât să îmbunătățească protecția refugiaților. Prin urmare, organizațiile societății civile solicită reglementări mai stricte și mai multă transparență în tratarea acestor tehnologii.

Luni viitoare, 12 mai 2025, rezultatele proiectului de cercetare A.I.Syl vor fi prezentate și discutate în Forumul StadtPark din Graz. Discuția ar putea fi crucială pentru modul în care utilizarea AI este reglementată în zona sensibilă a procedurilor de azil în viitor.