AI v postopku azila: tveganje za napačne odločitve in temeljne kršitve pravic!

AI v postopku azila: tveganje za napačne odločitve in temeljne kršitve pravic!

Zvezni avstrijski urad za zunanje zadeve in azil (BFA) načrtuje uvedbo umetne inteligence (AI) v postopkih azila za skrajšanje časov obdelave in povečanje učinkovitosti. V vse bolj digitaliziranem postopku se za obdelavo informacij o državah izvora uporabljajo sistemi, ki temeljijo na AI, kot so klepeti in orodja za analizo podatkov. Uporabljajo se preizkušeni programi, kot so DEEPL in kompleksnost ter posebej razvite aplikacije, poročajo

Te tehnologije bi morale pomagati pri ocenjevanju tveganj preganjanja in preverjanju verodostojnosti informacij. Vendar pa so strokovnjaki, kot sta politolog Laura Jung in odvetnica Angelika Adellamer, izrazili resne pomisleke. Opozarjajo na dovzetnost za napake in ne -transparentnost sistemov, pa tudi na morebitne kršitve temeljnih pravic. Tako imenovani problem črne škatle je še posebej zaskrbljujoč, v katerem postopek odločanja AI ni razumljiv, kar krši pravno državo.

Kot del raziskovalnega projekta A.I.Syl na Univerzi v Gradcu so bila ugotovljena velika tveganja. Jung je poudaril, da lahko glasovni modeli, kot je Chatgpt, ustvarijo "halucinacije", kar bi lahko privedlo do resnih napačnih odločitev. Poleg tega lahko nova metodologija analize daje znanje in objektivnost, medtem ko dejansko temelji na slabi dejanski osnovi. These concerns are reinforced by planning the BFA to read mobile phones for the identity examination, which is considered a massive interference with privacy, so Uni-graz.at .

Drugo tveganje je možnost, da bi modeli AI lahko prevzeli predsodke od podatkov o usposabljanju. Adenamer poudarja, da ta razširjena obdelava podatkov vpliva ne le prosilci za azil, ampak tudi na vse državljane tretje države. Skepticizem v primerjavi z obljubljenimi znižanjem stroškov in povečanje učinkovitosti je velik, ker lahko napačni postopki ogrozijo temeljne pravice in pravno državo.

Uredba EU in njihove posledice

Trenutna razprava o uporabi AI se zaostri z načrtovano regulacijo AI EU. Prvotno namenjen zaščiti ljudi v begu, uredba zasleduje pristop, ki temelji na tveganju, ki prikrajša begunce. Na primer, organi za migracije in varnostne organe pogosto prejmejo izjemna dovoljenja za uporabo tehnologij z visokim tveganjem.

Vse to sproža vprašanje, v kolikšni meri je uporaba AI združljiva s človekovimi pravicami in načeli prava v postopku azila. Strah je, da bo tehnologija privedla do hitrejših kršitev človekovih pravic, ne pa da bi izboljšala zaščito beguncev. Organizacije civilne družbe zato pozivajo k strožjim predpisom in večjo preglednost pri obravnavi teh tehnologij.