AI στη διαδικασία ασύλου: Κίνδυνος λανθασμένων αποφάσεων και παραβιάσεων θεμελιωδών δικαιωμάτων!

AI στη διαδικασία ασύλου: Κίνδυνος λανθασμένων αποφάσεων και παραβιάσεων θεμελιωδών δικαιωμάτων!

Το ομοσπονδιακό αυστριακό γραφείο για τις εξωτερικές υποθέσεις και το άσυλο (BFA) σχεδιάζει να εισαγάγει την τεχνητή νοημοσύνη (AI) σε διαδικασίες ασύλου για τη μείωση των χρόνων επεξεργασίας και την αύξηση της αποτελεσματικότητας. Σε μια όλο και πιο ψηφιοποιημένη διαδικασία, πρέπει να χρησιμοποιηθούν συστήματα που βασίζονται σε AI, όπως chatbots και εργαλεία ανάλυσης δεδομένων για την επεξεργασία πληροφοριών σχετικά με τις χώρες προέλευσης. Χρησιμοποιούνται αποδεδειγμένα προγράμματα όπως DEEPL και πολυπλοκότητα καθώς και ειδικά αναπτυγμένες εφαρμογές, αναφορές exxpress.at .

Αυτές οι τεχνολογίες θα πρέπει να βοηθήσουν στην αξιολόγηση των κινδύνων των διώξεων και στον έλεγχο της αξιοπιστίας των πληροφοριών. Ωστόσο, εμπειρογνώμονες όπως ο πολιτικός επιστήμονας Laura Jung και ο δικηγόρος Angelika Adelsamer εξέφρασαν σοβαρές ανησυχίες. Προειδοποιούν για την ευαισθησία σε σφάλματα και μη διαφάνεια των συστημάτων καθώς και πιθανές παραβιάσεις των θεμελιωδών δικαιωμάτων. Το λεγόμενο πρόβλημα μαύρου κουτιού είναι ιδιαίτερα ανησυχητικό, στο οποίο η διαδικασία λήψης αποφάσεων του ΑΙ δεν είναι κατανοητή, η οποία παραβιάζει το κράτος δικαίου.

Ανησυχίες για την τεχνολογία

Στο πλαίσιο του ερευνητικού έργου a.i.syl στο Πανεπιστήμιο του Γκρατς, εντοπίστηκαν υψηλοί κίνδυνοι. Ο Jung επεσήμανε ότι τα φωνητικά μοντέλα όπως το ChatGPT μπορούν να δημιουργήσουν "ψευδαισθήσεις", οι οποίες θα μπορούσαν να οδηγήσουν σε σοβαρές λανθασμένες αποφάσεις. Επιπλέον, η νέα μεθοδολογία ανάλυσης μπορεί να δώσει γνώση και αντικειμενικότητα, ενώ βασίζεται στην πραγματικότητα σε κακή πραγματική βάση. Αυτές οι ανησυχίες ενισχύονται με το σχεδιασμό του BFA για να διαβάζουν τα κινητά τηλέφωνα για την εξέταση ταυτότητας, η οποία θεωρείται μια τεράστια παρέμβαση στην ιδιωτική ζωή, So