AI μη αποδεκτού κινδύνου: απαγόρευση του άρθρου 5

Η AI μη αποδεκτού κινδύνου καλύπτει έναν περιορισμένο κατάλογο πρακτικών που η EU θεωρεί τόσο επιβλαβείς ώστε απλώς απαγορεύονται, αντί απλώς να ρυθμίζονται. Σκέψου το ως την κόκκινη γραμμή: αν ένα σύστημα AI χρησιμοποιεί υποσυνείδητες τεχνικές για να χειραγωγεί τη συμπεριφορά, εκμεταλλεύεται τις ευάλωτες ομάδες μιας συγκεκριμένης ομάδας (όπως λόγω ηλικίας ή αναπηρίας), επιτρέπει κοινωνική βαθμολόγηση από δημόσιες αρχές ή περιλαμβάνει εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσιους χώρους για σκοπούς επιβολής του νόμου (με πολύ περιορισμένες εξαιρέσεις), απαγορεύεται πλήρως. Η βασική αντίθεση είναι με την AI υψηλού κινδύνου, η οποία επιτρέπεται αλλά ρυθμίζεται αυστηρά — επομένως μην συγχέεις ποτέ ένα σύστημα υψηλού κινδύνου με ένα απαγορευμένο σύστημα.

Για να αποφύγεις παγίδες, θυμήσου το μνημονικό «MESS» για τις τέσσερις κύριες κατηγορίες: Manipulation, Exploitation, Social scoring και Surveillance (βιομετρική επιτήρηση σε πραγματικό χρόνο). Ένα συνηθισμένο τέχνασμα της εξέτασης είναι να περιγράφει ένα σενάριο υψηλού κινδύνου, όπως AI για πιστοληπτική βαθμολόγηση, και να ρωτά αν απαγορεύεται — δεν απαγορεύεται, επειδή απαγορεύεται μόνο η κοινωνική βαθμολόγηση από δημόσιες αρχές. Ένα άλλο τέχνασμα: αν μια ερώτηση αναφέρει «αναγνώριση συναισθημάτων στον χώρο εργασίας», πρόκειται για υψηλό κίνδυνο, όχι για απαγορευμένη πρακτική, εκτός αν χρησιμοποιείται για χειραγώγηση. Να ελέγχεις πάντα αν η πρακτική περιλαμβάνεται στον κατάλογο του άρθρου 5· αν όχι, είναι είτε υψηλού κινδύνου, είτε περιορισμένου κινδύνου, είτε ελάχιστου κινδύνου.

Για να το εμπεδώσεις, δοκίμασε τον εαυτό σου με ένα γρήγορο σενάριο: «Ένα σύστημα AI κατατάσσει πολίτες βάσει της δραστηριότητάς τους στα μέσα κοινωνικής δικτύωσης για την κατανομή κοινωνικών παροχών.» Πρόκειται για κοινωνική βαθμολόγηση από δημόσια αρχή, άρα απαγορεύεται. Αν η κατάταξη γίνεται από ιδιωτική τράπεζα για αποφάσεις δανειοδότησης, είναι υψηλού κινδύνου, όχι απαγορευμένη. Θυμήσου: αν δεν περιλαμβάνεται στο άρθρο 5, δεν απαγορεύεται — απλώς ρυθμίζεται.