AI υψηλού κινδύνου: το κριτήριο του απαριθμούμενου τομέα
Ένα σύστημα AI είναι υψηλού κινδύνου μόνο αν χρησιμοποιείται σε απαριθμούμενο ευαίσθητο τομέα (απασχόληση, εκπαίδευση, επιβολή του νόμου, μετανάστευση, βασικές υπηρεσίες) ή ως κατασκευαστικό στοιχείο ασφάλειας· ένα σύστημα που φαίνεται επικίνδυνο αλλά δεν εμπίπτει στους τομείς αυτούς δεν είναι υψηλού κινδύνου βάσει της Πράξης.
Η Πράξη για την ΤΝ ορίζει την AI υψηλού κινδύνου με βάση το πού χρησιμοποιείται, όχι μόνο με βάση το τι κάνει. Αν ένα σύστημα AI λειτουργεί σε απαριθμούμενο ευαίσθητο τομέα — όπως η απασχόληση (λογισμικό προσλήψεων), η εκπαίδευση (βαθμολόγηση εξετάσεων), η επιβολή του νόμου (αναγνώριση προσώπου), η μετανάστευση (επεξεργασία θεωρήσεων) ή οι βασικές υπηρεσίες (πιστοληπτική βαθμολόγηση) — ή λειτουργεί ως κατασκευαστικό στοιχείο ασφάλειας προϊόντος (όπως σύστημα πέδησης σε αυτοκίνητο), είναι αυτομάτως υψηλού κινδύνου. Η βασική αντίθεση: ένα AI ιατρικής διάγνωσης που χρησιμοποιείται σε νοσοκομείο είναι υψηλού κινδύνου επειδή η υγειονομική περίθαλψη είναι απαριθμούμενος τομέας, αλλά το ίδιο AI που χρησιμοποιείται σε εφαρμογή γυμναστικής για γενική ευεξία δεν είναι, ακόμη και αν παρέχει εσφαλμένες συμβουλές.
Για να εντοπίζεις γρήγορα συστήματα υψηλού κινδύνου, θυμήσου το μνημονικό «EELMES» για τους τομείς: Employment, Education, Law enforcement, Migration, Essential services, Safety components. Ένα συνηθισμένο τέχνασμα στις ερωτήσεις είναι να περιγράφεται ένα σύστημα που φαίνεται επικίνδυνο — όπως ένα AI που προβλέπει αθετήσεις αποπληρωμής δανείων — αλλά, αν δεν χρησιμοποιείται σε απαριθμούμενο τομέα (π.χ. χρησιμοποιείται από ιδιωτική λέσχη για αποφάσεις εγγραφής μελών), δεν είναι υψηλού κινδύνου. Μια άλλη παγίδα: ένα σύστημα που αποτελεί κατασκευαστικό στοιχείο ασφάλειας, όπως AI στην αναγνώριση φωνής ενός παιχνιδιού, είναι υψηλού κινδύνου μόνο αν το ίδιο το παιχνίδι ρυθμίζεται βάσει της νομοθεσίας για την ασφάλεια προϊόντων· διαφορετικά, δεν εμπίπτει στο πεδίο εφαρμογής.
Για να ελέγξεις την κατανόησή σου, αναρωτήσου: «Εντάσσεται αυτή η AI σε μία από τις έξι κατηγορίες EELMES;» Αν ναι, είναι υψηλού κινδύνου· αν όχι, δεν είναι, ανεξαρτήτως του πόσο επιβλαβής μπορεί να φαίνεται. Για την εξέταση, να θυμάσαι ότι ο κατάλογος της Πράξης είναι εξαντλητικός — κανένας τομέας εκτός αυτών των έξι δεν ενεργοποιεί καθεστώς υψηλού κινδύνου, επομένως επικεντρώσου στην αντιστοίχιση του σεναρίου με τον κατάλογο, όχι στη διαίσθησή σου για τον κίνδυνο.
Τι καθιστά ένα σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου σύμφωνα με την πράξη για την τεχνητή νοημοσύνη;
Η χρήση σε ευαίσθητους τομείς που περιλαμβάνονται στον σχετικό κατάλογο ή ως κατασκευαστικό στοιχείο ασφάλειας, όταν η βλάβη για τα δικαιώματα ή την ασφάλεια είναι σημαντική.