Προσέγγιση βάσει κινδύνου: τέσσερις βαθμίδες, μία λογική
Η Πράξη για την ΤΝ κατατάσσει τα συστήματα ανάλογα με τον κίνδυνο: μη αποδεκτός (απαγορεύεται), υψηλός (αυστηροί έλεγχοι), διαφάνεια (περιορισμένες υποχρεώσεις) και ελάχιστος (ελεύθερος). Η παγίδα της εξέτασης είναι να συγχέεις τις υποχρεώσεις διαφάνειας με τους κανόνες για συστήματα υψηλού κινδύνου.
Η βασική δομή της Πράξης για την ΤΝ είναι μια κλίμακα κινδύνου τεσσάρων βαθμίδων: ο μη αποδεκτός κίνδυνος απαγορεύεται πλήρως (π.χ. κοινωνική βαθμολόγηση από κυβερνήσεις), ο υψηλός κίνδυνος υπόκειται σε αυστηρούς ελέγχους όπως αξιολογήσεις συμμόρφωσης και ανθρώπινη εποπτεία, οι υποχρεώσεις διαφάνειας εφαρμόζονται σε συστήματα περιορισμένου κινδύνου όπως τα chatbot, τα οποία πρέπει να γνωστοποιούν ότι είναι AI, και ο ελάχιστος κίνδυνος είναι ελεύθερος από ρύθμιση. Η βασική αντίθεση είναι ότι τα συστήματα υψηλού κινδύνου απαιτούν ελέγχους πριν από τη διάθεση στην αγορά, ενώ τα συστήματα διαφάνειας χρειάζονται μόνο γνωστοποίηση μετά τη διάθεση στην αγορά — διαφορά που οι ερωτήσεις της εξέτασης συχνά συγχέουν, αντιστρέφοντας τις υποχρεώσεις.
Για να αποφύγεις παγίδες, να θυμάσαι ότι ο υψηλός κίνδυνος συνεπάγεται πάντοτε υποχρεωτική αξιολόγηση συμμόρφωσης πριν από την ανάπτυξη, ενώ οι υποχρεώσεις διαφάνειας είναι ελαφρύτερες και εφαρμόζονται μετά τη διάθεση. Για παράδειγμα, ένα AI που χρησιμοποιείται για προσλήψεις είναι υψηλού κινδύνου και χρειάζεται έλεγχο από κοινοποιημένο οργανισμό· ένα chatbot χρειάζεται μόνο να ενημερώνει τους χρήστες ότι είναι AI. Ένα ακόμη τέχνασμα: αν μια ερώτηση αναφέρει «περιορισμένος κίνδυνος» ή «διαφάνεια», αναζήτησε υποχρεώσεις όπως επισήμανση ή ενημέρωση, όχι πλήρη έγκριση πριν από τη διάθεση στην αγορά. Σημείωσε επίσης ότι η AI γενικού σκοπού (GPAI) έχει τους δικούς της κανόνες, χωριστά από τις τέσσερις βαθμίδες, επομένως μην τα συγχέεις.
Ένας συνοπτικός τρόπος να ελέγξεις τον εαυτό σου: ονόμασε μία απαγορευμένη χρήση (π.χ. βιομετρική επιτήρηση σε πραγματικό χρόνο σε δημόσιο χώρο), μία χρήση υψηλού κινδύνου (π.χ. πιστοληπτική βαθμολόγηση) και μία χρήση που υπάγεται σε διαφάνεια (π.χ. γνωστοποίηση deepfake). Αν μπορείς να παραθέσεις τρία διακριτά παραδείγματα χωρίς να συγχέεις τις υποχρεώσεις, έχεις κατανοήσει τη λογική. Η εξέταση θα προσπαθήσει να σε κάνει να εφαρμόσεις τη λανθασμένη βαθμίδα σε ένα σενάριο — μείνε προσηλωμένος στη διάκριση πριν από τη διάθεση στην αγορά έναντι μετά τη διάθεση στην αγορά.
Ποια είναι η βασική δομή της πράξης για την τεχνητή νοημοσύνη;
Μια προσέγγιση βάσει κινδύνου: μη αποδεκτός κίνδυνος, υψηλός κίνδυνος, υποχρεώσεις διαφάνειας, κανόνες για την τεχνητή νοημοσύνη γενικού σκοπού (GPAI) και, ως επί το πλείστον, χρήσεις χαμηλότερου κινδύνου.