Ο νόμος EU AI: τι σημαίνει πραγματικά για τις επιχειρήσεις που στέλνουν AI

Εάν κατασκευάζετε, αγοράζετε ή αναπτύσσετε AI που αγγίζει ανθρώπους στην ΕΕ, ο νόμος AI ορίζει πλέον τους κανόνες στους οποίους απαντάτε. Τα πρόστιμα για απαγορευμένες πρακτικές ισχύουν από τον Φεβρουάριο του 2025, και η προθεσμία που έχει σημασία για τις περισσότερες συνηθισμένες επιχειρήσεις, όταν ενεργοποιούνται οι υποχρεώσεις υψηλού κινδύνου και οι κυρώσεις τους, φτάνει στις 2 Αυγούστου 2026. Οι περισσότερες ομάδες δεν χρειάζεται να πανικοβάλλονται. Πρέπει να γνωρίζουν σε ποιο επίπεδο κινδύνου εμπίπτει το σύστημά τους και να ξεκινήσουν την τεκμηρίωση που απαιτεί εκείνη η βαθμίδα.

Τέσσερα επίπεδα και μόνο δύο που σας κοστίζουν πραγματική προσπάθεια

Ο νόμος ταξινομεί κάθε σύστημα AI σε τέσσερα επίπεδα κινδύνου. Ο απαράδεκτος κίνδυνος απαγορεύεται εντελώς: κυβερνητική κοινωνική βαθμολόγηση, βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσιους χώρους και χειραγώγηση που προκαλεί βλάβη. Αυτές οι πρακτικές έχουν απαγορευτεί από τις 2 Φεβρουαρίου 2025. Ο ελάχιστος κίνδυνος, ο οποίος καλύπτει το μεγαλύτερο μέρος του λογισμικού, συμπεριλαμβανομένων των φίλτρων ανεπιθύμητης αλληλογραφίας και των μηχανών συστάσεων, δεν φέρει νέες υποχρεώσεις.

Ανάμεσα σε αυτά τα δύο άκρα βρίσκονται τα επίπεδα που διαμορφώνουν πραγματικά τον τρόπο που χτίζετε. Ο περιορισμένος κίνδυνος επιφέρει καθήκον διαφάνειας: πείτε στους ανθρώπους όταν μιλούν με ένα bot και επισημάνετε τα συνθετικά μέσα. Ο υψηλός κίνδυνος είναι ο τόπος όπου ζουν οι βαριές υποχρεώσεις και όπου θα πάει το μεγαλύτερο μέρος της εργασίας συμμόρφωσης και του προϋπολογισμού. Εάν δεν μπορείτε ακόμη να αποκλείσετε τον υψηλό κίνδυνο για ένα σύστημα, υποθέστε το μέχρι να μπορέσετε. Το κόστος της εικασίας λάθος δείχνει προς μία μόνο κατεύθυνση.

Τι πραγματικά μετράει ως υψηλού κινδύνου

Αυτή είναι η ερώτηση που καθορίζει τον φόρτο εργασίας σας και είναι πιο στενή από ό,τι υποδηλώνουν οι τίτλοι. Ένα σύστημα είναι υψηλού κινδύνου σε δύο περιπτώσεις. Πρώτον, εάν πρόκειται για εξάρτημα ασφαλείας ενός ήδη ελεγχόμενου προϊόντος, όπως ιατρική συσκευή, μηχανήματα ή όχημα. Δεύτερον, εάν δραστηριοποιείται σε έναν από τους τομείς που απαριθμεί ο νόμος στο Παράρτημα III: διαχείριση προσλήψεων και εργαζομένων, πρόσβαση στην εκπαίδευση, αξιολόγηση πιστώσεων και βασικές χρηματοοικονομικές υπηρεσίες, βασικές δημόσιες υπηρεσίες και παροχές, επιβολή του νόμου, μετανάστευση και απονομή δικαιοσύνης.

Το κοινό νήμα είναι συνέπεια. Εάν το μοντέλο σας βοηθά να αποφασίσετε ποιος θα πάρει μια δουλειά, ένα δάνειο, ένα σχολείο ή ένα όφελος, είναι πιθανώς υψηλού κινδύνου και το βάρος είναι σε εσάς να δείξετε το αντίθετο. Ένα chatbot που απαντά σε ερωτήσεις προϊόντος δεν είναι υψηλού κινδύνου. Το ίδιο chatbot, που προορίζεται εκ νέου για την εξέταση αιτούντων εργασία, είναι.

Οι ημερομηνίες που φέρουν πρόστιμα

Ο νόμος τέθηκε σε ισχύ την 1η Αυγούστου 2024 και ενεργοποιείται σταδιακά. Οι απαγορευμένες πρακτικές και το καθήκον αλφαβητισμού AI ισχύουν από τις 2 Φεβρουαρίου 2025. Υποχρεώσεις για μοντέλα γενικής χρήσης AI, τα μεγάλα γλωσσικά μοντέλα στα οποία βασίζονται τώρα οι περισσότερες ομάδες, εφαρμόζονται από τις 2 Αυγούστου 2025. Η ημερομηνία που έχει μεγαλύτερη σημασία για τις συνηθισμένες επιχειρήσεις είναι η 2η Αυγούστου6, όταν ισχύουν οι οικονομικές απαιτήσεις-20. Το AI υψηλού κινδύνου που είναι ενσωματωμένο σε ελεγχόμενα προϊόντα ισχύει έως τις 2 Αυγούστου 2027.

Οι ποινές είναι τόσο μεγάλες ώστε να γίνονται αισθητές. Η χρήση ενός απαγορευμένου συστήματος μπορεί να κοστίσει έως και 35 εκατομμύρια ευρώ ή το 7 τοις εκατό του παγκόσμιου ετήσιου κύκλου εργασιών, όποιο είναι μεγαλύτερο. Η αθέτηση των υποχρεώσεων υψηλού κινδύνου μπορεί να φτάσει τα 15 εκατ. ευρώ ή το 3% του τζίρου. Η παροχή λανθασμένων ή παραπλανητικών πληροφοριών στις ρυθμιστικές αρχές μπορεί να φτάσει τα 7,5 εκατομμύρια ευρώ ή το 1 τοις εκατό. Πρόκειται για ταβάνια, κλιμακωτά στην παραβίαση, αλλά είναι αρκετά μεγάλα ώστε το «θα το αντιμετωπίσουμε αργότερα» παύει να είναι σχέδιο.

Πώς μοιάζουν στην πράξη οι υποχρεώσεις υψηλού κινδύνου

Αφαιρέστε τη νομική γλώσσα και το καθεστώς υψηλού κινδύνου είναι ως επί το πλείστον καλή πειθαρχία μηχανικής, γραμμένη. Χρειάζεστε μια διαδικασία διαχείρισης κινδύνου που θα διαρκέσει σε όλη τη διάρκεια ζωής του συστήματος, όχι μια εφάπαξ διαγραφή. Χρειάζεστε διακυβέρνηση δεδομένων: να γνωρίζετε ποια είναι τα δεδομένα εκπαίδευσης και εισαγωγής σας, από πού προήλθαν και πώς θα μπορούσαν να επηρεάσουν ένα αποτέλεσμα. Χρειάζεστε τεχνική τεκμηρίωση και αυτόματη καταγραφή, έτσι ώστε όταν αμφισβητείται μια απόφαση, μπορείτε να ανασυνθέσετε τον τρόπο με τον οποίο το σύστημα έφτασε σε αυτήν. Χρειάζεστε ουσιαστική ανθρώπινη επίβλεψη, ένα άτομο που μπορεί να κατανοήσει, να παρακάμψει και να σταματήσει το σύστημα, αντί για μια σφραγίδα από καουτσούκ. Και προτού τεθεί σε λειτουργία, ένα σύστημα υψηλού κινδύνου χρειάζεται αξιολόγηση συμμόρφωσης και καταχώριση στη βάση δεδομένων της ΕΕ.

Τίποτα από αυτά δεν είναι εξωτικό. Είναι η ίδια πειθαρχία που διαχωρίζει ένα μοντέλο που τρέχει στην παραγωγή από ένα demo που τυχαίνει να λειτουργεί μία φορά.

Τι να κάνετε τώρα

Μια σύντομη, ειλικρινής λίστα ελέγχου ξεπερνά ένα δεσμευτικό συμμόρφωσης που κανείς δεν διαβάζει.

• Αποθέστε κάθε σύστημα AI που κατασκευάζετε ή αγοράζετε, συμπεριλαμβανομένων λειτουργιών που τροφοδοτούνται αθόρυβα από το μοντέλο ενός πωλητή.
• Ταξινομήστε το καθένα ανά βαθμίδα και να είστε αυστηροί σχετικά με τις περιοχές υψηλού κινδύνου στο Παράρτημα III.
• Δώστε σε κάθε σύστημα υψηλού κινδύνου έναν επώνυμο ιδιοκτήτη. Συμμόρφωση με κανέναν ιδιοκτήτη δεν συμβαίνει.
• Ξεκινήστε την τεχνική τεκμηρίωση και την καταγραφή τώρα, όσο το σύστημα είναι μικρό. Η μετασκευή του αργότερα κοστίζει πολύ περισσότερο.
• Δημιουργήστε τη διαδρομή ανθρώπινης επίβλεψης στο προϊόν, όχι ως μπουλόνι στο τέλος.
• Διαβάστε τους όρους του προμηθευτή γενικής χρήσης AI. Οι υποχρεώσεις τους δεν διαγράφουν τις δικές σας.

Η αντιστοίχιση των συστημάτων σας στα επίπεδα κινδύνου του νόμου και η δημιουργία της τεκμηρίωσης που χρειάζεται το καθένα είναι μέρος της εργασίας μας στη Συμβουλευτική AI.

Takeaway

Ο νόμος AI αφορά λιγότερο την απαγόρευση του AI παρά για τον εξαναγκασμό σας να τεκμηριώνετε και να επιβλέπετε το AI που λαμβάνει επακόλουθες αποφάσεις για άτομα. Για συστήματα που έχουν σαφώς ελάχιστο ή περιορισμένο κίνδυνο, η δουλειά είναι μικρή. Για συστήματα υψηλού κινδύνου, το έργο είναι πραγματικό και η 2α Αυγούστου 2026 είναι πιο κοντά από όσο φαίνεται. Αντιστοιχίστε πρώτα τα συστήματά σας στα επίπεδα. Σχεδόν όλα τα άλλα απορρέουν από το να ξέρεις πού βρίσκεσαι.