Διακυβέρνηση AI για εταιρείες μεσαίας αγοράς: η ελαφριά έκδοση που εξακολουθεί να αντέχει

Ένα ελαφρύ πλαίσιο διακυβέρνησης AI για μια εταιρεία μεσαίας αγοράς έχει τέσσερα κινούμενα μέρη: ένα απόθεμα κάθε συστήματος AI που χρησιμοποιείτε, ένα απλό επίπεδο κινδύνου για καθένα, έναν επώνυμο άνθρωπο που μπορεί να το παρακάμψει ή να το σταματήσει και ένα αρχείο καταγραφής του τι έκανε. Αυτή είναι η όλη δομή. Δεν χρειάζεστε επιτροπή, βιβλιοθήκη πολιτικών ή ειδική μίσθωση συμμόρφωσης. Πρέπει να γνωρίζετε τι AI τρέχετε, πόσο θα μπορούσε να βλάψει κάποιον αν πάει στραβά, ποιος είναι υπεύθυνος όταν συμβαίνει και ένα αρχείο που μπορείτε να ελέγξετε στη συνέχεια. Μια ομάδα πενήντα μπορεί να το αντέξει σε λίγα απογεύματα και να το διατηρήσει σε μια ώρα το μήνα. Το θέμα δεν είναι να επιβραδύνει την επιχείρηση. Είναι να βεβαιωθείτε ότι κανένα σύστημα AI δεν λαμβάνει αθόρυβα επακόλουθες αποφάσεις που κανείς δεν κατέχει και κανείς δεν μπορεί να ανακατασκευάσει.

Τι σημαίνει στην πραγματικότητα η διακυβέρνηση AI για μια μικρότερη εταιρεία;

Η διακυβέρνηση είναι η απάντηση σε ένα ερώτημα: όταν ένα σύστημα AI κάνει κάτι λάθος, ποιος ήξερε, ποιος θα μπορούσε να το σταματήσει και μπορείτε να αποδείξετε τι συνέβη; Για μια επιχείρηση μεσαίας αγοράς, αυτό δεν απαιτεί τη συσκευή που χρειάζεται μια τράπεζα ή ένα νοσοκομείο. Απαιτεί κάθε σύστημα να έχει έναν ιδιοκτήτη, μια αξιολόγηση κινδύνου και μια διαδρομή.

Η παγίδα είναι να υποθέσουμε ότι η διακυβέρνηση σημαίνει την έκδοση της επιχείρησης: ένα διοικητικό συμβούλιο, μια πολιτική τριάντα σελίδων, ένας ετήσιος έλεγχος. Στην κλίμακα σας αυτό το μηχάνημα είτε κατασκευάζεται και αγνοείται, είτε δεν κατασκευάζεται ποτέ γιατί φαίνεται αδύνατο. Ένα ελαφρύ πλαίσιο κάνει την ίδια δουλειά (ορατότητα, υπευθυνότητα, αποδεικτικά στοιχεία) με ένα κλάσμα του βάρους. Είναι επίσης το θεμέλιο που θα χρειαστείτε ούτως ή άλλως όταν ο Νόμος της ΕΕ AI για επιχειρήσεις που στέλνουν AI αρχίσει να επιβάλλει πρόστιμα, επειδή τα ίδια τέσσερα μέρη αντιστοιχούν σχεδόν απευθείας στις υποχρεώσεις υψηλού κινδύνου.

Πώς μπορώ να δημιουργήσω ένα ελαφρύ πλαίσιο διακυβέρνησης AI, βήμα προς βήμα;

1. Αποθέστε κάθε σύστημα AI. Καταχωρίστε το καθένα σε ένα υπολογιστικό φύλλο, συμπεριλαμβανομένων των δυνατοτήτων που τροφοδοτούνται αθόρυβα από το μοντέλο ενός προμηθευτή (το bot υποστήριξης, ο πρώτος σκόρερ, το "έξυπνο" οτιδήποτε σε ένα εργαλείο SaaS για το οποίο πληρώνετε). Δεν μπορείτε να κυβερνήσετε ό,τι δεν έχετε γράψει, και οι περισσότερες εταιρείες βρίσκουν ότι η πραγματική λίστα είναι μεγαλύτερη από αυτή που είχαν στο κεφάλι τους.
2. Ορίστε μια βαθμίδα κινδύνου σε καθεμία. Χρησιμοποιήστε τρία επίπεδα, όχι δέκα. Χαμηλό: υποδηλώνει, ένας άνθρωπος αποφασίζει, τα λάθη είναι φθηνά και αναστρέψιμα. Μέσο: δρα από μόνο του αλλά με περιορισμένο, ανακτήσιμο τρόπο. Υψηλό: λαμβάνει ή διαμορφώνει σε μεγάλο βαθμό μια επακόλουθη απόφαση για ένα άτομο (πρόσληψη, πίστωση, πρόσβαση, τιμολόγηση που στοχεύει άτομα). Ταξινομήστε τη λίστα και σταματήστε να διαχέετε ομοιόμορφα την προσοχή. Σχεδόν όλα πηγαίνουν στην υψηλή βαθμίδα.
3. Ονομάστε έναν ιδιοκτήτη για κάθε σύστημα. Ένα πραγματικό πρόσωπο, όχι ένα τμήμα. Ο ιδιοκτήτης μπορεί να εξηγήσει τι κάνει το σύστημα, αποφασίζει πότε αλλάζει και είναι αυτός που απαντά όταν δεν συμπεριφέρεται σωστά. Διακυβέρνηση χωρίς ιδιοκτήτη δεν γίνεται.
4. Καθορίστε τη διαδρομή ανθρώπινης επίβλεψης για συστήματα υψηλού επιπέδου. Αποφασίστε εγγράφως ποιος μπορεί να ελέγξει, να παρακάμψει και να απενεργοποιήσει το σύστημα και πόσο γρήγορα. Ενσωματώστε αυτόν τον έλεγχο στο προϊόν αντί να το βιδώσετε αργότερα. Ένα άτομο που μπορεί τεχνικά να παρέμβει αλλά δεν έχει κουμπί να πατήσει δεν είναι επίβλεψη.
5. Ενεργοποιήστε την καταγραφή. Καταγράψτε τις εισόδους, τα αποτελέσματα και την απόφαση για οτιδήποτε στη μεσαία και υψηλή βαθμίδα. Όταν ένα αποτέλεσμα αμφισβητείται, θέλετε να ανακατασκευάσετε ακριβώς αυτό που είδε και έκανε το σύστημα, όχι να μαντέψετε. Ξεκινήστε αυτό όσο τα συστήματα είναι μικρά, γιατί η εκ των υστέρων τοποθέτηση ενός κορμού είναι πολύ πιο δύσκολη από την ενεργοποίηση ενός.
6. Ορίστε έναν ελαφρύ ρυθμό αναθεώρησης. Μια φορά το τρίμηνο, περπατήστε το απόθεμα: οτιδήποτε νέο, οτιδήποτε άλλαξε επίπεδο, όποιος ιδιοκτήτης έφυγε. Μια ώρα με τη λίστα χτυπάει ένα δέσιμο δεν ανοίγει κανείς.

Για ποια συστήματα AI πρέπει πραγματικά να ανησυχώ;

Όχι αυτά που σχεδιάζουν το μάρκετινγκ αντιγράφουν ή συνοψίζουν συσκέψεις. Ανησυχείτε για τα συστήματα των οποίων τα λάθη πέφτουν σε ένα συγκεκριμένο άτομο και είναι δύσκολο να αναιρεθούν. Ο παρακάτω πίνακας είναι η γρήγορη διαλογή που χρειάζονται οι περισσότερες ομάδες μεσαίας αγοράς.

Αν το σύστημα...	Επίπεδο	Τι διακυβέρνηση χρειάζεται
Προτείνει, ένας άνθρωπος εγκρίνει, τα λάθη είναι φτηνά	Χαμηλό	Αναγράφεται στην απογραφή, ιδιοκτήτης, τίποτα περισσότερο
Ενεργεί αυτόματα αλλά είναι περιορισμένη και ανακτήσιμη	Μεσαία	Ιδιοκτήτης, καταγραφή, ένας καθορισμένος τρόπος παύσης
Αποφασίζει ή διαμορφώνει έντονα μια επακόλουθη κλήση για ένα άτομο	Υψηλή	Ιδιοκτήτης, πλήρης καταγραφή, γραπτή διαδρομή παράκαμψης ανθρώπου, περιοδική αναθεώρηση

Η διαχωριστική γραμμή είναι η συνέπεια και η αντιστρεψιμότητα, όχι το πόσο έξυπνο είναι το μοντέλο. Ένα μεγάλο μοντέλο γλώσσας που γράφει εσωτερικές σημειώσεις είναι χαμηλού κινδύνου. Ένας απλός συνδυασμός κανόνων και μοντέλων που κατατάσσει τους αιτούντες εργασία είναι υψηλού κινδύνου, επειδή ένα λάθος αποτέλεσμα κοστίζει σε ένα πραγματικό άτομο μια ευκαιρία και ίσως χρειαστεί να υπερασπιστείτε την απόφαση. Βαθμίδα ανά πρόσκρουση, στη συνέχεια βάλτε την προσπάθειά σας εκεί που είναι ο αντίκτυπος.

Σε ποιον ανήκει η διακυβέρνηση AI όταν δεν υπάρχει ειδική ομάδα;

Στις περισσότερες εταιρείες μεσαίας αγοράς έχει έναν επικεφαλής επιχειρήσεων ή τεχνολογίας που διατηρεί το απόθεμα, συν έναν κατονομασμένο ιδιοκτήτη ανά σύστημα που είναι υπεύθυνος για αυτό το σύστημα στην πράξη. Αυτό είναι αρκετό. Δεν δημιουργείτε μια λειτουργία. αναθέτετε την ευθύνη και τη γράφετε. Το λάθος είναι να το αφήνουμε σε «όλους», που σημαίνει σε κανέναν, μέχρι να σπάσει κάτι και η νεκροψία να βρει ένα σύστημα που κανείς δεν παραδέχτηκε ότι τρέχει.

Εάν προσκομίσετε εξωτερική βοήθεια, η δοκιμή είναι η ίδια που ισχύει για οποιαδήποτε δέσμευση AI consulting. Ρωτήστε τι σας ανήκει όταν τελειώσει. Ένα έργο διακυβέρνησης θα πρέπει να σας αφήνει ένα διατηρημένο απόθεμα, σαφείς κατόχους, αρχεία καταγραφής εργασίας και επίβλεψη ενσωματωμένη στα προϊόντα, όχι ένα έγγραφο πολιτικής που παλιώνει σε ένα κοινό Drive.

Το πρακτικό takeaway

Ξεκινήστε με το απόθεμα αυτή την εβδομάδα. Μέχρι να καταγράψετε κάθε σύστημα AI που εκτελείτε και να το αξιολογήσετε με βάση τη ζημιά που θα προκαλούσε μια αποτυχία, κάθε άλλη δραστηριότητα διακυβέρνησης είναι εικασία. Μόλις υπάρξει η λίστα, τα υπόλοιπα είναι μικρά και προφανή: ιδιοκτήτες, αρχεία καταγραφής, μια διαδρομή παράκαμψης για λίγους υψηλού κινδύνου και μια τριμηνιαία εμφάνιση. Κρατήστε το τόσο ελαφρύ και πραγματικά θα το συνηθίσει, που είναι η μόνη διακυβέρνηση που σας προστατεύει.