On-prem έναντι cloud AI για εταιρείες με ευαίσθητα δεδομένα

Για τις περισσότερες εταιρείες, το ερώτημα πού τρέχει ένα μοντέλο AI είναι λεπτομέρεια υλοποίησης. Για μια εταιρεία που κρατά ρυθμιζόμενα ή εμπιστευτικά δεδομένα, είναι στρατηγικό. Στείλτε τα δεδομένα σας σε ένα φιλοξενούμενο μοντέλο και παίρνετε τα καλύτερα μοντέλα και το ταχύτερο ξεκίνημα, αλλά τα δεδομένα σας φεύγουν από τον έλεγχό σας. Τρέξτε μοντέλα μόνοι σας ή σε υποδομή εγκατεστημένη στην ΕΕ και κρατάτε τον έλεγχο, αλλά αναλαμβάνετε κόστος και λειτουργικό βάρος. Η σωστή απάντηση σπάνια είναι όλο το ένα ή όλο το άλλο, και το να κάνετε λάθος είναι ακριβό με τρόπο δύσκολο να αντιστραφεί.

Τι πραγματικά σας αγοράζει κάθε πλευρά

Ένα φιλοξενούμενο API μοντέλου είναι ο ταχύτερος δρόμος προς την ισχυρότερη δυνατότητα. Κάποιος άλλος τρέχει την υποδομή, τα καλύτερα μοντέλα είναι μια κλήση μακριά, και πληρώνετε ανά χρήση. Το κόστος είναι ότι τα δεδομένα εισόδου σας ταξιδεύουν σε τρίτο μέρος, του οποίου τον χειρισμό και την τοποθεσία δεδομένων πρέπει να εμπιστευτείτε και να επαληθεύσετε. Η αυτοφιλοξενούμενη ή εγκατεστημένη στην ΕΕ ανάπτυξη αντιστρέφει τον συμβιβασμό: τα δεδομένα σας παραμένουν εκεί που τα βάζετε, τα ερωτήματα διατήρησης και ελέγχου παίρνουν απλές απαντήσεις, και για κάποια ρυθμιζόμενη εργασία είναι η μόνη αποδεκτή επιλογή. Το κόστος είναι πραγματικά χρήματα, πραγματικό λειτουργικό βάρος, και συχνά ένα μικρότερο μοντέλο από την φιλοξενούμενη αιχμή.

Δεν είναι στην πραγματικότητα δυαδικό

Το να το πλαισιώνετε ως on-prem έναντι cloud κρύβει το χρήσιμο ενδιάμεσο. Οι περισσότερες εταιρείες με ευαίσθητα δεδομένα καταλήγουν σε έναν διαχωρισμό: τα ευαίσθητα δεδομένα και οι αποφάσεις γύρω τους παραμένουν σε ελεγχόμενη υποδομή, ενώ η εργασία χαμηλότερου κινδύνου χρησιμοποιεί φιλοξενούμενα μοντέλα. Το cloud σε περιοχή ΕΕ με κατάλληλες συμφωνίες επεξεργασίας δεδομένων κάθεται ανάμεσα στα άκρα και ικανοποιεί πολλές απαιτήσεις διατήρησης χωρίς το πλήρες βάρος της αυτοφιλοξενίας. Η δουλειά σχεδιασμού είναι να ταξινομήσετε πρώτα τα δεδομένα και τους φόρτους εργασίας σας κατά ευαισθησία, και μετά να τοποθετήσετε το καθένα εκεί που ανήκει, αντί να κάνετε μία γενική επιλογή για όλα.

Ποιος πραγματικά χρειάζεται να το κρατήσει εσωτερικά

Να είστε ειλικρινείς για το ποια κατηγορία είστε. Η ρυθμιζόμενη χρηματοοικονομική, η υγειονομική, η νομική, και η εργασία δημόσιου τομέα, ή οτιδήποτε δεσμεύεται από αυστηρούς κανόνες διατήρησης δεδομένων, συχνά δεν έχει επιλογή: τα ευαίσθητα δεδομένα δεν μπορούν να φύγουν. Το να κατανοήσετε πού πηγαίνουν τα δεδομένα σας όταν χρησιμοποιείτε AI είναι το σημείο εκκίνησης για αυτή την κρίση. Αρκετά άλλα γραφεία πείθουν τον εαυτό τους ότι χρειάζονται on-prem για λόγους ενστίκτου παρά ρύθμισης, και πληρώνουν για υποδομή και λειτουργίες που δεν χρειαζόταν να έχουν. Ο αποφασιστικός παράγοντας πρέπει να είναι η ευαισθησία των δεδομένων και το καθεστώς που τα διέπει, όχι η μόδα ή ο φόβος.

Το κομμάτι που οι άνθρωποι υποτιμούν

Το να τρέχετε μοντέλα μόνοι σας δεν είναι μια εφάπαξ εγκατάσταση, είναι μια συνεχής λειτουργική δέσμευση: να κρατάτε τα συστήματα ενημερωμένα, παρακολουθούμενα, και αποδοτικά, που είναι η λιγότερο εντυπωσιακή πειθαρχία πίσω από το MLOps. Ένα γραφείο που επιλέγει την αυτοφιλοξενία για τον έλεγχο πρέπει να προϋπολογίσει για τη λειτουργία, όχι μόνο για το στήσιμο. Αυτό το συνεχές κόστος είναι ακριβώς αυτό που κάνει τον υβριδικό διαχωρισμό ελκυστικό: πληρώστε το λειτουργικό κόστος μόνο για τα δεδομένα που πραγματικά το απαιτούν.

Πώς εκτελείτε πραγματικά την ταξινόμηση;

Η άσκηση ταξινόμησης είναι πιο απλή από όσο ακούγεται, και αξίζει να γίνει στο χαρτί προτού κάποιος σχεδιάσει οτιδήποτε. Καταγράψτε τους φόρτους εργασίας AI που θέλετε, και κάντε τρεις ερωτήσεις για τον καθένα. Ποια δεδομένα χρειάζεται πραγματικά να δει αυτός ο φόρτος εργασίας, στο ελάχιστό του, όχι στο πιο βολικό του; Ποιο καθεστώς διέπει αυτά τα δεδομένα: μόνο ο GDPR, ή ένας ρυθμιστής κλάδου, ή μια συμβατική υποχρέωση εμπιστευτικότητας με δόντια; Και τι συμβαίνει αν αυτά τα δεδομένα εμφανιστούν κάπου που δεν πρέπει: μια άβολη συζήτηση, μια αναφερόμενη παραβίαση, ή ένα πρόβλημα άδειας; Οι απαντήσεις τοποθετούν κάθε φόρτο εργασίας σε μια κλίμακα: δημόσια και χαμηλού κινδύνου δεδομένα μπορούν να χρησιμοποιήσουν ελεύθερα φιλοξενούμενα μοντέλα αιχμής· τα προσωπικά δεδομένα κάτω από τον GDPR συνήθως ταιριάζουν σε ανάπτυξη σε περιοχή ΕΕ με κατάλληλη συμφωνία επεξεργασίας δεδομένων· και ο γνήσια περιορισμένος πυρήνας, το υλικό που ένας ρυθμιστής ή μια συμφωνία πελάτη λέει ότι δεν μπορεί να φύγει, πηγαίνει σε υποδομή που ελέγχετε.

Ένα ενδεικτικό παράδειγμα: μια χρηματοοικονομική εταιρεία με ευαίσθητα δεδομένα θέλει τρία πράγματα, έναν βοηθό μάρκετινγκ κειμένου, μια εσωτερική αναζήτηση εγγράφων σε αρχεία πελατών, και ένα βοήθημα ελέγχου μέσα στη ροή συμμόρφωσής της. Ταξινομημένα με ειλικρίνεια, αυτά καταλήγουν σε τρία διαφορετικά μέρη. Ο βοηθός μάρκετινγκ δεν έχει καμία δουλειά να αγγίζει δεδομένα πελατών και μπορεί να τρέξει σε οποιοδήποτε καλό φιλοξενούμενο μοντέλο. Η αναζήτηση εγγράφων διαβάζει υλικό πελατών, άρα ανήκει σε μια περιοχή ΕΕ κάτω από συμφωνία επεξεργασίας δεδομένων, ή σε ελεγχόμενη υποδομή αν το απαιτούν οι συμβάσεις πελατών. Το βοήθημα ελέγχου κάθεται μέσα σε μια ρυθμιζόμενη διαδικασία και παραμένει πλήρως εσωτερικό. Μία εταιρεία, τρεις τοποθετήσεις, και καμία από αυτές δεν απαίτησε να αγοράσετε την πιο ακριβή απάντηση για τα πάντα.

Πώς μοιάζει το καλό

Ταξινομήστε τα δεδομένα και τους φόρτους εργασίας σας κατά ευαισθησία, κρατήστε τα ρυθμιζόμενα και εμπιστευτικά μέρη σε υποδομή που ελέγχετε ή σε περιοχή ΕΕ που ικανοποιεί τις υποχρεώσεις σας, και χρησιμοποιήστε φιλοξενούμενα μοντέλα για ό,τι δεν χρειάζεται το επιπλέον βάρος. Αποφασίστε με βάση τους κανόνες κάτω από τους οποίους πραγματικά ζείτε, και μετά χτίστε για το κόστος λειτουργίας, όχι μόνο για την εκκίνηση. Αν χειρίζεστε ευαίσθητα δεδομένα και θέλετε να χτίσετε σωστά αυτή την αρχιτεκτονική προτού δεσμευτείτε σε αυτήν, πείτε μας με τι δουλεύετε, και δείτε πώς το προσεγγίζουμε στον ψηφιακό μετασχηματισμό.