Έλεγχοι ασφάλειας για λογισμικό και συστήματα AI
Ελέγχουμε πώς τα συστήματά σας χειρίζονται δεδομένα, πρόσβαση, μυστικά και τον κίνδυνο που αφορά ειδικά το AI, και στη συνέχεια σας παραδίδουμε μια κατατασσόμενη, διορθώσιμη λίστα, όχι μια γενική αναφορά σάρωσης.
Είμαστε μια εταιρεία συμβουλευτικής AI και προσαρμοσμένου λογισμικού στη Λεμεσό, που συνεργάζεται με ομάδες σε όλη την Κύπρο και την ευρύτερη περιοχή EMEA. Ένας έλεγχος ασφάλειας εδώ είναι μια πρακτική εξέταση του πώς είναι πραγματικά κατασκευασμένο ένα σύστημα: η αρχιτεκτονική του, ο χειρισμός των δεδομένων του, ποιος μπορεί να κάνει τι, πού βρίσκονται τα μυστικά, από τι εξαρτάται, και οι κίνδυνοι που αφορούν ειδικά το AI, όπως το prompt injection, η διαρροή δεδομένων και απαντήσεις που δεν θεμελιώνονται στις δικές σας πηγές.
Αυτό είναι ένας έλεγχος, όχι ένα πιστοποιητικό. Δεν πουλάμε pentests με την ώρα ούτε σήματα συμμόρφωσης. Διαβάζουμε το σύστημα όπως θα έπρεπε να το είχαν διαβάσει οι άνθρωποι που το έφτιαξαν, και το κρατάμε στο ίδιο παραγωγικού επιπέδου πρότυπο που κρατάμε και το δικό μας προϊόν.
Η τρύπα μένει σιωπηλή ώσπου κάποιος τη βρει
Τα περισσότερα προβλήματα ασφάλειας στο λογισμικό δεν είναι εξωτικά. Είναι ένα κλειδί API που μπήκε σε ένα repo, ένας ρόλος βάσης δεδομένων που μπορεί να διαβάσει περισσότερα από όσα θα έπρεπε, μια ολοκλήρωση που εμπιστεύεται είσοδο την οποία δεν ελέγχει ποτέ, μια εξάρτηση τρεις εκδόσεις πίσω από μια γνωστή διόρθωση. Το σύστημα λειτουργεί, παρουσιάζεται καθαρά και κυκλοφορεί. Η τρύπα μένει σιωπηλή ώσπου κάποιος τη βρει.
Τα συστήματα AI προσθέτουν ένα δεύτερο επίπεδο που οι περισσότεροι έλεγχοι το χάνουν εντελώς. Ένας copilot συνδεδεμένος με τα έγγραφά σας μπορεί να πειστεί να αγνοήσει τις οδηγίες του. Ένα σύστημα ανάκτησης μπορεί να φέρει στην επιφάνεια μια εγγραφή που ο ερωτών δεν έπρεπε ποτέ να δει. Μια απάντηση μοντέλου μπορεί να είναι με σιγουριά λανθασμένη χωρίς καμία ίχνη επιστροφής σε μια πηγή. Αυτά δεν είναι ακραίες περιπτώσεις. Είναι οι προβλέψιμοι τρόποι αστοχίας όταν τοποθετείς ένα μοντέλο μπροστά σε πραγματικά δεδομένα, και χρειάζεται να ελεγχθούν σκόπιμα.
Πέντε πράγματα που κρατάμε σε παραγωγικού επιπέδου πρότυπο
Οι διαδρομές AI δέχονται τον ίδιο έλεγχο με τον κώδικα γύρω τους, γιατί εκεί σταματούν νωρίς οι περισσότεροι έλεγχοι.
- ARCH
Αρχιτεκτονική και ροή δεδομένων
Χαρτογραφούμε πώς κινούνται πραγματικά τα δεδομένα μέσα στο σύστημα, πού αποθηκεύονται, πού διασχίζουν ένα όριο εμπιστοσύνης και πού φεύγουν από την ΕΕ, ώστε οι κίνδυνοι να είναι ορατοί αντί για υποθετικοί.
- ACCESS
Έλεγχος πρόσβασης και μυστικά
Ελέγχουμε ποιος μπορεί να κάνει τι, αν οι ρόλοι είναι περιορισμένοι στη δουλειά που χρειάζεται, και αν τα κλειδιά και τα διαπιστευτήρια βρίσκονται σε env και σε αποθηκευτικό χώρο μυστικών αντί στον κώδικα ή σε ένα αρχείο ρυθμίσεων.
- DEPS
Εξαρτήσεις και αλυσίδα εφοδιασμού
Εξετάζουμε τις βιβλιοθήκες και τις υπηρεσίες από τις οποίες εξαρτάστε για γνωστές ευπάθειες, μη συντηρούμενα πακέτα και εκείνα που τραβούν περισσότερα από όσα χρειάζονται.
- AI RISK
Κίνδυνος που αφορά ειδικά το AI
Prompt injection, διαρροή δεδομένων μέσω ενός μοντέλου, ανάκτηση που επιστρέφει εγγραφές που ο ερωτών δεν θα έπρεπε να δει, και απαντήσεις που δεν θεμελιώνονται σε μια πηγή με δυνατότητα παραπομπής, ελεγμένα ως δική τους κατηγορία κινδύνου.
- EU AI ACT
Υποχρεώσεις του EU AI Act
Επισημαίνουμε πού ένα σύστημα φέρει υποχρεώσεις βάσει του EU AI Act, όπως καταγραφή, ανθρώπινη εποπτεία και διαφάνεια, ώστε να σχεδιάζονται εξαρχής αντί να ανακαλύπτονται αργότερα σε έναν έλεγχο.
Μια κατατασσόμενη λίστα, όχι ένας τοίχος από ισοδύναμες προειδοποιήσεις
Κάθε εύρημα φέρει μια σοβαρότητα, μια απλή περιγραφή και τη διόρθωση. Δουλεύετε από πάνω προς τα κάτω, από το ζήτημα που είναι πιθανότερο να βλάψει προς εκείνο που μπορεί να περιμένει. Αυτές είναι οι μορφές των ζητημάτων που βρίσκουμε, όχι ένα ξέσπασμα σαρωτή.
- Υψηλή
Κλειδί API που μπήκε στο ιστορικό του repository
Εναλλαγή και μεταφορά σε αποθηκευτικό χώρο μυστικών - Υψηλή
Η ανάκτηση μπορεί να επιστρέψει εγγραφές που ο ερωτών δεν θα έπρεπε να δει
Περιορισμός ανάκτησης στον ερωτώντα - Μεσαία
Ο ρόλος βάσης δεδομένων διαβάζει περισσότερους πίνακες από όσους χρειάζεται η δουλειά
Περιορισμός στα ελάχιστα προνόμια - Μεσαία
Οι απαντήσεις του μοντέλου δεν φέρουν σύνδεσμο πίσω σε μια πηγή
Θεμελίωση των απαντήσεων σε παραπομπές - Χαμηλή
Εξάρτηση τρεις εκδόσεις πίσω από μια γνωστή διόρθωση
Ενημέρωση στον επόμενο κύκλο
Έλεγχος, κατάταξη, διόρθωση, παράδοση
Έλεγχος
Διαβάζουμε το σύστημα: κώδικα, αρχιτεκτονική, χειρισμό δεδομένων, πρόσβαση, εξαρτήσεις και τις διαδρομές AI. Δουλεύουμε από το πώς λειτουργεί πραγματικά, όχι από ένα ερωτηματολόγιο, και φέρνουμε στην επιφάνεια όσα βρίσκουμε καθώς τα βρίσκουμε.
Κατάταξη
Μετατρέπουμε τα ευρήματα σε μια κατατασσόμενη λίστα, καθένα με την πραγματική του επίπτωση, πόσο πιθανό είναι να συμβεί και μια συγκεκριμένη διόρθωση. Παίρνετε μια σαφή σειρά για να εργαστείτε, όχι έναν τοίχο από προειδοποιήσεις ίσου βάρους.
Διόρθωση
Όπου το θέλετε, κάνουμε οι ίδιοι τις αλλαγές: κλείνουμε το κενό πρόσβασης, μετακινούμε το μυστικό, θεμελιώνουμε την ανάκτηση, ενημερώνουμε την εξάρτηση. Κάθε διόρθωση ελέγχεται και δοκιμάζεται, όπως κάθε build που παραδίδουμε.
Παράδοση
Παίρνετε την αναφορά, τις διορθώσεις και το σκεπτικό, τεκμηριωμένα ώστε η ομάδα σας να μπορεί να συνεχίσει τη δουλειά και να εντοπίζει τα ίδια ζητήματα την επόμενη φορά χωρίς εμάς.
Τι φτάνει στο γραφείο σας
Μια αναφορά κατατασσόμενων ευρημάτων
Κάθε ζήτημα που βρήκαμε, ταξινομημένο κατά επίπτωση και πιθανότητα, καθένα με μια απλή εξήγηση και μια συγκεκριμένη διόρθωση, όχι ένα ακατέργαστο ξέσπασμα σαρωτή.
Διορθώσεις, όπου τις θέλετε
Κλείνουμε τα ζητήματα που μας ζητάτε να κλείσουμε, ελεγμένα και δοκιμασμένα, ώστε η αναφορά να μην μένει απλώς σε ένα συρτάρι ως μια λίστα πραγμάτων που κάποιος θα έπρεπε κάποτε να φροντίσει.
Μια εξέταση κινδύνου AI
Μια σαφής εικόνα της έκθεσης που αφορά ειδικά το AI: prompt injection, διαρροή δεδομένων, θεμελίωση της ανάκτησης, και πώς χειρίζονται τα δεδομένα, με το τι να αλλάξει για το καθένα.
Μια εξέταση του EU AI Act και της τοποθεσίας δεδομένων
Πού το σύστημα φέρει υποχρεώσεις βάσει του EU AI Act, και πού βρίσκονται τα δεδομένα σας, ώστε τα ερωτήματα συμμόρφωσης να έχουν ειλικρινείς απαντήσεις πριν τα θέσει κάποιος επίσημος.
Μια παράδοση που μπορεί να χρησιμοποιήσει η ομάδα σας
Τα ευρήματα, οι διορθώσεις και το σκεπτικό τεκμηριωμένα, ώστε ο επόμενος έλεγχος να ξεκινά από εδώ αντί από το μηδέν.
Κρατάμε το σύστημά σας στο ίδιο πρότυπο που κρατάμε και το δικό μας προϊόν, το Pileform, το οποίο λειτουργεί σε παραγωγή σε 55 φορολογικές δικαιοδοσίες ΦΠΑ και 11 γλώσσες, διαβάζοντας και συμφιλιώνοντας οικονομικά έγγραφα υπό πραγματικές υποχρεώσεις χειρισμού δεδομένων. Έχουμε φτιάξει οι ίδιοι την ελέγξιμη, φιλοξενούμενη στην ΕΕ, θεμελιωμένη σε παραπομπές εκδοχή ενός συστήματος AI, που είναι η ίδια πειθαρχία που φέρνουμε στο δικό σας Document AI και στα συστήματα γύρω του.
Δείτε πώς συνδέεται αυτό με τη δουλειά μας στο Document AIΠριν από έναν έλεγχο ασφάλειας, απαντημένα
Είναι αυτό ένα penetration test;
Όχι. Ένα pentest προσπαθεί να εισβάλει από έξω και σας λέει τι πέτυχε. Εμείς ελέγχουμε το σύστημα από μέσα: την αρχιτεκτονική του, τον χειρισμό δεδομένων, την πρόσβαση, τα μυστικά, τις εξαρτήσεις και τις διαδρομές AI, ώστε να δείτε τους δομικούς κινδύνους, όχι μόνο εκείνους που έτυχε να φτάσει ένας επιτιθέμενος εκείνη τη μέρα. Τα δύο είναι συμπληρωματικά, και θα σας πούμε αν ένα pentest είναι το καλύτερο επόμενο βήμα για την περίπτωσή σας.
Εκδίδετε πιστοποίηση ή σήμα συμμόρφωσης;
Όχι, και δεν θα ισχυριστούμε κάτι τέτοιο. Είμαστε μηχανικοί που εξετάζουν πώς είναι κατασκευασμένο ένα σύστημα, όχι φορέας πιστοποίησης. Αυτό που σας δίνουμε είναι μια ειλικρινής, κατατασσόμενη εικόνα των πραγματικών κινδύνων και των διορθώσεών τους. Αν χρειάζεστε επίσημη πιστοποίηση, ένας τέτοιος έλεγχος είναι καλή προετοιμασία γι' αυτήν, αλλά δεν την υποκαθιστά.
Τι καλύπτει στην πραγματικότητα το μέρος που αφορά ειδικά το AI;
Prompt injection, διαρροή δεδομένων μέσω ενός μοντέλου, ανάκτηση που επιστρέφει εγγραφές που ο ερωτών δεν θα έπρεπε να δει, απαντήσεις που δεν θεμελιώνονται σε μια πηγή με δυνατότητα παραπομπής, και πώς αποθηκεύονται και χρησιμοποιούνται τα δεδομένα σας. Αυτοί είναι οι προβλέψιμοι τρόποι αστοχίας όταν τοποθετείς ένα μοντέλο μπροστά σε πραγματικά δεδομένα, και ελέγχουμε καθέναν ως δική του κατηγορία κινδύνου.
Αναφέρετε μόνο προβλήματα ή τα διορθώνετε κιόλας;
Και τα δύο, και η διόρθωση είναι το ζητούμενο. Κατατάσσουμε όσα βρίσκουμε και στη συνέχεια κλείνουμε τα ζητήματα που θέλετε να κλείσετε, ελεγμένα και δοκιμασμένα. Μια αναφορά που κανείς δεν αξιοποιεί αξίζει λίγα, οπότε είμαστε φτιαγμένοι να ενεργήσουμε πάνω της μαζί σας αντί να σας παραδώσουμε μια λίστα και να φύγουμε.
Μπορείτε να ελέγξετε ένα σύστημα που δεν φτιάξατε εσείς;
Ναι. Τα περισσότερα από τα συστήματα που ελέγχουμε δεν είναι δικά μας. Διαβάζουμε τον κώδικα και την αρχιτεκτονική όπως είναι, γι' αυτό και το βήμα του ελέγχου έρχεται πρώτο: δουλεύουμε από το πώς λειτουργεί πραγματικά το σύστημα, όχι από τεκμηρίωση που μπορεί να μην είναι ενημερωμένη.
Πού πηγαίνουν τα δεδομένα μας κατά τη διάρκεια του ελέγχου, και παραμένουν στην ΕΕ;
Τα δεδομένα σας παραμένουν δικά σας και μένουν εκεί που είναι. Ελέγχουμε εντός του περιβάλλοντός σας υπό τους δικούς σας ελέγχους πρόσβασης, και η τοποθεσία δεδομένων είναι ένα από τα πράγματα που εξετάζουμε αντί για κάτι που θέτουμε σε κίνδυνο. Είμαστε μια εταιρεία με ρίζες στην Ευρώπη και χτίζουμε για τοποθεσία δεδομένων στην ΕΕ εξ ορισμού, μεταξύ άλλων και στη δουλειά Document AI με την οποία συχνά συνδέεται αυτό.
Πείτε μας τι θέλετε να ελέγξουμε
Ένα προσαρμοσμένο build που πάει σε λειτουργία, ένα σύστημα AI που πρόκειται να αγγίξει πραγματικά δεδομένα, ή μια πλατφόρμα που κληρονομήσατε και δεν εμπιστεύεστε πλήρως. Θα το διαβάσουμε με ειλικρίνεια, θα κατατάξουμε όσα βρούμε και θα διορθώσουμε ό,τι θέλετε να διορθωθεί.
Στο ίδιο πρότυπο παραγωγής με το δικό μας προϊόν που τρέχουμε εμείς οι ίδιοι.