Audit di sicurezza per sistemi software e AI
Esaminiamo come i tuoi sistemi gestiscono dati, accessi, segreti e rischio specifico dell'AI, poi ti consegniamo una lista ordinata e risolvibile, non un generico report di scansione.
Siamo uno studio di consulenza AI e software su misura a Limassol, al fianco di team a Cipro e nell'intera regione EMEA. Un audit di sicurezza qui è una review pratica di come è costruito un sistema reale: la sua architettura, la sua gestione dei dati, chi può fare cosa, dove vivono i segreti, da cosa dipende, e i rischi specifici dell'AI, come prompt injection, fuga di dati e risposte non ancorate alle tue fonti.
È una review, non un certificato. Non vendiamo pentest a ore o badge di conformità. Leggiamo il sistema come avrebbe dovuto fare chi lo ha costruito, e lo teniamo allo stesso standard produttivo a cui teniamo il nostro prodotto.
Il buco resta in silenzio finché qualcuno non lo trova
La maggior parte dei problemi di sicurezza nel software non è esotica. Sono una chiave API committata in un repository, un ruolo di database che può leggere più di quanto dovrebbe, un'integrazione che si fida di un input che non controlla mai, una dipendenza tre versioni indietro rispetto a una correzione nota. Il sistema funziona, fa una bella demo e va in produzione. Il buco resta in silenzio finché qualcuno non lo trova.
I sistemi AI aggiungono un secondo livello che la maggior parte delle review manca del tutto. Un copilot collegato ai tuoi documenti può essere convinto a ignorare le sue istruzioni. Un sistema di retrieval può far emergere un record che chi chiede non doveva mai vedere. La risposta di un modello può essere sicura e sbagliata senza alcuna traccia verso una fonte. Non sono casi limite. Sono le modalità di guasto prevedibili di mettere un modello davanti a dati reali, e vanno esaminate di proposito.
Cinque cose che teniamo a uno standard produttivo
I percorsi AI ricevono lo stesso scrupolo del codice attorno, perché è lì che la maggior parte delle review si ferma troppo presto.
- ARCH
Architettura e flusso dei dati
Mappiamo come i dati si muovono davvero nel sistema, dove sono archiviati, dove attraversano un confine di fiducia e dove lasciano l'UE, così i rischi sono visibili invece che presunti.
- ACCESS
Controllo degli accessi e segreti
Verifichiamo chi può fare cosa, se i ruoli sono limitati al lavoro, e se chiavi e credenziali vivono in env e in un secret store invece che nel codice o in un file di configurazione.
- DEPS
Dipendenze e supply chain
Esaminiamo le librerie e i servizi da cui dipendi per vulnerabilità note, pacchetti non mantenuti e quelli che tirano dentro più di quanto serva.
- AI RISK
Rischio specifico dell'AI
Prompt injection, fuga di dati attraverso un modello, retrieval che restituisce record che chi chiede non dovrebbe vedere, e risposte non ancorate a una fonte citabile, esaminati come una classe di rischio a sé.
- EU AI ACT
Obblighi dell'EU AI Act
Segnaliamo dove un sistema porta obblighi ai sensi dell'EU AI Act, come logging, supervisione umana e trasparenza, così sono progettati fin dall'inizio invece di essere scoperti in un audit più avanti.
Una lista ordinata, non un muro di avvisi uguali
Ogni risultato porta una gravità, una descrizione semplice e la correzione. Lavori dall'alto verso il basso, dal problema più probabile a fare danno a quello che può aspettare. Queste sono le forme di problema che troviamo, non un dump di scanner.
- Alta
Chiave API committata nella cronologia del repository
Ruota e sposta in un secret store - Alta
Il retrieval può restituire record che chi chiede non dovrebbe vedere
Limita il retrieval a chi chiede - Media
Il ruolo di database legge più tabelle di quante ne serva al lavoro
Restringi al privilegio minimo - Media
Le risposte del modello non portano alcun collegamento verso una fonte
Ancora le risposte a citazioni - Bassa
Dipendenza tre versioni indietro rispetto a una correzione nota
Aggiorna al prossimo ciclo
Audit, ordina, correggi, consegna
Audit
Leggiamo il sistema: codice, architettura, gestione dei dati, accessi, dipendenze e i percorsi AI. Lavoriamo da come gira davvero, non da un questionario, e facciamo emergere ciò che troviamo man mano che lo troviamo.
Ordina
Trasformiamo i risultati in una lista ordinata, ciascuno con il suo impatto reale, quanto è probabile che venga colpito, e una correzione concreta. Ottieni un ordine chiaro in cui lavorare, non un muro di avvisi di pari peso.
Correggi
Dove lo desideri, apportiamo noi stessi le modifiche: chiudiamo la lacuna di accesso, spostiamo il segreto, ancoriamo il retrieval, aggiorniamo la dipendenza. Ogni correzione è revisionata e testata, come ogni sviluppo che rilasciamo.
Consegna
Ottieni il report, le correzioni e il ragionamento, documentati così il tuo team può portare avanti il lavoro e intercettare gli stessi problemi la volta successiva senza di noi.
Cosa arriva sulla tua scrivania
Un report dei risultati ordinato
Ogni problema che abbiamo trovato, ordinato per impatto e probabilità, ciascuno con una spiegazione semplice e una correzione concreta, non un dump grezzo di scanner.
Correzioni, dove le vuoi
Chiudiamo i problemi che ci viene chiesto di chiudere, revisionati e testati, così il report non resta in un cassetto come una lista di cose che qualcuno dovrebbe affrontare.
Una review del rischio AI
Una lettura chiara dell'esposizione specifica dell'AI: prompt injection, fuga di dati, ancoraggio del retrieval e come vengono gestiti i dati, con cosa cambiare per ciascuno.
Una lettura su EU AI Act e residenza dei dati
Dove il sistema porta obblighi ai sensi dell'EU AI Act, e dove risiedono i tuoi dati, così le domande di conformità hanno risposte oneste prima che qualcuno ufficiale le ponga.
Un handover utilizzabile dal tuo team
I risultati, le correzioni e il ragionamento documentati, così la prossima review può partire da qui invece che da zero.
Teniamo il tuo sistema allo stesso standard a cui teniamo il nostro prodotto, Pileform, che gira in produzione in 55 giurisdizioni IVA e 11 lingue, leggendo e riconciliando documenti finanziari sotto obblighi reali di gestione dei dati. Abbiamo costruito noi stessi la versione verificabile, ospitata nell'UE e ancorata a citazioni di un sistema AI, ed è la stessa disciplina che portiamo nel tuo lavoro di document AI e nei sistemi attorno ad esso.
Scopri come questo si collega al nostro lavoro di document AIPrima di una review di sicurezza, con risposte
È un penetration test?
No. Un pentest tenta di entrare dall'esterno e ti dice cosa ha funzionato. Noi esaminiamo il sistema dall'interno: la sua architettura, la gestione dei dati, gli accessi, i segreti, le dipendenze e i percorsi AI, così vedi i rischi strutturali, non solo quelli che un attaccante è riuscito a raggiungere quel giorno. I due sono complementari, e diremo se un pentest è il passo successivo migliore per il tuo caso.
Rilasciate una certificazione o un badge di conformità?
No, e non sosterremo di farlo. Siamo ingegneri che esaminano come è costruito un sistema, non un ente di certificazione. Quello che ti diamo è un quadro onesto e ordinato dei rischi reali e delle correzioni per essi. Se ti serve una certificazione formale, un audit come questo è una buona preparazione, ma non un sostituto.
Cosa copre concretamente la parte specifica dell'AI?
Prompt injection, fuga di dati attraverso un modello, retrieval che restituisce record che chi chiede non dovrebbe vedere, risposte non ancorate a una fonte citabile, e come i tuoi dati vengono archiviati e usati. Sono le modalità di guasto prevedibili di mettere un modello davanti a dati reali, e ne esaminiamo ciascuna come una classe di rischio a sé.
Riportate solo i problemi, o li correggete?
Entrambe le cose, e la correzione è il punto. Ordiniamo ciò che troviamo, poi chiudiamo i problemi che vuoi chiudere, revisionati e testati. Un report su cui nessuno agisce vale poco, quindi siamo fatti per agirci insieme a te invece di consegnarti una lista e andarcene.
Potete esaminare un sistema che non avete costruito?
Sì. La maggior parte dei sistemi che esaminiamo non è nostra. Leggiamo il codice e l'architettura come sono, ed è per questo che il passo di audit viene prima: lavoriamo da come il sistema gira davvero, non da documentazione che può essere superata.
Dove vanno i nostri dati durante la review, e restano nell'UE?
I tuoi dati restano tuoi e restano dove sono. Esaminiamo nel tuo ambiente sotto i tuoi controlli di accesso, e la residenza dei dati è una delle cose che verifichiamo invece di qualcosa che mettiamo a rischio. Siamo uno studio con radici in Europa e costruiamo per la residenza dei dati nell'UE per impostazione predefinita, anche nel lavoro di document AI a cui questo spesso si collega.
Dicci cosa vuoi esaminare
Uno sviluppo su misura che va in produzione, un sistema AI che sta per toccare dati reali, o una piattaforma che hai ereditato e di cui non ti fidi del tutto. La leggeremo onestamente, ordineremo ciò che troviamo e correggeremo ciò che vuoi correggere.
Allo stesso standard di produzione del prodotto che gestiamo noi stessi.