Auditorías de seguridad para software y sistemas de IA
Revisamos cómo sus sistemas manejan datos, accesos, secretos y el riesgo específico de IA, y luego le entregamos una lista priorizada y solucionable, no un informe de escaneo genérico.
Somos una firma de consultoría de IA y software a medida en Limasol, que trabaja con equipos de Chipre y la región EMEA en general. Una auditoría de seguridad aquí es una revisión práctica de cómo está construido un sistema real: su arquitectura, su manejo de datos, quién puede hacer qué, dónde viven los secretos, de qué depende, y los riesgos específicos de la IA, como la inyección de prompts, la fuga de datos y respuestas que no están fundamentadas en sus propias fuentes.
Esto es una revisión, no un certificado. No vendemos pentests por horas ni insignias de cumplimiento. Leemos el sistema como deberían haberlo hecho quienes lo construyeron, y lo sometemos al mismo estándar de producción al que sometemos nuestro propio producto.
El agujero está ahí en silencio hasta que alguien lo encuentra
La mayoría de los problemas de seguridad en software no son exóticos. Son una clave de API subida a un repositorio, un rol de base de datos que puede leer más de lo que debería, una integración que confía en una entrada que nunca verifica, una dependencia tres versiones por detrás de un arreglo conocido. El sistema funciona, hace una demo limpia y se entrega. El agujero está ahí en silencio hasta que alguien lo encuentra.
Los sistemas de IA añaden una segunda capa que la mayoría de las revisiones pasa por alto del todo. A un copilot conectado a sus documentos se le puede convencer de ignorar sus instrucciones. Un sistema de recuperación puede sacar a la luz un registro que quien pregunta nunca debió ver. La respuesta de un modelo puede ser confiadamente errónea sin rastro de vuelta a una fuente. No son casos límite. Son los modos de fallo predecibles de poner un modelo ante datos reales, y deben revisarse a propósito.
Cinco cosas que sometemos a un estándar de producción
Los caminos de IA reciben el mismo escrutinio que el código a su alrededor, porque ahí es donde la mayoría de las revisiones se quedan cortas.
- ARCH
Arquitectura y flujo de datos
Mapeamos cómo se mueven de verdad los datos por el sistema, dónde se almacenan, dónde cruzan un límite de confianza y dónde salen de la UE, para que los riesgos sean visibles en lugar de supuestos.
- ACCESS
Control de acceso y secretos
Comprobamos quién puede hacer qué, si los roles están acotados al trabajo y si las claves y credenciales viven en el entorno y en un gestor de secretos en lugar del código o un archivo de configuración.
- DEPS
Dependencias y cadena de suministro
Revisamos las bibliotecas y servicios de los que depende en busca de vulnerabilidades conocidas, paquetes sin mantenimiento y los que arrastran más de lo necesario.
- AI RISK
Riesgo específico de IA
Inyección de prompts, fuga de datos a través de un modelo, recuperación que devuelve registros que quien pregunta no debería ver, y respuestas que no están fundamentadas en una fuente citable, revisadas como su propia clase de riesgo.
- EU AI ACT
Obligaciones del EU AI Act
Señalamos dónde un sistema carga obligaciones bajo el EU AI Act, como registro, supervisión humana y transparencia, para que se diseñen desde el principio en lugar de descubrirse en una auditoría más adelante.
Una lista priorizada, no un muro de avisos iguales
Cada hallazgo lleva una severidad, una descripción sencilla y la solución. Trabaja de arriba abajo, desde el problema con más probabilidad de hacer daño hasta el que puede esperar. Estas son las formas de problema que encontramos, no un volcado de escáner.
- Alta
Clave de API en el historial del repositorio
Rotar y mover a un gestor de secretos - Alta
La recuperación puede devolver registros que quien pregunta no debería ver
Acotar la recuperación a quien pregunta - Media
El rol de base de datos lee más tablas de las que el trabajo necesita
Ajustar al mínimo privilegio - Media
Las respuestas del modelo no llevan enlace de vuelta a una fuente
Fundamentar las respuestas en citas - Baja
Dependencia tres versiones por detrás de un arreglo conocido
Parchear en el próximo ciclo
Auditar, priorizar, arreglar, entregar
Auditoría
Leemos el sistema: código, arquitectura, manejo de datos, accesos, dependencias y los caminos de IA. Trabajamos desde cómo funciona de verdad, no desde un cuestionario, y sacamos a la luz lo que encontramos a medida que lo encontramos.
Priorizar
Convertimos los hallazgos en una lista priorizada, cada uno con su impacto real, qué tan probable es que se explote y una solución concreta. Recibe un orden claro de trabajo, no un muro de avisos del mismo peso.
Arreglar
Donde lo desee, hacemos los cambios nosotros mismos: cerrar la brecha de acceso, mover el secreto, fundamentar la recuperación, parchear la dependencia. Cada arreglo se revisa y se prueba, igual que cualquier desarrollo que entregamos.
Entrega
Recibe el informe, los arreglos y el razonamiento, documentado para que su equipo pueda llevar el trabajo adelante y atrapar los mismos problemas la próxima vez sin nosotros.
Lo que llega a su mesa
Un informe de hallazgos priorizado
Cada problema que encontramos, ordenado por impacto y probabilidad, cada uno con una explicación sencilla y una solución concreta, no un volcado crudo de escáner.
Arreglos, donde los quiera
Cerramos los problemas que nos pide cerrar, revisados y probados, para que el informe no se quede en un cajón como una lista de cosas que alguien debería abordar.
Una revisión de riesgo de IA
Una lectura clara de la exposición específica de IA: inyección de prompts, fuga de datos, fundamentación de la recuperación y cómo se manejan los datos, con qué cambiar en cada caso.
Una lectura del EU AI Act y la residencia de datos
Dónde el sistema carga obligaciones bajo el EU AI Act, y dónde residen sus datos, para que las preguntas de cumplimiento tengan respuestas honestas antes de que alguien oficial pregunte.
Una entrega que su equipo puede usar
Los hallazgos, los arreglos y el razonamiento documentados, para que la próxima revisión pueda empezar desde aquí en lugar de desde cero.
Sometemos su sistema al mismo estándar al que sometemos nuestro propio producto, Pileform, que corre en producción en 55 jurisdicciones de IVA y 11 idiomas, leyendo y conciliando documentos financieros bajo obligaciones reales de manejo de datos. Hemos construido nosotros mismos la versión auditable, alojada en la UE y fundamentada en citas de un sistema de IA, que es la misma disciplina que llevamos a su document AI y a los sistemas a su alrededor.
Vea cómo conecta esto con nuestro trabajo de document AIAntes de una revisión de seguridad, respondido
¿Es esto una prueba de penetración?
No. Un pentest intenta entrar desde fuera y le dice qué funcionó. Nosotros revisamos el sistema desde dentro: su arquitectura, manejo de datos, accesos, secretos, dependencias y caminos de IA, para que vea los riesgos estructurales, no solo los que un atacante alcanzó por casualidad ese día. Los dos son complementarios, y le diremos si un pentest es el mejor siguiente paso para su caso.
¿Emiten una certificación o insignia de cumplimiento?
No, y no vamos a pretenderlo. Somos ingenieros que revisan cómo está construido un sistema, no un organismo certificador. Lo que le damos es una imagen honesta y priorizada de los riesgos reales y sus soluciones. Si necesita una certificación formal, una auditoría como esta es buena preparación para ella, pero no la sustituye.
¿Qué cubre de verdad la parte específica de IA?
Inyección de prompts, fuga de datos a través de un modelo, recuperación que devuelve registros que quien pregunta no debería ver, respuestas que no están fundamentadas en una fuente citable, y cómo se almacenan y usan sus datos. Son los modos de fallo predecibles de poner un modelo ante datos reales, y revisamos cada uno como su propia clase de riesgo.
¿Solo informan de los problemas, o los arreglan?
Ambas cosas, y arreglar es el punto. Priorizamos lo que encontramos, y luego cerramos los problemas que quiera cerrar, revisados y probados. Un informe que nadie ejecuta vale poco, así que estamos hechos para ejecutarlo con usted en lugar de entregarle una lista e irnos.
¿Pueden revisar un sistema que no construyeron?
Sí. La mayoría de los sistemas que auditamos no son nuestros. Leemos el código y la arquitectura como están, por eso el paso de auditoría va primero: trabajamos desde cómo funciona de verdad el sistema, no desde una documentación que puede estar desactualizada.
¿Adónde van nuestros datos durante la revisión, y se quedan en la UE?
Sus datos siguen siendo suyos y se quedan donde están. Revisamos contra su entorno bajo sus controles de acceso, y la residencia de datos es una de las cosas que comprobamos en lugar de algo que ponemos en riesgo. Somos una firma con raíz en Europa y construimos para la residencia de datos en la UE por defecto, incluido el trabajo de document AI con el que esto suele conectar.
Cuéntenos qué quiere que revisemos
Un desarrollo a medida que sale a producción, un sistema de IA a punto de tocar datos reales, o una plataforma que heredó y no acaba de fiarse de ella. La leeremos con honestidad, priorizaremos lo que encontremos y arreglaremos lo que quiera arreglar.
Con el mismo estándar de producción que el producto que nosotros mismos operamos.