Research / Paper Files

Paper Files

Paper Files es una práctica personal de estudio continuo en ciberseguridad que aplica el método científico como herramienta de aprendizaje. Cada artículo no se escribe para su publicación académica, sino como un ejercicio deliberado para afilar el hacha — profundizando en temas concretos, organizando ideas con rigor y observando cómo evoluciona la comprensión de ciertos asuntos con el tiempo. Es el equivalente intelectual a un cuaderno de entrenamiento: cada entrada registra qué se estudió, cómo se analizó y qué conclusiones surgieron.

Recomiendo encarecidamente que los profesionales de seguridad adopten este método. Elige un tema que quieras dominar, investiga fuentes primarias (RFCs, papers, documentación oficial), estructura tu texto con introducción, metodología, análisis y conclusión, y escribe como si estuvieras explicándoselo a un compañero. El acto de escribir obliga a pensar con claridad y expone lagunas de comprensión que la lectura pasiva no puede revelar. Usa los artículos de este sitio como ejemplos de formato y profundidad, y construye tu propia colección: con el tiempo, tendrás un repositorio personal de conocimiento refinado que ningún curso ni certificación puede sustituir.

DAI & ADAI · 2026

DAI · EN

DAI: A Domain-Specific LLM with Model-Excluded Authority, Capability-Disjoint Verification, and Recomputable Receipts

DAI (Decripte Artificial Intelligence) is a proprietary domain-specific LLM within a governed autonomous defensive architecture. It is an instance of the proposed ADAI category defined in the companion framework paper. T…

Read paper →ADAI · EN

Autonomous Defensive AI: An Envelope-and-Evidence Framework for Governed LLMs Acting on Production Infrastructure

ADAI (Autonomous Defensive Artificial Intelligence) is a proposed category of governed autonomous cyber defense. The framework specifies defended perimeters, bounded effects, declared rollback and capability-disjoint ver…

Read paper →

Todos Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

13 papers

AI Security

TÍTULO: Arquitectura Integrada de Defensa para Sistemas Basados en Inteligencia Artificial: Modelado Formal de Amenazas, Detección de Ataques Adversariales y Monitoreo Operacional en Entornos de Producción

TÍTULO: Arquitectura Integrada de Defensa para Sistemas Basados en Inteligencia Artificial: Modelado Formal de Amenazas, Detección de Ataques Adversariales y Monitoreo Operacional en Entornos de Producción RESUMEN: La adopción de sistemas basados en aprendizaje automático en entornos corporativos ha transformado los modelos de inteligencia artificial en componentes críticos de la toma de decisiones operacionales. Estos sistemas han pasado a actuar en detección de fraude, clasificación de malware, triaje médico asistido por imágenes, sistemas de recomendación y análisis conductual en plataformas digitales. Sin embargo, a diferencia del software tradicional, los modelos de aprendizaje son funciones paramétricas entrenadas a partir de datos, lo que introduce superficies de ataque adicionales asociadas con la manipulación de entradas, la contaminación del proceso de entrenamiento y la explotación de interfaces de inferencia. La literatura reciente documenta múltiples clases de ataques contra sistemas de aprendizaje automático, incluidos ejemplos adversariales, envenenamiento de datos, extracción de modelos e inferencia de miembros. Paralelamente, la integración de estos sistemas en pipelines DevOps e infraestructuras basadas en contenedores introduce riesgos adicionales relacionados con la cadena de suministro de software y modelos. Este trabajo propone una arquitectura integrada de defensa para sistemas de inteligencia artificial desplegados en producción, combinando modelado formal de amenazas, mecanismos estadísticos de detección de anomalías, verificación criptográfica de integridad y monitoreo operacional continuo. Formalizamos el concepto de riesgo adversarial agregado como una función de probabilidades condicionales asociadas a diferentes clases de ataques bajo un modelo parametrizado de adversario. A continuación, introducimos un detector híbrido basado en la distancia de Mahalanobis y el algoritmo Isolation Forest aplicado a representaciones latentes del modelo. Complementariamente, proponemos un mecanismo de verificación de integridad que combina hashing criptográfico, firma digital y pruebas comportamentales basadas en divergencia de distribución de salida. La arquitectura se integra en un pipeline operacional basado en Kubernetes, con telemetría correlacionada con técnicas descritas en marcos como MITRE ATT&CK y MITRE ATLAS. Evaluaciones experimentales en escenarios controlados indican un aumento consistente de la robustez empírica frente a ataques de evasión y una mejora en la detección de alteraciones no autorizadas en artefactos del modelo. El análisis también evidencia impactos moderados en la latencia cuando los mecanismos de defensa se dimensionan adecuadamente. Los resultados sugieren que los enfoques que combinan controles criptográficos, análisis estadístico y monitoreo operacional ofrecen una vía pragmáticamente viable para aumentar la seguridad de sistemas de inteligencia artificial desplegados en producción.

2008-07-15Read paper →AI Security

TÍTULO: Arquitectura Operacional para la Seguridad de Sistemas de Inteligencia Artificial: Modelado de Amenazas, Defensa en Profundidad y Evaluación Empírica en Entornos Críticos

TÍTULO: Arquitectura Operacional para la Seguridad de Sistemas de Inteligencia Artificial: Modelado de Amenazas, Defensa en Profundidad y Evaluación Empírica en Entornos Críticos RESUMEN: La rápida incorporación de sistemas de inteligencia artificial (IA) en infraestructuras críticas ha introducido nuevas clases de vulnerabilidades que no son plenamente capturadas por los modelos tradicionales de seguridad de la información. A diferencia del software determinista, los modelos de aprendizaje automático dependen fuertemente de los datos de entrenamiento y de las distribuciones estadísticas, lo que crea superficies de ataque asociadas a la manipulación de datos, la explotación de interfaces de inferencia y el compromiso de la cadena de suministro de datos. Este trabajo propone una arquitectura operativa para la protección de sistemas de IA basada en principios de defensa en profundidad, integrando modelado formal de amenazas, mecanismos estadísticos de detección de manipulación de datos y controles operativos integrados en centros de operaciones de seguridad (SOC). Inicialmente formalizamos un modelo matemático para caracterizar propiedades deseables de seguridad en pipelines de aprendizaje supervisado, incluida la integridad estadística de los datos y la confidencialidad paramétrica de los modelos. A continuación, introducimos mecanismos de detección de envenenamiento de datos basados en la divergencia de Kullback–Leibler y el análisis de influencia de muestras, combinados con estrategias de limitación adaptativa de consultas para mitigar ataques de extracción de modelos. La arquitectura propuesta integra controles de seguridad en el ciclo completo de vida de los modelos de IA, incluyendo ingestión de datos, entrenamiento, empaquetado e implantación en entornos orquestados. La implementación experimental utiliza una pila tecnológica contemporánea compuesta por Kubernetes, PyTorch, MLflow, Suricata e integración con SIEM corporativo. Evaluamos empíricamente el enfoque en un entorno de laboratorio que representa infraestructura crítica, utilizando datasets públicos de seguridad y escenarios adversariales controlados. Los resultados indican una reducción significativa en la eficacia de ataques adversariales y de extracción de modelos, con un impacto operacional moderado en términos de latencia y consumo de recursos computacionales. Un estudio de caso en un escenario de detección antifraude demuestra la viabilidad de la arquitectura en contextos operativos reales. Asimismo, discutimos las implicaciones para la gobernanza de la IA y su alineación con marcos normativos emergentes, como el NIST AI Risk Management Framework. Los resultados sugieren que los mecanismos estadísticos combinados con controles operativos tradicionales constituyen una estrategia eficaz para reducir los riesgos asociados con la creciente adopción de IA en entornos críticos.

2008-07-08Read paper →AI Security

Arquitectura Operativa para la Seguridad de Sistemas de Inteligencia Artificial: Modelado de Amenazas, Defensa en Profundidad y Evaluación Empírica en Entornos Críticos

TITLE: Arquitectura Operativa para la Seguridad de Sistemas de Inteligencia Artificial: Modelado de Amenazas, Defensa en Profundidad y Evaluación Empírica en Entornos Críticos ABSTRACT: La rápida incorporación de sistemas de inteligencia artificial (IA) en infraestructuras críticas ha introducido nuevas clases de vulnerabilidades que no son capturadas plenamente por los modelos tradicionales de seguridad de la información. A diferencia del software determinista, los modelos de aprendizaje automático dependen fuertemente de los datos de entrenamiento y de distribuciones estadísticas, creando superficies de ataque asociadas con la manipulación de datos, la explotación de interfaces de inferencia y el compromiso de la cadena de suministro de datos. Este trabajo propone una arquitectura operativa para la protección de sistemas de IA basada en principios de defensa en profundidad, integrando modelado formal de amenazas, mecanismos estadísticos de detección de manipulación de datos y controles operativos integrados a centros de operaciones de seguridad (SOC). Inicialmente formalizamos un modelo matemático para caracterizar propiedades deseables de seguridad en pipelines de aprendizaje supervisado, incluida la integridad estadística de los datos y la confidencialidad paramétrica de los modelos. A continuación introducimos mecanismos de detección de envenenamiento de datos basados en la divergencia de Kullback–Leibler y en el análisis de influencia de muestras, combinados con estrategias de limitación adaptativa de consultas para mitigar ataques de extracción de modelos. La arquitectura propuesta integra controles de seguridad en el ciclo completo de vida de los modelos de IA, incluida la ingestión de datos, el entrenamiento, el empaquetado y el despliegue en entornos orquestados. La implementación experimental utiliza una pila tecnológica contemporánea compuesta por Kubernetes, PyTorch, MLflow, Suricata e integración con SIEM corporativo. Evaluamos empíricamente el enfoque en un entorno de laboratorio que representa infraestructura crítica, utilizando datasets públicos de seguridad y escenarios adversariales controlados. Los resultados indican una reducción significativa en la eficacia de ataques adversariales y de extracción de modelos, con un impacto operacional moderado en términos de latencia y consumo de recursos computacionales. Un estudio de caso en un escenario de detección antifraude demuestra la viabilidad de la arquitectura en contextos operacionales reales. Asimismo, discutimos implicaciones para la gobernanza de la IA y su alineación con marcos normativos emergentes, como el NIST AI Risk Management Framework. Los resultados sugieren que los mecanismos estadísticos combinados con controles operativos tradicionales constituyen una estrategia eficaz para reducir los riesgos asociados con la adopción creciente de la IA en entornos críticos.

2008-07-08Read paper →AI Security

TÍTULO: ARQUITECTURA OPERATIVA PARA LA SEGURIDAD DE SISTEMAS DE INTELIGENCIA ARTIFICIAL: MODELADO DE AMENAZAS, DEFENSA EN PROFUNDIDAD Y EVALUACIÓN EMPÍRICA EN ENTORNOS CRÍTICOS

TÍTULO: ARQUITECTURA OPERATIVA PARA LA SEGURIDAD DE SISTEMAS DE INTELIGENCIA ARTIFICIAL: MODELADO DE AMENAZAS, DEFENSA EN PROFUNDIDAD Y EVALUACIÓN EMPÍRICA EN ENTORNOS CRÍTICOS RESUMEN: ARQUITECTURA OPERATIVA PARA LA SEGURIDAD DE SISTEMAS DE INTELIGENCIA ARTIFICIAL: MODELADO DE AMENAZAS, DEFENSA EN PROFUNDIDAD Y EVALUACIÓN EMPÍRICA EN ENTORNOS CRÍTICOS RESUMEN: ARQUITECTURA OPERATIVA PARA LA SEGURIDAD DE SISTEMAS DE INTELIGENCIA ARTIFICIAL: MODELADO DE AMENAZAS, DEFENSA EN PROFUNDIDAD Y EVALUACIÓN EMPÍRICA EN ENTORNOS CRÍTICOS Resumen: La rápida integración de sistemas de inteligencia artificial (IA) en infraestructuras críticas ha introducido una nueva clase de vulnerabilidades que los modelos convencionales de seguridad de la información no logran capturar adecuadamente. A diferencia del software determinista, los modelos de aprendizaje automático dependen fuertemente de los datos de entrenamiento y de las distribuciones estadísticas, creando superficies de ataque relacionadas con la adulteración de datos, el abuso de interfaces de inferencia y el compromiso de la cadena de suministro de datos. Este estudio propone una arquitectura operativa para proteger sistemas de IA basada en el principio de Defensa en Profundidad, integrando modelado formal de amenazas, mecanismos estadísticos para detectar adulteración de datos y controles operativos integrados a un Centro de Operaciones de Seguridad (SOC). En primer lugar, formalizamos un modelo matemático que caracteriza las propiedades de seguridad deseadas en pipelines de aprendizaje supervisado, a saber, la integridad estadística de los datos y la confidencialidad paramétrica de los modelos. A continuación, introducimos un mecanismo de detección de data poisoning basado en la divergencia de Kullback–Leibler y en el análisis de influencia de muestras, combinado con una estrategia adaptativa de limitación de la tasa de consultas para mitigar ataques de extracción de modelos. La arquitectura propuesta integra controles de seguridad a lo largo de todo el ciclo de vida de los modelos de IA, incluyendo la ingestión de datos, el entrenamiento, el empaquetado y la implantación en entornos de orquestación. La implementación utiliza una pila tecnológica moderna compuesta por Kubernetes, PyTorch, MLflow, Suricata e integración con un SIEM corporativo. Evaluamos empíricamente este enfoque en un entorno de laboratorio representativo de infraestructura crítica, utilizando conjuntos de datos públicos de seguridad y escenarios adversariales controlados. Los resultados mostraron una reducción sustancial en la efectividad de ataques adversariales y de ataques de extracción de modelos, con un impacto operativo moderado en términos de latencia y consumo de recursos computacionales. Un estudio de caso en un escenario de detección de fraudes demuestra la viabilidad de la arquitectura en un entorno operativo. También discutimos implicaciones para la gobernanza de la IA y la alineación con marcos normativos emergentes, como el NIST AI Risk Management Framework. Estos resultados sugieren que la combinación de mecanismos estadísticos con controles operativos convencionales es una estrategia eficaz para reducir los riesgos asociados con la creciente adopción de IA en entornos críticos.

2008-07-08Read paper →AI Security

TÍTULO: Una Arquitectura Integrada de Seguridad para Sistemas de Inteligencia Artificial: Modelado Formal de Amenazas, Detección de Ataques Adversariales y Hardening Operacional en Entornos Corporativos

TÍTULO: Una Arquitectura Integrada de Seguridad para Sistemas de Inteligencia Artificial: Modelado Formal de Amenazas, Detección de Ataques Adversariales y Hardening Operacional en Entornos Corporativos RESUMEN: La rápida incorporación de sistemas de Inteligencia Artificial (IA) en infraestructuras corporativas críticas introdujo una nueva clase de riesgos de seguridad que trasciende los modelos tradicionales de defensa cibernética. Los modelos de aprendizaje profundo, los servicios de inferencia expuestos vía API y, más recientemente, los Large Language Models (LLMs) pasaron a integrar pipelines operacionales responsables de decisiones sensibles, incluyendo detección de fraude, clasificación automatizada y respuesta a incidentes. Sin embargo, investigaciones recientes demuestran que tales sistemas presentan vulnerabilidades estructurales, incluyendo ataques adversariales, extracción de modelo, inferencia de pertenencia y envenenamiento de datos. Además, el ecosistema operacional que sustenta aplicaciones de IA permanece sujeto a amenazas tradicionales de infraestructura, ampliando la superficie de ataque. En este trabajo proponemos una arquitectura integrada de seguridad para sistemas de IA que combina modelado formal de amenazas, mecanismos de detección de ataques adversariales y prácticas de hardening operacional orientadas a entornos corporativos. En primer lugar, desarrollamos un modelo de amenaza unificado que integra las taxonomías MITRE ATT&CK y MITRE ATLAS, permitiendo mapear vectores de ataque específicos de aprendizaje automático dentro de frameworks consolidados de defensa cibernética. A continuación, formalizamos el problema de robustez adversarial bajo una perspectiva de optimización min–max e introducimos un mecanismo de detección basado en entropía de salida y estimación de dimensionalidad intrínseca local para identificar entradas potencialmente adversariales en tiempo de inferencia. La arquitectura propuesta también incorpora monitoreo de drift estadístico, validación de integridad del pipeline de datos e integración con plataformas SIEM para respuesta operacional. La implementación se realizó utilizando PyTorch, Suricata, Elastic Stack e infraestructura Kubernetes, reflejando prácticas ampliamente adoptadas en entornos corporativos hasta 2023. La evaluación experimental fue conducida en escenarios de visión computacional y detección de intrusión utilizando los conjuntos de datos CIFAR‑10 y UNSW‑NB15. Los resultados indican una mejora sustancial en la robustez frente a ataques FGSM y PGD, así como una reducción significativa en el tiempo medio de respuesta operacional en centros de operaciones de seguridad (SOC). Los resultados sugieren que los enfoques aislados de robustez adversarial son insuficientes y que la seguridad de IA debe ser tratada como un problema sistémico que integra métodos matemáticos, ingeniería de software segura y monitoreo continuo de infraestructura.

2008-07-01Read paper →AI Security

Título: Arquitectura Formal para la Seguridad de Sistemas de Inteligencia Artificial: Modelado de Amenazas, Verificación Adversarial y Mitigación Robusta con Garantías Cuantificables

Título: Arquitectura Formal para la Seguridad de Sistemas de Inteligencia Artificial: Modelado de Amenazas, Verificación Adversarial y Mitigación Robusta con Garantías Cuantificables Resumen: La creciente incorporación de sistemas de Inteligencia Artificial (IA) en infraestructuras críticas, servicios financieros, plataformas digitales y entornos industriales ha introducido una nueva superficie de ataque cuya complejidad trasciende los paradigmas tradicionales de seguridad computacional. Los modelos de aprendizaje profundo son susceptibles a ataques adversariales, envenenamiento de datos, extracción de modelos e inferencia de atributos sensibles, comprometiendo la confidencialidad, la integridad y la disponibilidad. En este trabajo, proponemos una arquitectura formal integrada para la seguridad de IA que combina modelado matemático de amenazas, verificación adversarial automatizada y mecanismos de mitigación robusta con garantías cuantificables. Nuestra metodología unifica tres componentes: (i) un modelo formal de adversario parametrizado por presupuesto computacional y capacidad de acceso, (ii) un mecanismo de detección de anomalías basado en divergencia estadística adaptativa, y (iii) un módulo de robustez certificada utilizando optimización convexa relajada. Implementamos un prototipo en entornos PyTorch y TensorFlow, evaluándolo en los conjuntos CIFAR-10, ImageNet-subset y UNSW-NB15. Bajo ataques PGD con $\epsilon = 8/255$, nuestro método elevó la precisión robusta del 32,4% (baseline) al 61,7%, con una desviación estándar de 1,8%. En escenarios de envenenamiento con 10% de datos corrompidos, redujimos el impacto en el error de generalización en 47%. Demostramos además una reducción del 63% en la tasa de éxito de ataques de extracción de modelo. El análisis de complejidad indica una sobrecarga media del 18% en tiempo de inferencia, manteniendo la viabilidad operacional. Nuestros resultados evidencian que la integración sistemática de verificación formal y mitigación estadísticamente fundamentada constituye un avance sustancial en la ingeniería de seguridad de IA, proporcionando garantías medibles alineadas con las directrices del NIST AI Risk Management Framework.

2007-08-09Read paper →AI Security

TÍTULO: Arquitectura Formal para la Seguridad de Sistemas de Inteligencia Artificial: Un Modelo Unificado de Defensa Contra Ataques Adversarios, Envenenamiento y Extracción de Modelos

TÍTULO: Arquitectura Formal para la Seguridad de Sistemas de Inteligencia Artificial: Un Modelo Unificado de Defensa Contra Ataques Adversarios, Envenenamiento y Extracción de Modelos RESUMEN: La creciente integración de sistemas de Inteligencia Artificial (IA) en infraestructuras críticas, servicios financieros, plataformas de salud y entornos industriales ha ampliado significativamente la superficie de ataque cibernético. Los modelos de aprendizaje automático (ML) y aprendizaje profundo (DL) introducen vulnerabilidades específicas, incluidos ataques adversarios, envenenamiento de datos y extracción de modelos, que no son mitigadas adecuadamente por los mecanismos tradicionales de seguridad de la información. En este trabajo, proponemos una arquitectura formal unificada para la seguridad de la IA, integrando mecanismos de robustez estadística, detección de anomalías en tiempo de ejecución y garantías criptográficas. Nuestra metodología combina (i) regularización adversaria adaptativa, (ii) detección probabilística basada en divergencia de distribuciones y (iii) mecanismos de prueba de integridad mediante funciones hash autenticadas y verificación remota. Formalizamos el problema bajo un modelo de amenaza paramétrico y demostramos que nuestro enfoque reduce la tasa de éxito de los ataques adversarios del 78,4% al 12,7% en escenarios de caja blanca y del 64,2% al 18,9% en escenarios de caja negra. En ataques de envenenamiento con una tasa de contaminación del 10%, observamos una reducción del impacto en la exactitud del 22,5% al 4,3%. La sobrecarga computacional media fue del 11,6% en inferencia y del 18,2% en entrenamiento. Evaluamos el sistema en tres conjuntos de datos ampliamente utilizados (CIFAR-10, ImageNet-Subset y UNSW-NB15) y lo comparamos con defensas de referencia, incluyendo adversarial training clásico y mecanismos basados en detección estadística aislada. Los resultados demuestran una superioridad estadísticamente significativa (p < 0,01) en robustez y estabilidad. Concluimos que la seguridad de la IA debe ser tratada como una disciplina formal con propiedades verificables, y no como una extensión ad hoc de la seguridad tradicional.

2007-08-02Read paper →AI Security

TÍTULO: Arquitectura formalmente verificable para la seguridad de modelos de aprendizaje automático bajo ataques adaptativos: un framework integrado de robustez, monitoreo y garantías criptográficas

TÍTULO: Arquitectura formalmente verificable para la seguridad de modelos de aprendizaje automático bajo ataques adaptativos: un framework integrado de robustez, monitoreo y garantías criptográficas RESUMEN: La creciente integración de modelos de aprendizaje automático (ML) en infraestructuras críticas ha introducido una nueva superficie de ataque en el ecosistema de ciberseguridad. Los ataques adversarios, el envenenamiento de datos, la extracción de modelos y la inferencia de atributos han demostrado la fragilidad de los sistemas basados en inteligencia artificial, con impactos documentados en los sectores financiero, de salud y defensa. En este trabajo, proponemos una arquitectura integrada y formalmente fundamentada para la seguridad de modelos de ML frente a adversarios adaptativos, combinando robustez adversarial certificada, detección de desviaciones conductuales en tiempo de ejecución y garantías criptográficas de integridad y confidencialidad. Nuestra metodología articula tres componentes principales: (i) entrenamiento robusto con regularización Lipschitz y certificación probabilística; (ii) monitoreo en línea basado en modelado estadístico de distribuciones latentes y detección de anomalías mediante pruebas secuenciales; y (iii) encapsulamiento criptográfico con atestación remota y computación confidencial. Formalizamos el modelo de amenaza con capacidades alineadas con MITRE ATT&CK (T1565, T1190, T1027) y definimos propiedades de seguridad mensurables. Evaluamos la arquitectura en tres conjuntos de datos (CIFAR-10, UNSW-NB15 y MIMIC-III) y dos escenarios reales de detección de intrusiones. En comparación con baselines de robustez adversarial (PGD-training) y detección aislada, nuestro framework redujo la tasa de éxito de ataques adversarios de 78,4% a 21,7%, detectó 93,2% de los ataques de envenenamiento con una tasa de falso positivo de 3,8%, y mantuvo un overhead computacional promedio de 11,6%. Demostramos que la integración sistemática de mecanismos formales y operacionales ofrece ganancias sustanciales en la resiliencia sistémica, estableciendo directrices concretas para el desarrollo seguro de sistemas de IA en entornos de alto riesgo.

2007-07-26Read paper →AI Security