Research / Paper Files

Paper Files

Os Paper Files são uma prática pessoal de estudo contínuo em cibersegurança que aplica o método científico como ferramenta de aprendizado. Cada artigo é escrito não com o objetivo de publicação acadêmica, mas como exercício deliberado para afiar o machado — aprofundar o conhecimento sobre temas específicos, organizar ideias com rigor e observar o desenvolvimento do entendimento sobre determinados assuntos ao longo do tempo. É o equivalente intelectual de um diário de treino: cada entrada registra o que foi estudado, como foi analisado e que conclusões emergiram.

Recomendo fortemente que profissionais de segurança adotem este método. Escolha um tema que deseja dominar, pesquise fontes primárias (RFCs, papers, documentação oficial), estruture seu texto com introdução, metodologia, análise e conclusão, e escreva como se estivesse explicando para um colega. O ato de escrever força a clareza de pensamento e expõe lacunas no entendimento que a leitura passiva não revela. Use os artigos deste site como exemplo de formato e profundidade, e construa seu próprio acervo — com o tempo, você terá um repositório pessoal de conhecimento refinado que nenhum curso ou certificação substitui.

DAI & ADAI · 2026

DAI · PT

DAI: uma LLM de domínio específico com autoridade excluída do modelo, verificação por capacidades disjuntas e recibos recomputáveis

DAI (Decripte Artificial Intelligence) é uma LLM própria de domínio específico inserida em uma arquitetura de defesa autônoma governada. É uma instância da categoria proposta ADAI, definida no paper complementar. O traba…

Ler o paper →ADAI · PT

Inteligência Artificial de Defesa Autônoma: um arcabouço de envelope e evidência para LLMs governadas que agem sobre infraestrutura de produção

ADAI (Autonomous Defensive Artificial Intelligence) é uma categoria proposta de defesa cibernética autônoma governada. O arcabouço especifica perímetros defendidos, efeitos delimitados, reversão declarada e verificação p…

Ler o paper →

Todos Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

104 papers

AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Conectados: Modelagem de Ameaças, Vetores de Ataque e Mecanismos de Defesa (Estado da Arte em 1988)

A crescente adoção de técnicas de Inteligência Artificial (IA), notadamente sistemas especialistas, redes neurais artificiais e métodos de aprendizagem adaptativa, em ambientes computacionais conectados a redes acadêmicas e corporativas, introduz uma nova superfície de ataque ainda pouco explorada sob a ótica da segurança da informação. Em 1988, com a consolidação da ARPANET e a expansão de redes TCP/IP em universidades e centros de pesquisa, torna-se imperativo compreender como sistemas baseados em conhecimento podem ser manipulados, subvertidos ou explorados como vetores de comprometimento sistêmico. Este trabalho apresenta uma análise formal de ameaças contra sistemas de IA, considerando modelos adversariais realistas da década de 1980, incluindo acesso não autorizado via rede, manipulação de bases de conhecimento, injeção de regras maliciosas, exploração de vulnerabilidades em interpretadores LISP e PROLOG e ataques a processos de aprendizagem incremental. Propomos um modelo matemático para caracterização de integridade de conhecimento, definindo métricas de robustez frente à corrupção de regras. Implementamos um protótipo experimental em ambiente UNIX (BSD 4.3) com sistema especialista desenvolvido em Common LISP, submetido a cenários controlados de intrusão via ARPANET. Os resultados demonstram que pequenas alterações estruturais na base de regras podem induzir decisões incorretas com probabilidade significativamente elevada, evidenciando a necessidade de mecanismos de controle de integridade, auditoria e isolamento de execução. Discutimos contramedidas técnicas viáveis com tecnologias disponíveis até 1988, incluindo controles de acesso baseados em DAC, assinaturas criptográficas com RSA, verificação de checksums, segmentação de processos e monitoramento por syslog. Concluímos que a segurança de IA deve ser tratada como subdisciplina emergente da segurança computacional, exigindo formalização teórica e práticas operacionais específicas.

2010-12-18Read paper →AI Security

Segurança em Sistemas de Inteligência Artificial Simbólica: Modelagem de Ameaças, Vetores de Ataque e Controles Defensivos em Ambientes Unix e Redes ARPANET (1988)

A crescente adoção de sistemas de Inteligência Artificial (IA), particularmente sistemas especialistas baseados em regras e motores de inferência simbólica implementados em Lisp e Prolog, tem ampliado a superfície de ataque em ambientes acadêmicos, militares e corporativos. Em 1988, tais sistemas operam predominantemente em estações de trabalho dedicadas (Symbolics, Lisp Machines, VAX/VMS, Sun-3) e servidores Unix interconectados por redes TCP/IP e pela ARPANET, frequentemente compartilhando recursos por meio de NFS, rsh e correio eletrônico SMTP. Este trabalho apresenta uma análise sistemática de segurança aplicada a sistemas de IA simbólica, com foco em vetores de ataque realistas à luz dos eventos recentes, como o Worm de Morris (1988). Formalizamos um modelo de ameaça considerando adversários externos conectados via rede e insiders com acesso privilegiado. Demonstramos como vulnerabilidades clássicas — estouro de buffer em serviços de rede, exploração de confiança entre hosts, injeção de comandos em interpretadores Lisp/Prolog e manipulação de bases de conhecimento — podem comprometer a confidencialidade, integridade e disponibilidade de sistemas especialistas críticos. Propomos uma metodologia defensiva baseada em segmentação de rede, endurecimento de serviços, controle de acesso baseado em capacidades, auditoria de logs, verificação de integridade de bases de regras e uso criterioso de criptografia simétrica (DES) e assimétrica (RSA). A implementação foi avaliada em ambiente controlado com estações Sun-3 executando 4.3BSD e um sistema especialista médico prototípico. Os resultados indicam redução significativa da superfície de ataque mediante desativação de serviços inseguros, restrições em arquivos `.rhosts`, uso de `tcpdump` para monitoramento e aplicação de controles criptográficos. Concluímos que a segurança de IA em 1988 depende menos de algoritmos inteligentes e mais da robustez operacional do ambiente hospedeiro, exigindo integração entre engenharia de software, administração de sistemas e criptografia aplicada.

2010-09-21Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Distribuídos: Modelagem de Ameaças, Controle de Integridade e Detecção de Anomalias (1988)

A crescente adoção de técnicas de Inteligência Artificial (IA), especialmente sistemas especialistas, redes neurais artificiais e algoritmos genéticos, em ambientes governamentais, militares e corporativos durante a década de 1980 introduziu uma nova superfície de ataque nos sistemas computacionais. Embora a segurança da informação tradicional concentre-se em controle de acesso, autenticação e criptografia, sistemas baseados em conhecimento apresentam vetores adicionais de comprometimento, incluindo manipulação de bases de regras, envenenamento de dados de treinamento e exploração de mecanismos de inferência. Este trabalho investiga a segurança de sistemas de IA sob a perspectiva de 1988, fundamentando-se em modelos formais de controle de acesso (BELL; LAPADULA, 1973), integridade (BIBA, 1977), detecção de intrusão (ANDERSON, 1980; DENNING, 1987) e fundamentos de aprendizado computacional (RUMELHART; HINTON; WILLIAMS, 1986; HOPFIELD, 1982). Propomos um modelo formal de ameaça específico para sistemas especialistas e redes neurais, definindo propriedades de confidencialidade, integridade e disponibilidade adaptadas à representação simbólica e conexionista. Apresentamos uma metodologia prática para endurecimento (hardening) de sistemas especialistas implementados em Lisp e C sob UNIX BSD, incorporando trilhas de auditoria, verificação criptográfica de bases de conhecimento com DES (FIPS PUB 46, 1977) e detecção estatística de anomalias conforme o modelo de Denning. A avaliação experimental é conduzida em ambiente VAX/UNIX, demonstrando redução significativa de manipulação não autorizada de regras e maior robustez contra inserção maliciosa de fatos. Um estudo de caso envolvendo um sistema especialista médico ilustra riscos concretos de sabotagem semântica. Conclui-se que a segurança de IA requer integração entre modelos formais clássicos e mecanismos específicos de validação semântica e estatística, antecipando a necessidade de uma disciplina própria de segurança em sistemas inteligentes.

2010-09-21Read paper →AI Security

Modelos de Inteligência Artificial Aplicados à Segurança de Sistemas Computacionais: Detecção Adaptativa de Intrusões e Análise de Anomalias em Redes TCP/IP (1988)

A crescente interconexão de sistemas computacionais por meio de redes TCP/IP e ARPANET ampliou substancialmente a superfície de ataque das infraestruturas digitais no final da década de 1980. Incidentes recentes, como o Worm da Internet de 1988, demonstraram que mecanismos tradicionais baseados exclusivamente em controle de acesso e auditoria manual são insuficientes para responder a ataques automatizados e autorreplicantes. Neste contexto, técnicas de Inteligência Artificial (IA), particularmente sistemas especialistas e redes neurais artificiais com retropropagação, emergem como instrumentos promissores para a detecção automatizada de comportamentos anômalos e atividades maliciosas. Este trabalho apresenta um arcabouço teórico e experimental para aplicação de IA à segurança de sistemas, com foco em detecção de intrusões baseada em anomalias e correlação de eventos de auditoria em ambientes UNIX conectados via TCP/IP. Formalizamos o modelo de ameaça considerando atacantes externos explorando serviços de rede, usuários internos maliciosos e código autorreplicante. Propomos uma arquitetura híbrida combinando regras heurísticas derivadas de políticas de segurança com classificadores estatísticos e redes neurais multicamadas treinadas por retropropagação. A metodologia é implementada em ambiente UNIX BSD 4.3 com coleta de dados via `tcpdump` e logs de sistema, sendo avaliados cenários de uso legítimo e ataques simulados. Os resultados indicam que a abordagem adaptativa supera mecanismos puramente baseados em assinaturas estáticas ou limiares fixos, reduzindo falsos negativos em até 35% em comparação a técnicas estatísticas simples. Discutimos limitações computacionais da época, desafios de explicabilidade em sistemas neurais e implicações estratégicas para defesa em profundidade. Concluímos que a integração de IA à segurança computacional constitui direção estratégica para enfrentar ameaças automatizadas emergentes, estabelecendo fundamentos para sistemas de detecção autoadaptativos em redes distribuídas.

2010-09-21Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial Baseados em Redes Neurais e Sistemas Especialistas: Modelagem de Ameaças, Controles e Avaliação Experimental em Ambientes Multiusuário UNIX (1987)

A crescente adoção de sistemas de Inteligência Artificial (IA) — notadamente redes neurais artificiais e sistemas especialistas baseados em regras — em ambientes acadêmicos, militares e industriais tem introduzido uma nova superfície de ataque ainda pouco formalizada sob a ótica da segurança computacional. Em 1987, tais sistemas são tipicamente executados em estações de trabalho UNIX, VAX/VMS ou mainframes IBM, compartilhando recursos em redes locais Ethernet e, em muitos casos, conectados a redes acadêmicas como a ARPANET. Este artigo apresenta uma análise sistemática de segurança aplicada a sistemas de IA, considerando ameaças como manipulação de bases de conhecimento, envenenamento de dados de treinamento, exploração de estouros de buffer em implementações em C, abuso de privilégios em ambientes multiusuário e sabotagem lógica de inferência. Formalizamos um modelo de ameaça que incorpora adversários internos e externos, analisando a integridade de modelos neurais como um problema de preservação de parâmetros $\mathbf{w} \in \mathbb{R}^n$ sob acesso concorrente e potencialmente malicioso. Propomos uma metodologia de defesa em profundidade combinando controle de acesso discricionário (DAC), separação de privilégios, verificação criptográfica de integridade com funções hash como MD4, monitoramento por IDS baseado em assinaturas (Snort), auditoria de logs e uso de ferramentas como tcpdump e Nmap para análise de tráfego e exposição de serviços. Implementamos um protótipo de sistema especialista seguro em UNIX BSD 4.3 e avaliamos experimentalmente a resiliência a ataques simulados, incluindo injeção de regras, corrupção de arquivos e exploração de vulnerabilidades de memória. Os resultados demonstram redução significativa de impacto mediante aplicação sistemática de controles técnicos e operacionais. Concluímos discutindo implicações para ambientes críticos e direções futuras, incluindo mecanismos formais de verificação e monitoramento contínuo.

2010-06-24Read paper →AI Security

Segurança em Sistemas de Inteligência Artificial Baseados em Redes Neurais e Sistemas Especialistas: Modelagem de Ameaças, Exploração e Contramedidas no Contexto Computacional de 1987

Este trabalho investiga, sob a perspectiva da segurança da informação, os riscos, vetores de ataque e mecanismos de defesa associados a sistemas de Inteligência Artificial (IA) implementados até 1987, com ênfase em redes neurais artificiais, sistemas especialistas e mecanismos de inferência simbólica executados em ambientes UNIX e mainframes. Embora tradicionalmente analisados sob a ótica de desempenho e representação de conhecimento, tais sistemas introduzem superfícies de ataque inéditas: manipulação de bases de regras, envenenamento de conjuntos de treinamento, subversão de mecanismos de inferência e exploração de vulnerabilidades em código C associado a bibliotecas matemáticas e interpretadores LISP/PROLOG. Formalizamos um modelo de ameaça específico para IA, considerando adversários internos e externos com acesso parcial a dados, código-fonte ou canais de comunicação remota (e.g., TELNET, UUCP). Demonstramos como ataques clássicos, como buffer overflow em rotinas de entrada, podem ser combinados com perturbações estatísticas sutis em dados de treinamento para comprometer decisões automatizadas. Propomos uma metodologia de endurecimento (hardening) que integra controles tradicionais de segurança — controle de acesso, auditoria, verificação de integridade e criptografia simétrica — com mecanismos específicos para IA, incluindo validação estatística de dados, verificação formal de regras e análise de sensibilidade de pesos sinápticos. Implementamos um protótipo experimental em ambiente UNIX 4.3BSD com redes neurais do tipo perceptron multicamada treinadas por retropropagação, avaliando robustez sob cenários adversariais. Os resultados indicam que pequenas perturbações estruturadas ($\epsilon$-contaminação) podem aumentar a taxa de erro em até 37%, enquanto mecanismos de validação cruzada e controle de integridade reduzem o impacto para menos de 12%. Concluímos que a segurança de IA deve ser tratada como disciplina própria, integrando teoria estatística, engenharia de software segura e controles operacionais, sob pena de comprometer sistemas críticos em contextos militares, industriais e financeiros.

2010-06-24Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Distribuídos: Modelagem de Ameaças, Hardening e Detecção de Abusos (1987)

A crescente adoção de técnicas de Inteligência Artificial (IA) — notadamente sistemas especialistas, redes neurais artificiais do tipo perceptron multicamadas e mecanismos de inferência baseados em regras — em ambientes corporativos e governamentais ampliou significativamente a superfície de ataque das infraestruturas computacionais. Em 1987, com a consolidação de redes TCP/IP, estações UNIX interconectadas e serviços remotos, a proteção de ativos informacionais passa a incluir não apenas sistemas operacionais e bancos de dados, mas também bases de conhecimento, motores de inferência e modelos conexionistas. Este artigo apresenta uma abordagem sistemática para Segurança de IA, definindo um modelo formal de ameaças, vetores de ataque específicos contra sistemas especialistas e redes neurais, e propondo uma metodologia integrada de endurecimento (hardening), monitoramento e auditoria. Demonstramos como ataques podem explorar corrupção de bases de regras, manipulação de parâmetros de aprendizado, envenenamento de dados de treinamento e exfiltração de conhecimento codificado. Propomos mecanismos de controle de integridade baseados em funções hash criptográficas, autenticação forte com DES e RSA, segmentação de rede, uso de IDS baseados em assinaturas e trilhas de auditoria robustas. Implementamos um protótipo em ambiente UNIX com monitoramento via Snort e análise de tráfego com tcpdump, avaliando cenários de intrusão e manipulação de modelos. Resultados experimentais indicam que controles de integridade periódicos reduzem em 82% a persistência de modificações maliciosas em bases de regras, enquanto segmentação e filtragem diminuem em 67% a probabilidade de acesso não autorizado. Um estudo de caso em sistema especialista médico ilustra riscos operacionais concretos. Concluímos que a Segurança de IA deve ser tratada como disciplina específica dentro da segurança computacional, com controles dedicados ao ciclo de vida do conhecimento e à integridade algorítmica.

2010-06-24Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Inteligência Artificial: Modelagem Formal de Ameaças, Defesa em Profundidade e Resiliência Operacional

A crescente adoção de sistemas de aprendizado de máquina em domínios críticos introduziu novas superfícies de ataque que diferem substancialmente das observadas em sistemas de software tradicionais. Modelos estatísticos dependem fortemente de dados de treinamento, frequentemente provenientes de múltiplas fontes externas, e podem apresentar comportamentos inesperados quando confrontados com entradas manipuladas adversarialmente. Além disso, pipelines de treinamento e implantação integram diversos componentes de software, bibliotecas e artefatos de dados que ampliam a cadeia de suprimentos digital associada ao sistema. Nesse contexto, ataques como envenenamento de dados, inserção de backdoors, evasão adversarial, extração de modelos e inferência de associação tornaram‑se objeto de intensa investigação científica ao longo da última década. Embora a literatura tenha proposto diversas técnicas de mitigação isoladas, ainda existe lacuna significativa entre resultados teóricos da pesquisa em aprendizado de máquina adversarial e práticas consolidadas de engenharia de segurança utilizadas em ambientes operacionais. Este trabalho propõe uma arquitetura integrada de segurança para sistemas de inteligência artificial em produção, combinando modelagem formal de ameaças, técnicas de treinamento robusto, mecanismos criptográficos de integridade e controles operacionais alinhados a estruturas consolidadas de segurança da informação. Inicialmente formalizamos o sistema de IA como um conjunto composto por distribuição de dados, algoritmo de treinamento, modelo parametrizado e infraestrutura operacional. Em seguida, definimos um modelo parametrizado de adversário inspirado em jogos de segurança utilizados em criptografia moderna. A partir desse formalismo derivamos métricas de vantagem adversarial e condições sob as quais certas técnicas de defesa fornecem garantias parciais de robustez. Propomos ainda uma arquitetura em múltiplas camadas que inclui validação estatística de dados, treinamento adversarial baseado em otimização robusta, mecanismos de assinatura criptográfica de modelos, proteção de interfaces de inferência e integração com operações de segurança. A avaliação conceitual baseia‑se em experimentos reproduzíveis com conjuntos de dados amplamente utilizados na literatura, bem como em estudos de caso representativos dos setores financeiro e de saúde. Argumentamos que a segurança de sistemas de IA deve ser tratada como problema multidisciplinar que integra teoria adversarial, engenharia de software segura e governança organizacional. O trabalho contribui ao estabelecer um arcabouço conceitual que conecta formalização matemática de ameaças com controles práticos de segurança adotáveis em ambientes reais.

2010-04-30Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina: Modelo Formal de Ameaças, Defesa Multicamadas e Validação Empírica em Ambientes Corporativos

A crescente adoção de sistemas de aprendizado de máquina em ambientes corporativos ampliou significativamente a superfície de ataque das organizações. Modelos preditivos são hoje integrados a pipelines de dados, sistemas antifraude, motores de recomendação, plataformas de detecção de intrusão e mecanismos de automação operacional. Diferentemente de software tradicional, entretanto, modelos de aprendizado de máquina dependem fortemente da integridade estatística dos dados e apresentam comportamento altamente sensível a pequenas perturbações adversariais. Pesquisas recentes demonstraram que adversários podem manipular modelos por meio de ataques de evasão, envenenamento de dados e extração de modelos, explorando tanto a fase de treinamento quanto a fase de inferência. Apesar do avanço da literatura acadêmica em segurança de aprendizado de máquina, grande parte das abordagens permanece restrita a experimentos acadêmicos e carece de integração com arquiteturas operacionais reais utilizadas por centros de operações de segurança (SOC). Este artigo propõe uma arquitetura operacional denominada AISA (Architecture for Intelligent System Assurance), projetada para integrar mecanismos de defesa específicos para aprendizado de máquina ao ecossistema tradicional de segurança corporativa, incluindo IDS, SIEM e controles de integridade. Inicialmente formalizamos um modelo matemático de ameaças que captura ataques de evasão adversarial, manipulação de distribuição de treinamento e extração de modelos via APIs de inferência. Em seguida, apresentamos uma arquitetura de defesa multicamada composta por validação estatística de dados, treinamento robusto, monitoramento comportamental de inferência e integração com infraestrutura de segurança operacional. A implementação experimental foi realizada utilizando PyTorch, MLflow, Kubernetes, Suricata e Falco, permitindo monitoramento contínuo de pipelines de aprendizado de máquina em ambiente distribuído. Avaliamos a abordagem utilizando os conjuntos de dados CIFAR‑10 e NSL‑KDD, amplamente utilizados na literatura de segurança e aprendizado de máquina. Os resultados indicam redução significativa da taxa de sucesso de ataques adversariais quando comparado a abordagens isoladas de treinamento robusto, com impacto moderado na latência de inferência. Além disso, demonstramos em estudo de caso aplicado a um sistema antifraude corporativo que a arquitetura proposta permite detectar manipulações estatísticas e tentativas de extração de modelo em tempo quase real. Os resultados sugerem que a segurança de sistemas de aprendizado de máquina requer integração estrutural com práticas de engenharia de segurança e operações de monitoramento contínuo.

2010-04-17Read paper →AI Security

Arquitetura Operacional para Defesa e Resiliência de Sistemas de Inteligência Artificial contra Ataques Adversariais, Envenenamento de Dados e Comprometimento da Cadeia de Suprimentos

A incorporação de sistemas de aprendizado de máquina em ambientes operacionais críticos ampliou significativamente a superfície de ataque das infraestruturas digitais modernas. Diferentemente de sistemas determinísticos tradicionais, modelos de aprendizado de máquina apresentam comportamento estatístico dependente de dados, o que os torna suscetíveis a manipulações adversariais, ataques de envenenamento de dados e exploração de interfaces de inferência. Entre 2018 e 2022, a literatura acadêmica e incidentes observados em ambientes reais demonstraram que esses vetores podem comprometer tanto a integridade quanto a confidencialidade de modelos implantados em produção. Ataques de extração de modelo exploram APIs públicas para reconstruir funções de decisão; ataques adversariais exploram vulnerabilidades geométricas do espaço de características; e ataques de envenenamento manipulam dados de treinamento para induzir comportamentos maliciosos persistentes. Paralelamente, eventos de segurança amplamente documentados, como o comprometimento da cadeia de suprimentos no incidente SolarWinds (2020) e vulnerabilidades críticas em componentes amplamente distribuídos, como o Log4Shell (2021), evidenciaram a necessidade de proteger pipelines de software complexos — incluindo aqueles utilizados em fluxos de MLOps. Este trabalho propõe uma arquitetura operacional denominada AISec‑OpStack, projetada para integrar controles de segurança ao longo de todo o ciclo de vida de modelos de aprendizado de máquina, desde ingestão e validação de dados até monitoramento em tempo de execução. Formalizamos um modelo de ameaça que considera adversários com diferentes níveis de acesso — incluindo atacantes black‑box com acesso via API, insiders com acesso parcial a dados e agentes capazes de comprometer pipelines de integração contínua. A arquitetura proposta combina técnicas estatísticas de detecção de anomalias, treinamento adversarial, verificação criptográfica de artefatos e monitoramento comportamental integrado a ferramentas de operações de segurança (SOC). Avaliamos experimentalmente o modelo em ambientes controlados utilizando datasets CIFAR‑10 e UNSW‑NB15, medindo robustez adversarial, taxa de detecção de envenenamento e impacto operacional em latência. Os resultados indicam redução significativa da taxa de sucesso de ataques adversariais e melhoria substancial na resiliência do pipeline de treinamento, com overhead operacional limitado. Concluímos que abordagens integradas de segurança operacional são essenciais para mitigar riscos emergentes associados à adoção crescente de sistemas de aprendizado de máquina em infraestrutura crítica.

2010-03-21Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Defesa em Profundidade e Validação Empírica contra Ataques Adversariais e Envenenamento de Dados

A adoção de sistemas baseados em aprendizado de máquina (machine learning – ML) em aplicações críticas — incluindo detecção de fraude financeira, sistemas de recomendação, análise de tráfego de rede e automação industrial — introduziu novas superfícies de ataque que não são plenamente cobertas pelos modelos tradicionais de segurança da informação. Diferentemente de software determinístico, modelos estatísticos dependem fortemente da qualidade, integridade e distribuição dos dados utilizados durante o treinamento e a inferência. Essa dependência cria vetores de ataque específicos, como manipulação adversarial de entradas, extração de modelos e envenenamento de conjuntos de treinamento. Paralelamente, incidentes recentes envolvendo ataques à cadeia de suprimentos de software, como o comprometimento do SolarWinds Orion (2020) e a vulnerabilidade Log4Shell (CVE‑2021‑44228), demonstraram que pipelines automatizados de software e infraestrutura podem se tornar pontos críticos de comprometimento, afetando inclusive plataformas de MLOps e sistemas analíticos baseados em dados. Este trabalho apresenta uma arquitetura operacional integrada para proteção de sistemas de aprendizado de máquina em ambientes corporativos, combinando modelagem formal de ameaças, controles tradicionais de segurança cibernética e mecanismos estatísticos de validação de integridade de dados. Inicialmente formalizamos o modelo de aprendizado supervisionado como uma função paramétrica $f_\theta$ e caracterizamos adversários capazes de executar ataques de evasão e envenenamento sob restrições de acesso parcial ao pipeline de dados. Em seguida, definimos métricas formais de robustez adversarial e critérios estatísticos para detecção de anomalias na distribuição de dados utilizando divergência de Kullback–Leibler. A arquitetura proposta integra telemetria de ferramentas operacionais amplamente utilizadas em centros de operações de segurança (SOC), incluindo IDS, SIEM e monitoramento de logs, com mecanismos de robustificação de modelos e detecção de drift de dados. Para avaliar a abordagem, conduzimos experimentos utilizando os conjuntos de dados CIFAR‑10 e CIC‑IDS2017 em um ambiente controlado com ataques adversariais FGSM e PGD, bem como cenários simulados de envenenamento de dados. Os resultados indicam redução substancial na taxa de sucesso de ataques adversariais e melhoria significativa no tempo médio de detecção de manipulações de pipeline. A análise demonstra que a combinação de controles de segurança tradicionais com mecanismos específicos para aprendizado de máquina constitui um caminho operacional viável para aumentar a resiliência de sistemas inteligentes implantados em produção.

2009-12-29Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Distribuídos: Modelagem de Ameaças, Métodos de Proteção e Avaliação Experimental (1986)

compartimentalização de dados sensíveis. Apesar dessas limitações, a combinação de auditoria, criptografia e verificação de integridade fornece proteção substancial contra adulteração de bases de conhecimento. 9. Conclusion Demonstramos que sistemas de inteligência artificial distribuídos requerem mecanismos específicos de proteção além dos controles tradicionais de sistemas operacionais. A utilização de assinaturas digitais, auditoria sistemática e verificação de integridade reduz drasticamente o risco de manipulação maliciosa de bases de conhecimento e parâmetros de inferência. Essas té

2009-12-29Read paper →AI Security

Segurança em Sistemas de Inteligência Artificial Baseados em Redes Neurais e Sistemas Especialistas: Modelagem de Ameaças e Mecanismos de Defesa no Contexto Computacional de 1986

prescrever_penicilina (0.8) ``` Durante o experimento, um operador modificou o fator de confiança para 0.2. Essa alteração reduziu drasticamente a probabilidade de recomendação do tratamento correto. Sem mecanismos de verificação, a alteração permaneceu ativa por três dias. Com o sistema de verificação criptográfica e auditoria ativado, a modificação foi detectada em aproximadamente 11 minutos. 8. Discussion Os resultados demonstram que sistemas de IA possuem vulnerabilidades específicas associadas à integridade de estruturas internas de conhecimento. Diferentemente de programas convencion

2009-12-29Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial Baseados em Sistemas Especialistas e Redes Neurais: Modelagem Formal de Ameaças, Vetores de Ataque e Mecanismos de Defesa no Ambiente Computacional de 1986

Investigamos a segurança de sistemas de Inteligência Artificial (IA) no cenário tecnológico de 1986, com ênfase em sistemas especialistas baseados em regras e redes neurais artificiais. Ao contrário de aplicações procedimentais clássicas, tais sistemas concentram conhecimento explícito em bases de regras e em parâmetros numéricos ajustáveis, os quais, se alterados maliciosamente, podem degradar silenciosamente a integridade semântica das decisões. Propomos uma estrutura formal para modelar ameaças, definindo o sistema de IA como quádrupla S = (K, I, D, Θ), composta por base de conhecimento, motor de inferência, base de fatos e parâmetros treináveis. Incorporamos modelos de segurança clássicos (Bell–LaPadula, Biba, Lattice de Denning), e formalizamos integridade semântica por meio de invariantes sobre K e métricas de estabilidade sobre Θ. No âmbito criptográfico, discutimos mecanismos de integridade e autenticação de artefatos (arquivos de regras, dados de treinamento e pesos), utilizando MAC baseado em DES (FIPS PUB 113), distribuição de chaves por paradigmas de criptografia assimétrica (Diffie–Hellman; Needham–Schroeder) e assinaturas digitais RSA sobre resumos autenticados. Em ambientes multiusuário UNIX (4.2/4.3BSD) e VAX/VMS, delineamos políticas de controle de acesso alinhadas a privilégio mínimo, separação de funções e revisão por pares. Recorremos a auditoria de host (utmp/wtmp, accounting) e a analisadores de protocolo dedicados disponíveis na época para identificação de sessões remotas anômalas (Telnet, FTP). Complementamos com verificação estatística de deriva de parâmetros (médias/variâncias; testes de hipóteses clássicos) e checagens lógicas sobre a base de regras (consistência, subsunção, detecção de ciclos). Conduzimos avaliação experimental com um protótipo em LISP sob 4.3BSD e um módulo de rede neural (Hopfield e perceptron multicamadas com retropropagação), simulando inserção de regras falsas, perturbação de pesos e corrupção de dados. Os resultados indicam que: (i) políticas de integridade do tipo Biba, associadas a MACs DES e assinaturas RSA, detectam modificações não autorizadas em K com alta confiabilidade; (ii) auditoria sistemática de host e análise de sessões remotas identificam acessos suspeitos de forma tempestiva; (iii) controle de acesso e separação de funções reduzem significativamente a superfície de ataque interno. Concluímos que, em 1986, uma combinação de modelos formais de integridade, mecanismos criptográficos padronizados e práticas robustas de administração de sistemas oferece base sólida para proteger a integridade semântica de sistemas de IA em ambientes interconectados por TCP/IP.

2009-10-01Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial Baseados em Regras e Redes Neurais em Ambientes UNIX e ARPANET (1986)

A consolidação dos sistemas especialistas e dos modelos conexionistas na primeira metade da década de 1980 ocorreu em paralelo à difusão de sistemas multiusuário UNIX e à interconexão por TCP/IP na ARPANET. Nesse contexto, a proteção de ativos particulares da Inteligência Artificial — regras de produção, fatores de certeza, fatos, pesos sinápticos e estruturas de controle de inferência — torna-se um requisito central de engenharia de segurança. Argumentamos que, em 1986, os critérios de avaliação de segurança vigentes (TCSEC/Orange Book) e os modelos clássicos (Bell-LaPadula para confidencialidade e Biba para integridade) não capturam integralmente a integridade semântica exigida por sistemas baseados em conhecimento. Propomos, assim, um arcabouço técnico compatível com o estado da arte de 1986, estruturado em quatro camadas: (i) controle de acesso rigoroso no UNIX 4.2/4.3BSD e VAX/VMS, com procedimentos de grupos, UIDs e isolamento por chroot(2); (ii) verificação criptográfica de integridade por CBC-MAC com DES, conforme FIPS PUB 113 (1985); (iii) auditoria sistemática com syslog e correlação por scripts de análise; e (iv) validação estatística e semântica das saídas (incluindo teste $\chi^2$ aplicado a distribuições de hipóteses e inspeção de energia em redes de Hopfield). Formalizamos o problema de adulteração silenciosa como a existência de $K' \neq K$ tal que $I(K',D) \neq I(K,D)$ sem alarmes de auditoria, e demonstramos, por modelagem probabilística, que a combinação de MAC criptográfico com validação estatística reduz substancialmente a probabilidade de adulterações não detectadas. Implementamos um protótipo em UNIX 4.2BSD sobre VAX-11/780, com base de conhecimento em formato textual e motor de inferência em C, acoplado a um módulo de verificação CBC-MAC e a um pipeline de auditoria. Em 120 simulações de ataque interno controlado (modificação de regras e de pesos sinápticos; interceptação por FTP em trânsito), medimos taxas de detecção, tempos médios de alerta e overhead computacional. Os resultados indicam que a proteção multicamada eleva a taxa de detecção para acima de 90% com sobrecarga moderada de CPU (≈5–7%), e que a inspeção semântica detecta desvios sutilmente induzidos na distribuição de hipóteses e nos mínimos de energia de Hopfield. Discutimos, à luz dos modelos Bell-LaPadula e Biba, a necessidade de granularidade fina de controle sobre regras, do fortalecimento de autenticação em rede com protocolos clássicos (Needham–Schroeder; Lamport), e da aplicação de técnicas de redundância lógica (N-version) na curadoria de bases de conhecimento. Concluímos que segurança de IA constitui disciplina distinta no ecossistema de 1986 e apresentamos recomendações operacionais compatíveis com UNIX/ARPANET e com a normatização NBS/FIPS vigente.

2009-10-01Read paper →AI Security

Segurança em Sistemas de Inteligência Artificial Baseados em Conhecimento: Modelagem Formal de Ameaças, Controles Criptográficos e Detecção de Intrusão em Ambientes Distribuídos (1986)

rulebasedexperts0000unse. Acesso em: 13 abr. 2026. CCITT. Recommendation X.25: Interface between Data Terminal Equipment (DTE) and Data Circuit-terminating Equipment (DCE) for Terminals Operating in the Packet Mode on Public Data Networks. Geneva: ITU, 1980. Disponível em: https://www.itu.int/rec/T-REC-X.25-198011-S. Acesso em: 13 abr. 2026. CERF, V. G.; KAHN, R. E. A Protocol for Packet Network Intercommunication. IEEE Transactions on Communications, v. 22, n. 5, p. 637–648, 1974. Disponível em: https://ieeexplore.ieee.org/document/1092259. Acesso em: 13 abr. 2026. DENNING, D. E. A Lattice

2009-10-01Read paper →AI Security

Arquiteturas Seguras para Sistemas Baseados em Inteligência Artificial: Modelagem de Ameaças, Ataques Adversariais e Estratégias Operacionais de Defesa (Contexto Tecnológico até 2022)

A crescente adoção de sistemas baseados em Inteligência Artificial (IA) em infraestruturas críticas ampliou significativamente a superfície de ataque de organizações públicas e privadas. Modelos de Machine Learning e Deep Learning são atualmente empregados em aplicações sensíveis, incluindo detecção de fraude financeira, análise automatizada de malware, autenticação biométrica, detecção de intrusões em redes e suporte à decisão em ambientes clínicos. Entretanto, tais sistemas introduzem uma classe distinta de vulnerabilidades derivadas de sua dependência de dados, de processos de treinamento e de pipelines de engenharia de dados. Diferentemente de software tradicional, cujo comportamento é explicitamente programado, sistemas de aprendizado de máquina emergem estatisticamente de conjuntos de dados, criando vetores de ataque como envenenamento de dados (data poisoning), ataques adversariais de evasão, extração de modelos por meio de APIs e ataques de inferência de pertencimento. Paralelamente, a crescente industrialização de pipelines MLOps, a utilização de bibliotecas open source e a dependência de datasets públicos ampliam riscos associados à cadeia de suprimentos de software. Neste trabalho apresentamos uma análise sistemática da segurança de sistemas de IA sob a perspectiva operacional de defesa cibernética. Inicialmente formalizamos um modelo de ameaças específico para arquiteturas de aprendizado de máquina, considerando adversários com diferentes níveis de acesso, incluindo cenários black‑box, insider e supply chain. Em seguida propomos uma metodologia de defesa em profundidade composta por cinco camadas: hardening de dados, treinamento robusto contra ataques adversariais, monitoramento operacional de inferência, mitigação de extração de modelos e proteção criptográfica do pipeline de desenvolvimento. Implementamos experimentalmente ataques adversariais clássicos, incluindo FGSM, PGD e DeepFool, bem como ataques de inferência utilizando modelos sombra. A avaliação empírica demonstra reduções substanciais na taxa de sucesso de ataques quando técnicas de robustez e controles operacionais são aplicados de forma combinada. Adicionalmente apresentamos um estudo de caso em um cenário de detecção de fraude financeira, demonstrando implicações práticas para ambientes corporativos. Nossos resultados indicam que a segurança de sistemas de IA requer integração entre engenharia de software segura, ciência de dados robusta e práticas maduras de segurança da informação, particularmente em ambientes sujeitos a ameaças persistentes e ataques de cadeia de suprimentos.

2009-09-04Read paper →AI Security

Segurança de Sistemas Baseados em Aprendizado de Máquina: Modelagem de Ameaças, Ataques Adversariais e Controles Operacionais em Ambientes Corporativos

A adoção de sistemas baseados em aprendizado de máquina (Machine Learning – ML) em processos corporativos críticos ampliou significativamente a superfície de ataque das organizações. Modelos de ML são atualmente empregados em detecção de fraude, classificação de malware, sistemas de recomendação, análise de risco de crédito e automação de resposta a incidentes. Entretanto, diferentemente de sistemas tradicionais de software, pipelines de ML introduzem novas dependências relacionadas a dados de treinamento, modelos parametrizados e infraestrutura de experimentação, criando vetores específicos de ataque. Pesquisas recentes demonstram que modelos podem ser manipulados por meio de exemplos adversariais, ataques de extração de modelo, inferência de pertencimento e envenenamento de dados, comprometendo tanto a confidencialidade quanto a integridade das decisões automatizadas. Em ambientes corporativos, esses riscos são ampliados pela integração com pipelines de DevOps, infraestrutura em nuvem e plataformas de deployment automatizado. Este trabalho investiga como ameaças direcionadas a sistemas de ML se manifestam em ambientes operacionais e propõe uma metodologia de Secure MLOps para mitigação desses riscos. Inicialmente formalizamos um modelo de ameaças para pipelines de ML implantados em arquiteturas modernas baseadas em contêineres e APIs de inferência. Em seguida, analisamos ataques adversariais clássicos, incluindo Fast Gradient Sign Method (FGSM) e Projected Gradient Descent (PGD), bem como cenários de envenenamento de dados em cadeias de suprimento de modelos. A partir dessa análise, propomos uma arquitetura de controle composta por governança de dados, hardening de pipelines, testes adversariais sistemáticos, monitoramento de deriva estatística e mecanismos de resposta a incidentes. Implementamos experimentalmente esse framework em um ambiente Kubernetes utilizando ferramentas amplamente adotadas na indústria, incluindo Kubeflow, MLflow e sistemas de observabilidade baseados em Elastic Stack. Resultados experimentais com o dataset CIFAR‑10 demonstram degradação significativa de desempenho sob ataques adversariais, além de vulnerabilidade mensurável a envenenamento de dados. Os resultados indicam que controles tradicionais de segurança, como WAFs e EDRs, são insuficientes para detectar ataques semânticos contra modelos. Concluímos que a segurança de sistemas de ML exige integração entre práticas de engenharia de dados, segurança de software e governança de risco, bem como a incorporação explícita de modelos de ML na arquitetura de segurança corporativa.

2009-08-28Read paper →AI Security

Arquiteturas Resilientes de Segurança para Sistemas de Inteligência Artificial em Produção: Modelagem de Ameaças, Hardening Operacional e Mitigação de Ataques Adversariais

A crescente incorporação de sistemas de Inteligência Artificial (IA), especialmente modelos de aprendizado de máquina, em processos críticos de decisão ampliou significativamente a superfície de ataque das infraestruturas digitais. Diferentemente de aplicações tradicionais de software, modelos de aprendizado estatístico apresentam propriedades matemáticas específicas — como sensibilidade a perturbações adversariais e dependência de grandes volumes de dados de treinamento — que introduzem novas classes de riscos de segurança e privacidade. Entre esses riscos destacam‑se ataques de evasão adversarial, envenenamento de dados, extração de modelos e inversão de atributos sensíveis, os quais podem comprometer tanto a integridade quanto a confidencialidade de sistemas baseados em IA. Paralelamente, incidentes recentes de segurança cibernética evidenciaram a relevância de ataques à cadeia de suprimentos de software e pipelines de integração contínua, reforçando a necessidade de abordagens integradas de segurança que considerem simultaneamente aspectos algorítmicos, operacionais e de infraestrutura. Neste trabalho apresentamos uma arquitetura de segurança multicamada para sistemas de IA implantados em ambientes de produção. A proposta integra mecanismos de robustez adversarial, controles de infraestrutura alinhados a arquiteturas de Zero Trust e mecanismos de monitoramento estatístico contínuo. Formalizamos um modelo de ameaça para APIs de inferência acessadas em regime black‑box e definimos métricas quantitativas para avaliar risco de extração e evasão. Em seguida, implementamos um protótipo operacional utilizando tecnologias amplamente empregadas em pipelines MLOps baseados em contêineres. O ambiente experimental utiliza PyTorch para treinamento de modelos, Kubernetes para orquestração de serviços e ferramentas de observabilidade para detecção de anomalias operacionais. A avaliação experimental utiliza o conjunto de dados CIFAR‑10 e considera ataques adversariais clássicos como Fast Gradient Sign Method (FGSM) e Projected Gradient Descent (PGD). Os resultados indicam que a combinação de treinamento adversarial, limitação adaptativa de consultas e monitoramento estatístico reduz significativamente a taxa de sucesso de ataques adversariais e de extração de modelos. Por fim, apresentamos um estudo de caso em um sistema antifraude financeiro, demonstrando a aplicabilidade prática da arquitetura proposta em ambientes de alta escala operacional. Os resultados reforçam a necessidade de abordagens integradas de segurança que combinem fundamentos de aprendizado de máquina robusto com práticas maduras de segurança da informação.

2009-08-21Read paper →AI Security

Arquitetura Integrada de Defesa para Sistemas Baseados em Inteligência Artificial: Modelagem Formal de Ameaças, Detecção de Ataques Adversariais e Monitoramento Operacional em Ambientes de Produção

A adoção de sistemas baseados em aprendizado de máquina em ambientes corporativos transformou modelos de inteligência artificial em componentes críticos de decisão operacional. Esses sistemas passaram a atuar em detecção de fraude, classificação de malware, triagem médica assistida por imagem, sistemas de recomendação e análise comportamental em plataformas digitais. Contudo, diferentemente de softwares tradicionais, modelos de aprendizado são funções paramétricas treinadas a partir de dados, o que introduz superfícies de ataque adicionais associadas à manipulação de entradas, contaminação do processo de treinamento e exploração de interfaces de inferência. A literatura recente documenta múltiplas classes de ataques contra sistemas de aprendizado de máquina, incluindo exemplos adversariais, envenenamento de dados, extração de modelo e inferência de membros. Paralelamente, a integração desses sistemas a pipelines DevOps e infraestruturas baseadas em contêineres introduz riscos adicionais relacionados à cadeia de suprimentos de software e modelos. Este trabalho propõe uma arquitetura integrada de defesa para sistemas de inteligência artificial implantados em produção, combinando modelagem formal de ameaças, mecanismos estatísticos de detecção de anomalias, verificação criptográfica de integridade e monitoramento operacional contínuo. Formalizamos o conceito de risco adversarial agregado como função de probabilidades condicionais associadas a diferentes classes de ataques sob um modelo parametrizado de adversário. Em seguida, introduzimos um detector híbrido baseado na distância de Mahalanobis e no algoritmo Isolation Forest aplicado a representações latentes do modelo. Complementarmente, propomos um mecanismo de verificação de integridade que combina hashing criptográfico, assinatura digital e testes comportamentais baseados em divergência de distribuição de saída. A arquitetura é integrada a um pipeline operacional baseado em Kubernetes, com telemetria correlacionada a técnicas descritas em estruturas como MITRE ATT&CK e MITRE ATLAS. Avaliações experimentais em cenários controlados indicam aumento consistente de robustez empírica contra ataques de evasão e melhoria na detecção de alterações não autorizadas em artefatos de modelo. A análise também evidencia impactos moderados de latência quando mecanismos de defesa são adequadamente dimensionados. Os resultados sugerem que abordagens que combinam controles criptográficos, análise estatística e monitoramento operacional oferecem um caminho pragmaticamente viável para aumentar a segurança de sistemas de inteligência artificial implantados em produção.

2008-07-15Read paper →AI Security

ARQUITETURA OPERACIONAL PARA A SEGURANÇA DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL: MODELAGEM DE AMEAÇAS, DEFESA EM PROFUNDIDADE E AVALIAÇÃO EMPÍRICA EM AMBIENTES CRÍTICOS

ARQUITETURA OPERACIONAL PARA A SEGURANÇA DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL: MODELAGEM DE AMEAÇAS, DEFESA EM PROFUNDIDADE E AVALIAÇÃO EMPÍRICA EM AMBIENTES CRÍTICOS RESUMO: A rápida integração de sistemas de inteligência artificial (IA) em infraestruturas críticas introduziu uma nova classe de vulnerabilidades que os modelos convencionais de segurança da informação não conseguem capturar adequadamente. Diferentemente do software determinístico, os modelos de aprendizado de máquina dependem fortemente de dados de treinamento e distribuições estatísticas, criando superfícies de ataque relacionadas à contaminação de dados, ao abuso de interfaces de inferência e ao comprometimento da cadeia de suprimentos de dados. Este estudo propõe uma arquitetura operacional para a segurança de sistemas de IA com base no princípio de Defense in Depth, integrando modelagem formal de ameaças, mecanismos estatísticos para detectar contaminação de dados e controles operacionais integrados a um Security Operations Center (SOC). Primeiramente, formalizamos um modelo matemático que caracteriza as propriedades de segurança desejadas em pipelines de aprendizado supervisionado, a saber, a integridade estatística dos dados e a confidencialidade paramétrica dos modelos. Em seguida, introduzimos um mecanismo de detecção de contaminação de dados baseado em divergência de Kullback–Leibler e análise de influência de amostras, combinado com uma estratégia adaptativa de limitação da taxa de consultas para mitigar ataques de extração de modelos. A arquitetura proposta integra controles de segurança em todo o ciclo de vida do modelo de IA, incluindo ingestão de dados, treinamento, empacotamento e implantação em ambientes de orquestração. A implementação utiliza uma stack tecnológica moderna composta por Kubernetes, PyTorch, MLflow, Suricata e integração com um SIEM corporativo. Avaliamos empiricamente essa abordagem em um ambiente de laboratório representativo de infraestrutura crítica, utilizando conjuntos de dados públicos de segurança e cenários adversariais controlados. Os resultados mostraram uma redução substancial na eficácia de ataques adversariais e ataques de extração de modelos, com impacto operacional moderado em termos de latência e consumo de recursos computacionais. Um estudo de caso em um cenário de detecção de fraudes demonstra a viabilidade da arquitetura em um ambiente operacional. Também discutimos implicações para a governança de IA e o alinhamento com marcos normativos emergentes, como o NIST AI Risk Management Framework. Esses resultados sugerem que a combinação de mecanismos estatísticos com controles operacionais convencionais é uma estratégia eficaz para reduzir os riscos associados à crescente adoção de IA em ambientes críticos.

2008-07-08Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Defesa em Profundidade e Avaliação Empírica em Ambientes Críticos

A rápida incorporação de sistemas de inteligência artificial (IA) em infraestruturas críticas introduziu novas classes de vulnerabilidades que não são plenamente capturadas por modelos tradicionais de segurança da informação. Diferentemente de software determinístico, modelos de aprendizado de máquina dependem fortemente de dados de treinamento e de distribuições estatísticas, criando superfícies de ataque associadas a manipulação de dados, exploração de interfaces de inferência e comprometimento da cadeia de suprimentos de dados. Este trabalho propõe uma arquitetura operacional para proteção de sistemas de IA baseada em princípios de defesa em profundidade, integrando modelagem formal de ameaças, mecanismos estatísticos de detecção de manipulação de dados e controles operacionais integrados a centros de operações de segurança (SOC). Inicialmente formalizamos um modelo matemático para caracterizar propriedades desejáveis de segurança em pipelines de aprendizado supervisionado, incluindo integridade estatística de dados e confidencialidade paramétrica de modelos. Em seguida introduzimos mecanismos de detecção de envenenamento de dados baseados em divergência de Kullback–Leibler e análise de influência de amostras, combinados com estratégias de limitação adaptativa de consultas para mitigar ataques de extração de modelos. A arquitetura proposta integra controles de segurança ao ciclo completo de vida de modelos de IA, incluindo ingestão de dados, treinamento, empacotamento e implantação em ambientes orquestrados. A implementação experimental utiliza uma pilha tecnológica contemporânea composta por Kubernetes, PyTorch, MLflow, Suricata e integração com SIEM corporativo. Avaliamos empiricamente a abordagem em um ambiente de laboratório representando infraestrutura crítica, utilizando datasets públicos de segurança e cenários adversariais controlados. Os resultados indicam redução significativa na eficácia de ataques adversariais e de extração de modelo, com impacto operacional moderado em termos de latência e consumo de recursos computacionais. Um estudo de caso em cenário de detecção antifraude demonstra a viabilidade da arquitetura em contextos operacionais reais. Discutimos ainda implicações para governança de IA e alinhamento com estruturas normativas emergentes, como o NIST AI Risk Management Framework. Os resultados sugerem que mecanismos estatísticos combinados com controles operacionais tradicionais constituem uma estratégia eficaz para reduzir riscos associados à adoção crescente de IA em ambientes críticos.

2008-07-08Read paper →AI Security

Título: Arquitetura Operacional para a Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Defense in Depth e Avaliação Empírica em Ambientes Críticos

Título: Arquitetura Operacional para a Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Defense in Depth e Avaliação Empírica em Ambientes Críticos Resumo: A rápida integração de sistemas de inteligência artificial (AI) em infraestruturas críticas introduziu uma nova classe de vulnerabilidades que os modelos convencionais de segurança da informação não conseguem capturar adequadamente. Diferentemente do software determinístico, os modelos de machine learning dependem fortemente de dados de treinamento e de distribuições estatísticas, criando superfícies de ataque relacionadas a data poisoning, abuso de interfaces de inferência e comprometimento da cadeia de suprimentos de dados. Este estudo propõe uma arquitetura operacional para a segurança de sistemas de AI com base no princípio de Defense in Depth, integrando modelagem formal de ameaças, mecanismos estatísticos para detectar data poisoning e controles operacionais incorporados a um Security Operations Center (SOC). Primeiro, formalizamos um modelo matemático que caracteriza as propriedades de segurança desejadas em pipelines de aprendizagem supervisionada, nomeadamente a integridade estatística dos dados e a confidencialidade paramétrica dos modelos. Em seguida, introduzimos um mecanismo de detecção de data poisoning baseado em divergência de Kullback–Leibler e análise de influência de amostras, combinado com uma estratégia adaptativa de limitação da taxa de consultas para mitigar ataques de model extraction. A arquitetura proposta integra controles de segurança ao longo de todo o ciclo de vida do modelo de AI, incluindo ingestão de dados, treinamento, empacotamento e implantação em ambientes de orquestração. A implementação utiliza uma stack tecnológica moderna composta por Kubernetes, PyTorch, MLflow, Suricata e integração com um SIEM corporativo. Avaliamos empiricamente essa abordagem em um ambiente de laboratório representativo de infraestrutura crítica, usando conjuntos de dados públicos de segurança e cenários adversariais controlados. Os resultados mostraram uma redução substancial na efetividade de ataques adversariais e de model extraction, com impacto operacional moderado em termos de latência e consumo de recursos computacionais. Um estudo de caso em um cenário de detecção de fraude demonstra a viabilidade da arquitetura em um ambiente operacional. Também discutimos implicações para a governança de AI e o alinhamento com frameworks normativos emergentes, como o NIST AI Risk Management Framework. Esses resultados sugerem que a combinação de mecanismos estatísticos com controles operacionais convencionais é uma estratégia eficaz para reduzir os riscos associados à crescente adoção de AI em ambientes críticos.

2008-07-08Read paper →AI Security

Uma Arquitetura Integrada de Segurança para Sistemas de Inteligência Artificial: Modelagem Formal de Ameaças, Detecção de Ataques Adversariais e Hardening Operacional em Ambientes Corporativos

A rápida incorporação de sistemas de Inteligência Artificial (IA) em infraestruturas corporativas críticas introduziu uma nova classe de riscos de segurança que transcende modelos tradicionais de defesa cibernética. Modelos de aprendizado profundo, serviços de inferência expostos via API e, mais recentemente, Large Language Models (LLMs) passaram a integrar pipelines operacionais responsáveis por decisões sensíveis, incluindo detecção de fraude, classificação automatizada e resposta a incidentes. Entretanto, pesquisas recentes demonstram que tais sistemas apresentam vulnerabilidades estruturais, incluindo ataques adversariais, extração de modelo, inferência de pertencimento e envenenamento de dados. Além disso, o ecossistema operacional que sustenta aplicações de IA permanece sujeito a ameaças tradicionais de infraestrutura, ampliando a superfície de ataque. Neste trabalho propomos uma arquitetura integrada de segurança para sistemas de IA que combina modelagem formal de ameaças, mecanismos de detecção de ataques adversariais e práticas de hardening operacional voltadas a ambientes corporativos. Primeiramente, desenvolvemos um modelo de ameaça unificado que integra as taxonomias MITRE ATT&CK e MITRE ATLAS, permitindo mapear vetores de ataque específicos de aprendizado de máquina dentro de frameworks consolidados de defesa cibernética. Em seguida, formalizamos o problema de robustez adversarial sob uma perspectiva de otimização min–max e introduzimos um mecanismo de detecção baseado em entropia de saída e estimativa de dimensionalidade intrínseca local para identificar entradas potencialmente adversariais em tempo de inferência. A arquitetura proposta também incorpora monitoramento de drift estatístico, validação de integridade do pipeline de dados e integração com plataformas SIEM para resposta operacional. A implementação foi realizada utilizando PyTorch, Suricata, Elastic Stack e infraestrutura Kubernetes, refletindo práticas amplamente adotadas em ambientes corporativos até 2023. A avaliação experimental foi conduzida em cenários de visão computacional e detecção de intrusão utilizando os conjuntos de dados CIFAR‑10 e UNSW‑NB15. Os resultados indicam melhoria substancial na robustez contra ataques FGSM e PGD, bem como redução significativa no tempo médio de resposta operacional em centros de operações de segurança (SOC). Os resultados sugerem que abordagens isoladas de robustez adversarial são insuficientes e que a segurança de IA deve ser tratada como um problema sistêmico que integra métodos matemáticos, engenharia de software segura e monitoramento contínuo de infraestrutura.

2008-07-01Read paper →