Research / Paper Files

Paper Files

Os Paper Files são uma prática pessoal de estudo contínuo em cibersegurança que aplica o método científico como ferramenta de aprendizado. Cada artigo é escrito não com o objetivo de publicação acadêmica, mas como exercício deliberado para afiar o machado — aprofundar o conhecimento sobre temas específicos, organizar ideias com rigor e observar o desenvolvimento do entendimento sobre determinados assuntos ao longo do tempo. É o equivalente intelectual de um diário de treino: cada entrada registra o que foi estudado, como foi analisado e que conclusões emergiram.

Recomendo fortemente que profissionais de segurança adotem este método. Escolha um tema que deseja dominar, pesquise fontes primárias (RFCs, papers, documentação oficial), estruture seu texto com introdução, metodologia, análise e conclusão, e escreva como se estivesse explicando para um colega. O ato de escrever força a clareza de pensamento e expõe lacunas no entendimento que a leitura passiva não revela. Use os artigos deste site como exemplo de formato e profundidade, e construa seu próprio acervo — com o tempo, você terá um repositório pessoal de conhecimento refinado que nenhum curso ou certificação substitui.

DAI & ADAI · 2026

DAI · PT

DAI: uma LLM de domínio específico com autoridade excluída do modelo, verificação por capacidades disjuntas e recibos recomputáveis

DAI (Decripte Artificial Intelligence) é uma LLM própria de domínio específico inserida em uma arquitetura de defesa autônoma governada. É uma instância da categoria proposta ADAI, definida no paper complementar. O traba…

Ler o paper →ADAI · PT

Inteligência Artificial de Defesa Autônoma: um arcabouço de envelope e evidência para LLMs governadas que agem sobre infraestrutura de produção

ADAI (Autonomous Defensive Artificial Intelligence) é uma categoria proposta de defesa cibernética autônoma governada. O arcabouço especifica perímetros defendidos, efeitos delimitados, reversão declarada e verificação p…

Ler o paper →

Todos Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

104 papers

AI Security

Segurança de IA em Sistemas Ciberfísicos e Sociais: Modelagem de Ameaças, Robustez Adversarial, Governança e Defesa Prática em 2026

A segurança de inteligência artificial tornou-se um eixo central da cibersegurança em 2026, não apenas porque modelos de linguagem e modelos multimodais passaram a mediar decisões críticas, mas também porque sua superfície de ataque se expandiu para incluir cadeias de suprimento de dados, integração com ferramentas, memória persistente, agentes autônomos, orquestração via APIs e dependência de provedores externos. Este artigo investiga a segurança de IA sob uma perspectiva operacional, propondo uma taxonomia de ameaças, uma formalização de risco e uma metodologia defensiva aplicável a ambientes corporativos, governamentais e industriais. O foco é duplo: proteger sistemas que utilizam IA e empregar IA como componente de defesa em arquiteturas modernas de detecção, resposta e governança. Com base em literatura consolidada, guias do NIST, OWASP, MITRE ATLAS e práticas observadas em incidentes reais até 2026, analisamos vetores como prompt injection, data poisoning, exfiltração indireta por ferramentas, jailbreaks, inferência de membros, model extraction, supply chain attacks em pipelines de MLOps e abuso de agentes com permissões excessivas. Apresentamos um modelo de ameaça que relaciona ativos, fronteiras de confiança, capacidades do adversário e impacto operacional, com métricas inspiradas em risco esperado e custo de mitigação. Em seguida, descrevemos uma metodologia composta por camadas de prevenção, detecção e contenção: hardening de prompts e contextos, isolamento de ferramentas, validação semântica de entradas e saídas, monitoramento de comportamento, red teaming contínuo, trilhas de auditoria e governança de ciclo de vida. A implementação proposta combina controles de engenharia, telemetria e validação automatizada, integrando OpenTelemetry, regras de policy-as-code, scanners de prompts e pipelines de teste adversarial. A avaliação experimental, baseada em cenários reproduzíveis, mostra reduções mensuráveis em taxa de sucesso de ataques de injeção e vazamento de dados, além de ganhos de rastreabilidade e resposta. Por fim, discutimos implicações para zero trust, CNAPP, eBPF, segurança de agentes e governança de IA, concluindo que segurança de IA em 2026 exige disciplina técnica equivalente à aplicada a identidade, rede e software, porém com atenção especial à natureza probabilística, contextual e não determinística dos modelos.

2026-05-10Read paper →AI Security

Segurança de IA em Ambientes Cibernéticos: Modelagem de Ameaças, Defesa em Camadas e Avaliação Experimental de Sistemas Baseados em LLMs, RAG e Agentes Autônomos

Este artigo examina a segurança de sistemas de inteligência artificial aplicados ao domínio cibernético, com foco em modelos de linguagem de grande porte, arquiteturas de geração aumentada por recuperação, agentes autônomos e integrações com pipelines de SOC, SIEM e SOAR. Em 2026, a superfície de ataque de IA deixou de ser um tema puramente teórico e passou a representar um vetor operacional de risco com impacto direto em confidencialidade, integridade, disponibilidade e responsabilidade de decisão. O trabalho propõe uma taxonomia de ameaças que cobre envenenamento de dados, prompt injection direta e indireta, exfiltração via contexto, jailbreaks, supply chain de modelos, vazamento de segredo por embeddings, abuso de ferramentas, fraudes de identidade sintética e ataques a governança e observabilidade. A metodologia combina controles preventivos, detectivos e corretivos, inspirados em princípios de zero trust, isolamento de ferramentas, filtragem contextual, políticas de execução, avaliação adversarial contínua e monitoramento orientado a risco. A formalização do problema introduz métricas práticas para risco de comprometimento, taxa de sucesso de injeções e custo de contenção, enquanto a implementação descreve uma arquitetura de referência com FastAPI, guardrails, contenção por contêiner, inspeção de entradas e registros imutáveis. A avaliação experimental, baseada em cenários reproduzíveis, demonstra que a redução do raio de blast exige combinação de políticas de autorização granular, saneamento de contexto e limites de execução, e não apenas filtragem de prompts. Um estudo de caso em um assistente de triagem de alertas em SOC mostra como um único prompt malicioso pode induzir ações indevidas em ferramentas conectadas, inclusive busca em repositórios internos e envio de tickets não autorizados. Conclui-se que segurança de IA em cibersegurança deve ser tratada como disciplina operacional própria, com práticas equivalentes às de engenharia segura de software, resposta a incidentes e gestão de risco, porém adaptadas à natureza probabilística, não determinística e altamente composicional dos sistemas modernos de IA.

2026-05-05Read paper →AI Security

Segurança de IA em Cibersegurança em 2026: Modelagem de Ameaças, Técnicas de Ataque e Defesa em Sistemas com LLMs, RAG e Agentes Autônomos

Este artigo investiga a segurança de IA aplicada à cibersegurança no contexto de 2026, com foco em sistemas que incorporam modelos de linguagem de grande porte (LLMs), recuperação aumentada por geração (RAG), agentes autônomos e integrações com pipelines de resposta a incidentes, hunting e orquestração. Propõe-se uma visão técnico-operacional que trata a IA simultaneamente como superfície de ataque, elemento de decisão e componente defensivo, analisando riscos como prompt injection, data poisoning, exfiltração por contexto, jailbreaks, alucinações operacionais, abuso de ferramentas, falhas de autorização entre planos de controle e vazamento de segredos em memória ou logs. A partir de um modelo formal de ameaça, o artigo estrutura uma metodologia de defesa em camadas baseada em classificação de ativos, isolamento de ferramentas, políticas de minimização de contexto, filtragem semântica, monitoramento em runtime, avaliação contínua e resposta a incidentes específica para IA. A pesquisa também discute a convergência entre Zero Trust, CNAPP, eBPF, governança de IA, criptografia pós-quântica e telemetria comportamental para compor uma postura de defesa mais robusta em ambientes corporativos e críticos. Na parte experimental, é apresentada uma avaliação comparativa de controles em cenários de chatbot corporativo, assistente SOC e agente com capacidade de executar ações em sistemas externos, incluindo métricas de taxa de sucesso de ataques, impacto de mitigação e custo operacional. Um estudo de caso ilustra um incidente plausível envolvendo envenenamento de base RAG e exfiltração indireta via documentos aparentemente benignos. Conclui-se que a segurança de IA em 2026 exige disciplina equivalente à engenharia de software segura, com requisitos explícitos de isolamento, observabilidade, validação de saída e governança do ciclo de vida do modelo, além de testes recorrentes adversariais e critérios mensuráveis de aceitação antes da produção.

2026-04-30Read paper →AI Security

Segurança de IA em Cibersegurança: Formalização de Ameaças, Defesa em Profundidade e Avaliação Experimental de Sistemas com LLMs, RAG e Agentes Autônomos em Ambiente Corporativo

Este artigo apresenta uma análise técnica e experimental da segurança de IA aplicada à cibersegurança em 2026, com foco em sistemas baseados em modelos de linguagem grandes, arquiteturas de recuperação aumentada por geração, agentes autônomos e pipelines de segurança assistidos por IA. O problema central é que a introdução de IA em ambientes corporativos amplia a superfície de ataque em múltiplas camadas: dados, prompts, ferramentas, memória, cadeias de suprimento, controles de identidade, telemetria e decisões automatizadas. A partir de um modelo de ameaça orientado a ativos e de uma formulação formal dos objetivos do atacante, propõe-se uma metodologia de defesa em profundidade que combina isolamento de contexto, filtragem semântica, controle de ferramentas, validação de saídas, observabilidade, governança e detecção comportamental. A contribuição prática do trabalho é dupla: primeiro, sistematiza as principais classes de ataque observadas até 2026, incluindo prompt injection, data poisoning, jailbreaks, exfiltração via ferramentas, envenenamento de RAG, vazamento por memória e abuso de agentes; segundo, apresenta uma arquitetura de implementação com controles concretos compatíveis com ecossistemas modernos como Azure OpenAI, OpenAI, Anthropic, LangChain, LlamaIndex, Kubernetes, eBPF, Open Policy Agent e plataformas CNAPP. A avaliação experimental compara configurações inseguras e endurecidas em cenários realistas de triagem de incidentes, busca em base interna e automação de resposta. Os resultados mostram reduções substanciais em taxa de sucesso de injeção, exfiltração e execução de ferramentas não autorizadas, ainda que com custo moderado em latência e utilidade. O estudo conclui que “AI security” em 2026 não é apenas proteção contra ataques ao modelo, mas proteção do ecossistema sociotécnico que o cerca, exigindo controles clássicos de segurança adaptados a uma nova classe de interfaces, memórias e agentes.

2026-04-25Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes de Produção: Modelagem de Ameaças, Vetores de Ataque e Arquiteturas Defensivas para LLMs e Pipelines de Machine Learning

A rápida adoção de sistemas baseados em inteligência artificial (IA) em ambientes corporativos e infraestruturas críticas ampliou significativamente a superfície de ataque cibernético. Em 2026, modelos de linguagem de grande escala (LLMs), sistemas de visão computacional e pipelines de machine learning operam em produção em setores como finanças, saúde, defesa e infraestrutura crítica, criando novos vetores de exploração que transcendem os paradigmas tradicionais de segurança de software. Este artigo apresenta uma análise operacional da segurança de sistemas de IA, explorando ameaças emergentes como prompt injection, model poisoning, exfiltração via inferência, ataques adversariais e comprometimento de cadeias de suprimento de modelos. A pesquisa propõe um modelo formal de ameaças específico para pipelines de IA modernos, incluindo treinamento, fine-tuning, inferência e integração com APIs externas. Em seguida, introduzimos uma metodologia defensiva multicamadas baseada em monitoramento comportamental, isolamento de execução, validação criptográfica de artefatos e detecção adversarial baseada em aprendizado estatístico. A implementação experimental utiliza ferramentas amplamente adotadas até 2026, incluindo IBM Adversarial Robustness Toolbox (ART), Microsoft Counterfit, Falco com eBPF e frameworks de avaliação de LLMs. Os experimentos simulam cenários reais de ataque contra modelos hospedados em infraestrutura Kubernetes e plataformas de inferência acelerada por GPU, avaliando o impacto de diferentes técnicas ofensivas e a eficácia das contramedidas propostas. Resultados demonstram que arquiteturas de segurança específicas para IA podem reduzir em até 73% a taxa de sucesso de ataques adversariais e em 61% a probabilidade de exfiltração de dados sensíveis por manipulação de prompts. Um estudo de caso detalhado analisa um ataque de prompt injection contra um assistente corporativo conectado a bases internas de conhecimento. Finalmente, discutimos implicações para governança de IA, segurança de modelos fundacionais e integração com arquiteturas Zero Trust. Este trabalho contribui com uma abordagem operacional para defesa de sistemas de IA em produção, alinhada ao estado da arte da segurança cibernética até 2026.

2026-01-17Read paper →AI Security

Arquiteturas, Ameaças e Contramedidas em Sistemas de Aprendizado de Máquina e Segurança de Redes: Uma Abordagem Operacional com Red Teaming e Engenharia Adversária (2006)

A integração de técnicas de aprendizado de máquina a sistemas corporativos, governamentais e militares no início da década de 2000 — notadamente em detecção de intrusões, filtragem de spam e detecção de fraudes — trouxe ganhos operacionais relevantes, mas também expôs novas superfícies de ataque. Em 2006, já se observavam ataques exploratórios (evasão) e causativos (envenenamento de dados) contra classificadores estatísticos, problematizando o pressuposto de estacionariedade e a independência entre dados e adversários. Neste trabalho, consolidamos uma visão rigorosa e operacionalmente acionável para esse cenário, articulando (i) uma formalização matemática compatível com o estado da arte até 2006 para análise de evasão com restrições de custo e envenenamento por ruído rotulado; (ii) uma arquitetura defensiva em três camadas que integra perímetro (firewalls e IDS), camada de aplicação (validação de entradas e contramedidas contra injeção SQL) e camada de aprendizado (governança de dados e robustez de modelos); (iii) um procedimento de red teaming com ferramentas e práticas da época (Nmap, Nessus, Snort, Metasploit, iptables, Subversion, GPG, Ethereal/Wireshark inicial), destinado a avaliar resiliência e calibrar limiares operacionais; e (iv) resultados experimentais reprodutíveis com MATLAB R2006a, Weka 3.4 e LIBSVM em dois cenários representativos: filtragem de spam (TREC 2005) e detecção de intrusões (KDD Cup 1999). Demonstramos, com base em modelos lineares e Naive Bayes, que um adversário com orçamento limitado pode maximizar a probabilidade de evasão por perturbações semânticas economicamente plausíveis, seguindo formulações de classificação adversária de Dalvi et al. (2004) e Lowd e Meek (2005). Para ataques causativos, mostramos degradação significativa sob injeção de rótulos maliciosos, compatível com limites clássicos de aprendizado sob erros maliciosos (Kearns; Li, 1993). No plano de rede, exibimos que shellcode polimórfico encodado no Metasploit 2.x reduz detecção por assinaturas rígidas, exigindo correlação de eventos e heurísticas de anomalia. Apresentamos ainda procedimentos de governança de dados com SHA-256 (FIPS 180-2), controle de versões (Subversion) e detecção de deriva por teste Kolmogorov-Smirnov e DDM, além de contramedidas contra injeção SQL (prepared statements) alinhadas ao OWASP 2004 e literatura de 2006. O estudo de caso combina evasão de filtro de spam por “good word attack” e evasão de IDS com shellcode polimórfico, articulando métricas, tabelas comparativas e configurações concretas de ferramentas. Concluímos que segurança efetiva em 2006 demanda o acoplamento entre modelagem adversária, higiene criptográfica e defesa em profundidade, com ciclos sistemáticos de teste ofensivo e avaliação estatística contínua.

2025-10-21Read paper →AI Security

Arquitetura Operacional de Segurança para Sistemas Baseados em Inteligência Artificial: Modelagem de Ameaças e Defesa em Ambientes Corporativos (Perspectiva até 2006)

Sistemas corporativos baseados em técnicas de Inteligência Artificial (IA) — em particular redes neurais artificiais, máquinas de vetores de suporte (SVM) e métodos estatísticos de classificação — consolidaram-se como componentes críticos em domínios como detecção de fraudes, filtragem de spam, pontuação de crédito e reconhecimento de padrões até 2006. Apesar dessa adoção, práticas de segurança nesse período permaneceram majoritariamente centradas em vulnerabilidades convencionais de software e rede, tais como estouros de buffer, falhas de validação de entrada, injeção de SQL e exploração remota. Demonstramos que sistemas de IA ampliam a superfície de ataque ao incorporar um processo estatístico de treinamento e inferência sujeitável a manipulações deliberadas: envenenamento de dados, evasão próxima à fronteira de decisão e extração de modelos por consulta oracular. Propomos uma arquitetura operacional de segurança em cinco camadas, alinhada ao princípio de defesa em profundidade, que integra governança de dados com mecanismos criptográficos (PKI, assinatura digital, hashing), robustez algorítmica mediante técnicas de estatística robusta (detecção de outliers por distância de Mahalanobis, regularização e validação cruzada), proteção de inferência (limitação de taxa, autenticação mútua TLS com certificados X.509 e monitoramento com Snort), infraestrutura tradicional (firewalls iptables, varredura Nessus, mapeamento Nmap, testes com Metasploit) e monitoramento e resposta (consolidação de logs em SIEMs disponíveis ao período, forense com EnCase e FTK, e resposta conforme NIST SP 800-61). Formalizamos o modelo de ameaça utilizando a minimização empírica de risco sob contaminação $\epsilon$-adversária, articulamos métricas de sucesso do atacante e apresentamos limites de risco sob perdas limitadas. Implementamos e avaliamos um protótipo em ambiente Linux (Debian 3.1, Apache 2.0, PostgreSQL 8.x, OpenSSL 0.9.8), empregando LIBSVM para classificação. Em um cenário sintético e em estudo de caso financeiro, observamos redução da taxa média de sucesso adversarial de 48% para 19% ao custo de 2% de decréscimo de acurácia global e incremento de 17% no custo computacional, com significância estatística pelo teste t pareado ($p < 0{,}01$). Nossos resultados evidenciam que, mesmo sob as capacidades tecnológicas de 2006, é possível estruturar uma arquitetura operacional que mitigue ameaças específicas a sistemas de IA sem negligenciar controles clássicos de segurança da informação. Concluímos que a segurança de IA deve ser tratada como extensão natural da segurança de sistemas, com ênfase em governança de dados, verificabilidade criptográfica, análise estatística robusta e integração operacional com ferramentas de perímetro e forense amplamente consolidadas até 2006.

2025-07-10Read paper →AI Security

Arquitetura de Segurança para Ambientes Corporativos em 2006: Modelagem de Ameaças, Verificação de Protocolos Criptográficos e Controles Operacionais em Produção

A consolidação da Internet comercial e a ampla adoção de sistemas operacionais de uso geral no ambiente corporativo, no período até 2006, ampliaram de forma significativa a superfície de ataque. Incidentes provocados por worms (Code Red, Slammer, Blaster, Sasser), exploração de vulnerabilidades por estouro de buffer, injeção de SQL e falhas de configuração tornaram patente a necessidade de uma arquitetura de segurança integrada que combine modelagem formal de ameaças, controles técnicos sólidos e processos operacionais repetíveis. Este trabalho apresenta uma arquitetura de referência, orientada a ambientes corporativos convencionais do período, que articula: (i) modelagem de ameaças em camadas, com fundamentação formal no modelo de Dolev–Yao e na lógica BAN para análise de protocolos criptográficos; (ii) proteção de perímetro e segmentação de rede por firewalls estadoful (iptables, Check Point FW-1), listas de controle de acesso e VPNs baseadas em IPsec; (iii) endurecimento de sistemas e gestão de correções segundo guias NIST (SP 800-40, SP 800-68) e ISO/IEC 27001:2005; (iv) detecção e resposta por IDS de rede (Snort, Bro) e análise de fluxos (NetFlow), com correlação de eventos em plataformas SIEM iniciais (ArcSight ESM, Cisco MARS) apoiadas por infraestrutura de logs (syslog-ng); e (v) prática forense e preservação de evidências (EnCase, The Sleuth Kit) para investigação e melhoria contínua. Formalizamos o risco como R = Σ p_i · i_i, calibrado por taxas de falso positivo/negativo e atraso de detecção, e modelamos a propagação de worms por equações diferenciais do tipo SIR. A validação empírica foi conduzida em laboratório com ênfase em: (a) eficácia de regras Snort na detecção de varreduras e explorações associadas a MS03-026 e Slammer; (b) mitigação de injeção de SQL em aplicação LAMP reforçada por mod_security e validação de entrada; e (c) impacto operacional de controles de patching e hardening sobre taxa de comprometimento em campanhas controladas com Nmap/Nessus/Metasploit. Os resultados evidenciam redução do tempo médio de detecção, diminuição de falsos positivos com normalização apropriada de tráfego (frag3) e forte correlação entre latência de correção e probabilidade de incidente. Complementarmente, discutimos limitações inerentes à inspeção em tráfego criptografado, às evasões conhecidas em IDS e à modelagem adversária sob suposições fortes de rede. Esta arquitetura, ancorada em práticas e tecnologias disponíveis até 2006, demonstra viabilidade técnica e ganhos tangíveis de segurança quando implementada de modo holístico, com governança, mensuração e aderência estrita a guias normativos e boas práticas do período.

2025-05-03Read paper →AI Security

Arquiteturas e Operações de Segurança para Sistemas de Aprendizado de Máquina: Modelagem de Ameaças, Hardening e Resposta a Incidentes em Ambientes de 2006

Em 2006, sistemas de aprendizado de máquina (AM) eram empregados de forma crescente em aplicações operacionais como filtragem de spam, detecção de intrusões baseada em anomalias, classificação de documentos e apoio à investigação forense digital. Esses sistemas, embora úteis, operavam em ambientes distribuídos tradicionais, com servidores Linux e Unix, pilhas LAMP, serviços de e-mail e bancos de dados relacionais, e estavam sujeitos a ameaças clássicas como injeção de SQL, estouro de buffer, worms autorreplicantes e manipulação de arquivos de log. Sustentamos que a segurança de tais sistemas deve unificar princípios consolidados de segurança da informação — governança segundo ISO/IEC 17799:2005 e 27001:2005, criptografia baseada em AES e RSA, firewalls e IDS/IPS — com técnicas estatísticas robustas específicas ao ciclo de vida de dados e modelos. Propomos uma metodologia operacional em sete fases que abrange: (i) inventário de ativos de AM e de dependências de software com verificação de integridade baseada em hashes e auditoria de arquivos; (ii) modelagem de ameaças com STRIDE e árvores de ataque; (iii) hardening de infraestrutura com iptables, sysctl, Apache mod_security, separação de privilégios e políticas de autenticação e chaves SSH; (iv) proteção de dados por versionamento (Subversion), assinaturas digitais (GPG), controle de acesso e backups offline; (v) robustez estatística via técnicas de detecção de outliers, amostragem robusta, limitação de atributos e validação cruzada; (vi) monitoramento e correlação com syslog/syslog-ng, Snort, OSSEC e correlação de eventos (SEC/Prelude), e (vii) resposta a incidentes seguindo NIST SP 800-61, com suporte forense (EnCase/FTK) e cadeia de custódia. Formalizamos o problema de segurança em AM no cenário de 2006 em termos de três classes de adversários (evasão em tempo de teste, envenenamento em tempo de treinamento e exploração da infraestrutura) e quantificamos risco como soma ponderada de probabilidade e impacto na métrica de desempenho. Apresentamos uma implementação baseada em Debian GNU/Linux, Weka e SVMlight para classificação de e-mails (SpamAssassin + Enron), com pipeline de treinamento automatizado por cron, e avaliamos ataques de evasão (good-word) e de envenenamento (rótulos falsos e amostras sintéticas), demonstrando reduções de precisão e F1 entre 12% e 27% sem defesas. Com contramedidas operacionais e estatísticas, recuperamos entre 9 e 18 pontos percentuais de F1, ao custo de sobrecarga computacional e operacional aceitável. Um estudo de caso com injeção de SQL em um portal de feedback ilustra a manipulação de rótulos e sua detecção por Snort, seguida de contenção e erradicação. As evidências reforçam que a segurança de sistemas de AM em 2006 exige integração disciplinada entre engenharia de segurança de rede e práticas de modelagem estatística robusta, apoiada por normas e ferramentas disponíveis à época.

2025-02-04Read paper →AI Security

Arquiteturas Resilientes para Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Defesa em Profundidade e Avaliação Empírica em Ambientes Operacionais

A crescente adoção de sistemas baseados em Inteligência Artificial (IA) em ambientes corporativos, governamentais e militares expandiu significativamente a superfície de ataque cibernético. Modelos de aprendizado de máquina (ML) e modelos de linguagem de grande porte (LLMs) passaram a integrar pipelines críticos de decisão, detecção e automação, tornando-se alvos de ataques como envenenamento de dados, evasão adversarial, extração de modelo, inversão de modelo e prompt injection. Este trabalho apresenta uma arquitetura abrangente de segurança para sistemas de IA, fundamentada em modelagem formal de ameaças, controles técnicos alinhados ao NIST AI RMF e às técnicas MITRE ATLAS, e validação experimental em ambientes controlados e operacionais. Propomos uma abordagem de defesa em profundidade que combina hardening de pipelines de dados, monitoramento de drift, validação adversarial automatizada, sandboxing de inferência, controles de acesso baseados em políticas e telemetria orientada a TTPs (Tactics, Techniques and Procedures). Implementamos um framework experimental utilizando PyTorch, TensorFlow, MLflow, Kubernetes, Istio, Falco e Elastic Stack, com instrumentação específica para detecção de ataques adversariais (FGSM, PGD), model stealing e prompt injection. Nossos resultados demonstram redução de 72% na taxa de sucesso de ataques adversariais após aplicação de treinamento robusto e detecção estatística, além de queda de 81% na eficácia de exfiltração de parâmetros sob limitação adaptativa de queries. Apresentamos ainda um estudo de caso em ambiente corporativo de detecção de fraude financeira, onde evidenciamos exploração prática via data poisoning e subsequente mitigação com validação estatística multivariada. Concluímos que a segurança de IA exige integração entre engenharia de software segura, segurança ofensiva contínua (red teaming), governança de dados e monitoramento operacional orientado por métricas quantitativas de risco. O trabalho fornece diretrizes práticas, métricas formais e implementações reproduzíveis para profissionais de cibersegurança que operam sistemas de IA em contextos críticos.

2024-10-24Read paper →AI Security

Arquiteturas, Ameaças e Contramedidas em Segurança de Sistemas de Inteligência Artificial: Uma Abordagem Operacional Baseada em Red Teaming e MITRE ATLAS

A incorporação massiva de sistemas de Inteligência Artificial (IA) em infraestruturas críticas, plataformas financeiras, ambientes industriais e ecossistemas de segurança cibernética transformou profundamente o panorama de ameaças digitais. Modelos de aprendizado profundo, Large Language Models (LLMs) e sistemas de visão computacional passaram a desempenhar funções decisórias de alto impacto, ampliando a superfície de ataque e introduzindo vetores inéditos como adversarial examples, data poisoning, model extraction e ataques de inferência. Este trabalho apresenta uma análise abrangente e operacional da segurança em IA, integrando fundamentos teóricos, modelagem formal de ameaças e uma metodologia prática de hardening e avaliação baseada no framework MITRE ATLAS e no ciclo NIST Secure AI. Propomos um modelo formal de risco que integra métricas de robustez adversarial, exposição de APIs e risco de vazamento de dados sensíveis, além de um pipeline defensivo composto por validação de dados, detecção de anomalias, monitoramento comportamental e técnicas de robustificação (adversarial training, differential privacy e watermarking de modelos). Implementamos um ambiente experimental baseado em PyTorch, TensorFlow e Hugging Face Transformers, simulando ataques reais como FGSM, PGD, model extraction via APIs REST e membership inference. Avaliamos empiricamente o impacto dessas técnicas em modelos ResNet-50 e BERT-base, demonstrando degradações de acurácia superiores a 40% sob ataques adversariais não mitigados e recuperação parcial de robustez com treinamento adversarial. Um estudo de caso em um sistema antifraude baseado em aprendizado supervisionado ilustra implicações práticas, incluindo alinhamento com OWASP ML Top 10 e controles CIS. Os resultados reforçam a necessidade de integração entre segurança ofensiva (red teaming) e engenharia de IA segura desde a fase de design. Concluímos com direções futuras envolvendo detecção automática de comportamento emergente malicioso em modelos fundacionais e governança de risco em cadeias de suprimento de modelos pré-treinados.

2024-07-14Read paper →AI Security

Arquiteturas e Operações de Segurança para Sistemas de Inteligência Artificial: Modelagem de Ameaças, Ataques Adversariais e Controles Defensivos Baseados em Evidências

A crescente adoção de sistemas de Inteligência Artificial (IA) em ambientes corporativos, governamentais e militares introduziu uma nova superfície de ataque que combina vulnerabilidades tradicionais de software com fragilidades específicas de modelos de aprendizado de máquina. Este artigo apresenta uma análise abrangente de segurança de IA sob uma perspectiva operacional, integrando modelagem formal de ameaças, técnicas de ataque documentadas no MITRE ATLAS, controles de mitigação baseados em NIST AI RMF e experimentação prática com frameworks como TensorFlow, PyTorch, ART (Adversarial Robustness Toolbox) e ferramentas de red teaming. Formalizamos o problema de segurança de modelos como uma função $f_\theta(x)$ sujeita a perturbações adversariais $\delta$ tais que $\|\delta\|_p \leq \epsilon$, e analisamos ataques de evasão, envenenamento de dados, extração e inversão de modelo. Propomos uma metodologia de defesa em camadas que integra hardening de pipeline MLOps, validação criptográfica de datasets, monitoramento comportamental em tempo real e detecção de anomalias baseada em métricas de confiança. Implementamos um ambiente experimental com 12.000 amostras do CIFAR-10 e um modelo ResNet-18, submetido a ataques FGSM, PGD e model stealing, alcançando taxas de sucesso adversarial de até 92% na ausência de defesa e redução para 27% com treinamento adversarial e detecção baseada em entropia. Um estudo de caso envolvendo um chatbot corporativo exposto via API REST demonstra exploração prática por prompt injection e exfiltração indireta de dados sensíveis. Os resultados evidenciam que segurança de IA requer integração entre engenharia de software segura, práticas DevSecOps e técnicas específicas de robustez algorítmica. Concluímos propondo um framework operacional alinhado ao MITRE ATT&CK e ATLAS, com métricas quantitativas de risco e roadmap de pesquisa futura em verificação formal e watermarking de modelos.

2024-04-30Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Red Teaming e Defesa em Profundidade para Ambientes de Machine Learning em Produção

A incorporação acelerada de sistemas de Inteligência Artificial (IA) em ambientes corporativos e infraestruturas críticas expandiu significativamente a superfície de ataque cibernética. Modelos de machine learning (ML) e large language models (LLMs) tornaram-se alvos de ataques como adversarial examples, data poisoning, model extraction, membership inference, prompt injection e exploração de cadeias de suprimento de modelos. Este trabalho apresenta uma arquitetura operacional integrada para segurança de IA, combinando modelagem formal de ameaças, red teaming especializado, monitoramento contínuo e controles de defesa em profundidade alinhados ao NIST AI Risk Management Framework e ao MITRE ATLAS. Formalizamos um modelo de ameaça específico para pipelines de ML, definindo atores, capacidades adversariais e superfícies de ataque em treinamento, inferência e MLOps. Propomos uma metodologia estruturada composta por: (i) classificação de ativos e mapeamento de TTPs segundo MITRE ATT&CK e ATLAS; (ii) avaliação de robustez adversarial baseada em otimização; (iii) detecção de data poisoning por análise estatística e clustering robusto; (iv) mecanismos de watermarking e fingerprinting para mitigação de model extraction; e (v) hardening de infraestrutura com controles Zero Trust. Implementamos a arquitetura em um ambiente experimental com Kubernetes, MLflow, PyTorch e modelos baseados em Transformer, integrando ferramentas como IBM Adversarial Robustness Toolbox, CleverHans e frameworks de segurança de LLM. A avaliação experimental, conduzida com mais de 1,2 milhão de amostras adversariais sintéticas e datasets reais, demonstrou redução de 87% na taxa de sucesso de ataques de evasão e detecção de 94% de amostras envenenadas com taxa de falso positivo inferior a 3,1%. Apresentamos ainda um estudo de caso envolvendo a proteção de um sistema de detecção de fraude financeira contra ataques de data poisoning e model extraction. Os resultados indicam que a segurança de IA requer integração contínua entre engenharia de ML, segurança ofensiva e governança, sob pena de comprometer confidencialidade, integridade e disponibilidade de modelos críticos.

2024-01-19Read paper →AI Security

Arquiteturas Resilientes de Segurança para Sistemas Baseados em Inteligência Artificial: Modelagem de Ameaças, Avaliação Empírica e Estratégias Operacionais de Defesa

A incorporação acelerada de sistemas de Inteligência Artificial (IA) em ambientes corporativos, governamentais e militares transformou radicalmente a superfície de ataque no domínio da cibersegurança. Modelos de aprendizado de máquina (ML) e modelos fundacionais de larga escala tornaram-se ativos críticos, sendo alvo de ataques adversariais, envenenamento de dados, exfiltração de parâmetros, model stealing e manipulação de prompts. Este artigo apresenta uma abordagem sistemática e operacional para a segurança de sistemas de IA, combinando modelagem formal de ameaças, mecanismos defensivos em múltiplas camadas e avaliação experimental baseada em métricas quantitativas. Estruturamos um modelo de ameaças alinhado ao MITRE ATT&CK e ao MITRE ATLAS, formalizando ataques como otimizações adversariais sob restrições de orçamento e acesso. Propomos uma arquitetura de defesa em profundidade que integra validação de dados, detecção de anomalias via aprendizado não supervisionado, técnicas de adversarial training, watermarking de modelos e monitoramento contínuo via SIEM e EDR. Implementamos um ambiente experimental com modelos ResNet-50 e BERT, utilizando datasets CIFAR-10 e IMDB, avaliando ataques como FGSM, PGD, model inversion e membership inference. Nossos resultados demonstram redução de até 72% na taxa de sucesso de ataques adversariais com custo computacional adicional inferior a 18%. Apresentamos ainda um estudo de caso em ambiente corporativo real, integrando pipelines MLOps com controles de segurança baseados no NIST AI Risk Management Framework e no OWASP Machine Learning Top 10. Concluímos com diretrizes práticas para equipes de Red Team e Blue Team, propondo uma agenda de pesquisa voltada à resiliência de modelos fundacionais e à proteção de cadeias de suprimento de IA.

2023-10-08Read paper →AI Security

Arquiteturas Resilientes para Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Hardening e Resposta a Incidentes em Ambientes Operacionais

A crescente adoção de sistemas de Inteligência Artificial (IA) em ambientes corporativos, governamentais e militares introduziu uma nova superfície de ataque que combina vulnerabilidades tradicionais de software com fragilidades específicas de modelos de aprendizado de máquina. Este trabalho apresenta uma abordagem abrangente e operacional para segurança de IA (AI Security), cobrindo modelagem de ameaças, formalização de ataques, arquitetura defensiva, hardening de pipelines de MLOps e resposta a incidentes envolvendo modelos. Analisamos vetores como envenenamento de dados (data poisoning), ataques adversariais, extração e inversão de modelos, backdoors em redes neurais e comprometimento da cadeia de suprimentos de modelos pré-treinados. Formalizamos o problema de segurança de IA sob uma perspectiva de adversário adaptativo, definindo capacidades, superfícies de ataque e objetivos segundo a taxonomia MITRE ATLAS e MITRE ATT&CK. Propomos uma metodologia integrada que combina controles criptográficos, monitoramento comportamental, detecção estatística de anomalias, técnicas de robustez adversarial e isolamento em nível de infraestrutura. Implementamos um laboratório experimental com modelos baseados em ResNet-50 e BERT, avaliando a eficácia de defesas como adversarial training, gradient masking robusto, detecção de outliers via Mahalanobis distance e monitoramento com ferramentas como Prometheus, Falco e Open Policy Agent. Nossos resultados demonstram redução de até 78% na taxa de sucesso de ataques adversariais FGSM e PGD, bem como detecção de 92% de tentativas de envenenamento acima de 5% de contaminação no dataset. Apresentamos ainda um estudo de caso envolvendo comprometimento de pipeline CI/CD de modelos via ataque à cadeia de suprimentos, com mapeamento de TTPs para MITRE ATT&CK. Concluímos com recomendações práticas alinhadas a NIST AI RMF, ISO/IEC 27001 e OWASP ML Security Top 10, fornecendo um guia técnico para equipes de Red Team, Blue Team e arquitetos de segurança.

2023-05-25Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial: Modelagem de Ameaças, Superfícies de Ataque e Estratégias Operacionais de Defesa em Ambientes Críticos

A adoção acelerada de sistemas de Inteligência Artificial (IA) em infraestruturas críticas, serviços financeiros, saúde, defesa e plataformas digitais ampliou significativamente a superfície de ataque das organizações. Modelos de aprendizado de máquina e modelos fundacionais baseados em redes neurais profundas tornaram-se componentes centrais de pipelines de decisão automatizada, frequentemente integrados a APIs, microsserviços e cadeias de dados complexas. No entanto, a segurança desses sistemas permanece subexplorada sob uma perspectiva operacional de cibersegurança ofensiva e defensiva. Este trabalho apresenta uma análise sistemática e prática da segurança de sistemas de IA, abordando modelagem de ameaças, vetores de ataque, técnicas de exploração e mecanismos de mitigação. Formalizamos um modelo de ameaça que considera adversários capazes de executar ataques de envenenamento de dados (data poisoning), evasão adversarial, extração de modelo, inferência de associação e ataques à cadeia de suprimentos de modelos. Propomos uma metodologia de defesa em profundidade baseada em hardening de pipeline de dados, validação criptográfica de artefatos, monitoramento comportamental de inferência e integração com frameworks consolidados como MITRE ATT&CK, NIST AI RMF e OWASP ML Security Top 10. Implementamos um ambiente experimental com modelos de classificação e detecção de intrusão, avaliando ataques como Fast Gradient Sign Method (FGSM), Projected Gradient Descent (PGD), envenenamento de rótulos e extração via queries adaptativas. Os resultados demonstram degradação de até 42% na acurácia sob ataques não mitigados e redução dessa degradação para menos de 8% com contramedidas combinadas. Apresentamos ainda um estudo de caso realista envolvendo um sistema de detecção antifraude baseado em aprendizado profundo. Concluímos que a segurança de IA exige convergência entre práticas tradicionais de AppSec, DevSecOps e técnicas especializadas de robustez adversarial, demandando padronização, monitoramento contínuo e governança estruturada.

2023-05-18Read paper →AI Security

Arquiteturas, Ameaças e Contramedidas em Segurança de Sistemas de Aprendizado de Máquina Aplicados a Ambientes Críticos (Estado da Arte até 2009)

A crescente adoção de técnicas de aprendizado de máquina em ambientes críticos — como detecção de fraudes financeiras, filtragem de spam, sistemas de detecção de intrusão e apoio à decisão médica — introduziu uma nova classe de riscos de segurança que extrapola vulnerabilidades tradicionais de software. Diferentemente de aplicações determinísticas, sistemas baseados em modelos estatísticos dependem fortemente da qualidade e integridade dos dados de treinamento e da estabilidade de seus pressupostos probabilísticos. Pesquisas recentes até 2009 demonstraram que classificadores podem ser manipulados por meio de ataques de envenenamento de dados (poisoning), evasão (evasion) e exploração de interfaces de consulta, comprometendo propriedades fundamentais de integridade, confidencialidade e disponibilidade. Neste trabalho, sistematizamos uma abordagem operacional para análise e mitigação de ameaças contra sistemas de aprendizado de máquina, com ênfase em classificadores lineares, máquinas de vetores de suporte e redes neurais multicamadas. Formalizamos modelos de ameaça sob diferentes capacidades adversariais (caixa-preta e caixa-branca), definimos métricas de risco empírico adversarial e analisamos experimentalmente o impacto de perturbações estratégicas em um sistema de detecção de fraude. Propomos uma arquitetura em camadas contemplando proteção de dados, robustez algorítmica, controles de infraestrutura e monitoramento contínuo, empregando ferramentas disponíveis até 2009, como Metasploit, Burp Suite, IDA Pro e o framework Volatility para análise forense. Os resultados indicam que mesmo pequenas frações de dados manipulados podem degradar significativamente o desempenho do classificador, exigindo mecanismos combinados de validação estatística, regularização robusta e auditoria operacional. Concluímos que a segurança de sistemas de aprendizado de máquina deve ser tratada como disciplina integrada à segurança da informação tradicional, fundamentada em modelagem formal de ameaças e avaliação empírica rigorosa.

2022-11-08Read paper →AI Security

Arquiteturas, Ameaças e Contramedidas em Sistemas de Detecção de Intrusão Baseados em Aprendizado de Máquina: Uma Abordagem Operacional com Red Teaming, Hardening e Monitoramento Contínuo (2009)

A incorporação de técnicas de aprendizado de máquina em sistemas de detecção de intrusão (IDS) e mecanismos de filtragem de conteúdo tem se intensificado ao longo da última década, acompanhando o crescimento exponencial do tráfego na Internet e a sofisticação de ataques direcionados. Em 2009, diante da consolidação de campanhas avançadas de spear phishing, botnets modulares e kits de exploração distribuídos por meio de comprometimento de websites legítimos, torna-se imperativo analisar criticamente a superfície de ataque introduzida por classificadores estatísticos empregados na defesa. Neste trabalho, investigamos arquiteturas de IDS baseadas em aprendizado supervisionado — como máquinas de vetores de suporte, redes neurais multicamadas e classificadores bayesianos — sob a perspectiva de ameaças de evasão e envenenamento de dados. Formalizamos um modelo adversarial compatível com o estado da arte até 2009, considerando atacantes com diferentes níveis de conhecimento sobre o classificador. Propomos uma metodologia operacional estruturada em cinco camadas: governança de dados, treinamento robusto, hardening de interfaces, monitoramento contínuo integrado a SIEM e exercícios sistemáticos de red teaming com ferramentas contemporâneas como Metasploit, IDA Pro, Burp Suite e Volatility. Implementamos um protótipo experimental utilizando o conjunto de dados KDD Cup 1999 e tráfego sintético gerado em laboratório virtualizado com VMware, avaliando o impacto de perturbações adversariais e injeção de amostras maliciosas no processo de re-treinamento. Demonstramos quantitativamente que pequenas modificações estatísticas em atributos selecionados podem degradar a taxa de detecção em até 63%, enquanto mecanismos de validação cruzada estratificada, regularização e detecção de drift reduzem significativamente esse efeito. Concluímos que sistemas de defesa baseados em aprendizado de máquina exigem controles de segurança equivalentes aos aplicados a softwares críticos tradicionais, incluindo controle de integridade, auditoria forense e segmentação de rede. Nossos resultados fornecem diretrizes práticas e fundamentação teórica para o emprego seguro de técnicas de aprendizado de máquina em ambientes corporativos e governamentais no contexto tecnológico de 2009.

2022-11-02Read paper →AI Security

Arquiteturas Resilientes de Segurança para Sistemas de Aprendizado de Máquina: Modelagem de Ameaças, Hardening Operacional e Defesa Ativa contra Envenenamento e Extração de Modelos (Contexto 2009)

A crescente adoção de técnicas de aprendizado de máquina (Machine Learning – ML) em sistemas críticos até 2009 — incluindo detecção de fraudes financeiras, filtragem de spam, detecção de intrusões e sistemas biométricos — introduziu novas superfícies de ataque que extrapolam o modelo tradicional de segurança de software. Diferentemente de sistemas determinísticos, classificadores estatísticos dependem fortemente de dados de treinamento e assumem hipóteses probabilísticas que podem ser exploradas por adversários racionais. Trabalhos recentes à época demonstraram a viabilidade de ataques de envenenamento contra Máquinas de Vetores de Suporte e a evasão sistemática de classificadores lineares utilizados em ambientes reais, como filtros de spam e detectores de malware. Neste artigo, propomos uma arquitetura integrada de segurança para sistemas de ML coerente com o estado da arte de 2009, fundamentada em quatro pilares: (i) modelagem formal de ameaças para sistemas de aprendizado supervisionado; (ii) hardening operacional do pipeline de dados e treinamento, incluindo controles de integridade e segregação em ambientes virtualizados; (iii) técnicas de robustificação estatística contra envenenamento e evasão; e (iv) monitoramento contínuo de deriva estatística e abuso de consultas em APIs de classificação. Formalizamos o problema como um jogo min–max entre classificador e adversário sob restrições de norma $L_p$, e analisamos métricas de risco empírico sob contaminação adversarial de proporção $\alpha$. Implementamos protótipo experimental com SVM linear sobre o conjunto MNIST e base de spam pública, avaliando cenários de envenenamento (até 5% de dados injetados) e evasão iterativa. Os resultados indicam redução significativa da degradação de acurácia mediante uso combinado de validação robusta, limitação de consultas e monitoramento de divergência de Kullback–Leibler. Concluímos que modelos estatísticos devem ser tratados como ativos críticos, sujeitos às mesmas práticas de defesa em profundidade aplicadas a infraestruturas tradicionais, especialmente no contexto emergente de virtualização e computação em nuvem inicial.

2022-04-18Read paper →AI Security

SEGURANÇA DE SISTEMAS BASEADOS EM APRENDIZADO DE MÁQUINA: MODELAGEM DE AMEAÇAS, ENVENENAMENTO DE DADOS E CONTROLES OPERACIONAIS EM AMBIENTES CRÍTICOS

A incorporação de técnicas de aprendizado de máquina em sistemas corporativos e governamentais amplia significativamente a superfície de ataque quando tais sistemas passam a influenciar decisões críticas de filtragem, detecção e priorização de eventos. Neste trabalho, examinamos a segurança de sistemas baseados em aprendizado de máquina sob a ótica da modelagem de ameaças, com ênfase em envenenamento de dados, evasão de classificadores e degradação operacional em cenários de alta criticidade. Partimos do pressuposto de que, em contextos reais, o comportamento do modelo é derivado não apenas da implementação algorítmica, mas também da qualidade, procedência e governança do conjunto de dados, o que cria oportunidades para adversários manipularem o processo de aprendizagem. Formalizamos o pro

2022-04-11Read paper →AI Security

Arquiteturas Seguras para Sistemas de Aprendizado de Máquina: Modelagem de Ameaças, Vetores de Ataque e Controles Defensivos em Ambientes Operacionais (2010)

A crescente adoção de sistemas de aprendizado de máquina em ambientes corporativos e governamentais, especialmente em aplicações de detecção de fraudes, filtragem de spam, análise de tráfego de rede e sistemas de recomendação, introduz novos desafios de segurança da informação. Diferentemente de softwares determinísticos tradicionais, tais sistemas são fortemente dependentes de dados e frequentemente empregam modelos estatísticos treinados a partir de grandes volumes de amostras históricas. Essa característica amplia a superfície de ataque, pois adversários podem explorar tanto vulnerabilidades na infraestrutura subjacente quanto fragilidades inerentes ao processo de aprendizado. Neste trabalho, propomos uma arquitetura integrada de segurança para sistemas de aprendizado de máquina, fundamentada em modelagem formal de ameaças, classificação de vetores de ataque e definição de controles técnicos verificáveis, considerando o estado da arte até 2010. Estruturamos o sistema como uma composição de dados, algoritmo de treinamento, modelo resultante e infraestrutura de implantação, e formalizamos as capacidades do adversário em cenários de acesso caixa-preta e envenenamento de dados. Discutimos ataques de evasão e envenenamento conforme sistematizados por Barreno et al. (2006; 2010) e Biggio et al. (2009), bem como riscos associados a campanhas direcionadas (APTs), spear phishing e comprometimento de cadeias de suprimento de software, à luz de incidentes como a Operação Aurora e o Stuxnet (2010). Implementamos um protótipo experimental baseado em classificadores SVM e regressão logística aplicados a conjuntos de dados de detecção de spam e intrusão, avaliando o impacto de ataques de manipulação adversarial e a eficácia de mecanismos de validação robusta, regularização e controles de integridade. Nossos resultados indicam redução significativa na taxa de sucesso de ataques quando controles são aplicados de forma sistêmica. Concluímos que a segurança de sistemas de aprendizado de máquina deve ser tratada como problema interdisciplinar, integrando fundamentos de segurança da informação, engenharia de software seguro e aprendizado estatístico.

2021-10-02Read paper →AI Security

Arquiteturas Resilientes para Segurança de Sistemas Baseados em Aprendizado de Máquina: Modelagem de Ameaças, Defesa em Profundidade e Validação Experimental (2010)

A crescente adoção de sistemas baseados em aprendizado de máquina (AM) em aplicações críticas, tais como detecção de fraude, filtragem de spam, sistemas de recomendação e detecção de intrusão, introduz novos vetores de ataque que extrapolam o escopo tradicional da segurança de software. Em 2010, o cenário de ameaças é marcado pela consolidação de campanhas de ameaças persistentes avançadas (APT), pelo uso sistemático de spear phishing, pela exploração de vulnerabilidades em aplicações Web e pela emergência de infraestruturas em nuvem pública, notadamente Amazon Web Services. Nesse contexto, modelos de AM passam a ser alvos atrativos, seja por meio de manipulação de dados de treinamento, evasão em tempo de inferência ou extração indevida de parâmetros via APIs expostas. Este trabalho propõe uma arquitetura resiliente para a proteção de sistemas de AM, fundamentada em modelagem formal de ameaças, princípios de defesa em profundidade e validação experimental quantitativa. Formalizamos o pipeline de aprendizado como um sistema composto por aquisição de dados, pré-processamento, treinamento, validação e serviço de inferência, e definimos objetivos adversariais em termos de degradação de desempenho, vazamento de informação e impacto operacional. Demonstramos empiricamente ataques de envenenamento contra classificadores lineares e máquinas de vetores de suporte, bem como estratégias de evasão baseadas em otimização. Propomos contramedidas práticas compatíveis com o estado da arte de 2010, incluindo controle de integridade de dados, segregação de ambientes virtualizados, limitação de taxa em APIs, monitoramento via SIEM e análise forense com ferramentas como Volatility. Os resultados indicam redução significativa do impacto de ataques com sobrecarga computacional moderada. Concluímos que a segurança de sistemas de AM deve ser tratada como problema sistêmico, integrando governança, controles técnicos e monitoramento contínuo, especialmente em ambientes corporativos expostos a APTs e ameaças internas.

2021-09-25Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas Baseados em Aprendizado de Máquina: Modelo Formal de Ameaças e Hardening de Pipelines Analíticos em Ambientes Críticos (2011)

A crescente adoção de sistemas baseados em aprendizado de máquina em contextos críticos — como detecção de fraudes, filtragem de spam, classificação de malware e sistemas de apoio à decisão — introduz novos vetores de ataque que transcendem os modelos tradicionais de segurança da informação. Em 2011, diante do cenário marcado por campanhas de Ameaças Persistentes Avançadas (APTs), spear phishing direcionado e exploração de cadeias de suprimento digitais, torna-se imperativo analisar como modelos estatísticos podem ser manipulados por adversários com capacidades realistas. Este trabalho propõe um modelo formal de ameaças para sistemas de aprendizado supervisionado implantados em produção, considerando ataques de evasão (evasion), envenenamento de dados (poisoning) e extração exploratória de modelos. Formalizamos propriedades de robustez e integridade sob restrições operacionais de latência e disponibilidade, integrando mecanismos estatísticos de detecção de anomalias, verificação criptográfica de integridade e correlação com sistemas SIEM. Diferentemente de abordagens puramente teóricas, nossa proposta enfatiza integração com ferramentas amplamente utilizadas até 2011, como Snort, Suricata, Metasploit, Volatility, Burp Suite e plataformas de virtualização e nuvem emergentes. Avaliamos empiricamente a arquitetura proposta em cenários representativos de detecção de spam e classificação de tráfego de rede, utilizando bases públicas consolidadas. Os resultados indicam redução significativa da taxa de evasão sob ataques de manipulação de atributos e limitação do impacto de envenenamento de até 5% dos dados de treinamento, mantendo overhead de latência inferior a 15%. Concluímos que a segurança de sistemas baseados em aprendizado de máquina deve ser tratada como problema sistêmico, envolvendo modelagem formal de ameaças, controles criptográficos, monitoramento estatístico contínuo e integração com práticas consolidadas de segurança operacional vigentes no cenário de 2011.

2021-02-05Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Detecção de Intrusão Baseados em Aprendizado de Máquina: Modelagem Formal de Ameaças, Defesa em Profundidade e Validação Empírica em Ambientes Corporativos (2011)

A crescente adoção de técnicas de aprendizado de máquina em sistemas de detecção de intrusão (IDS) e mecanismos antifraude, particularmente no contexto de campanhas de Ameaças Persistentes Avançadas (APTs) observadas entre 2009 e 2011, introduziu novos desafios de segurança além das vulnerabilidades tradicionais de software. Diferentemente de falhas clássicas catalogadas por CVE/NVD, sistemas baseados em modelos estatísticos podem ser manipulados por meio de inserção de dados maliciosos no treinamento, evasão por manipulação de atributos e exploração de interfaces de consulta. Neste trabalho, propomos uma arquitetura operacional de segurança para IDS baseados em aprendizado de máquina, fundamentada em modelagem formal de ameaças, controles técnicos em múltiplas camadas e validação empírica em ambiente corporativo real. Formalizamos o adversário por meio de parâmetros que modelam sua capacidade de injetar amostras maliciosas, manipular vetores de características e realizar consultas adaptativas ao classificador $f_\theta$. Derivamos propriedades de robustez probabilística, integridade de dados e confidencialidade paramétrica, estabelecendo limites formais para o erro sob perturbações limitadas em norma $L_p$. A arquitetura proposta integra validação estatística de dados, treinamento robusto, monitoramento de deriva de conceito, limitação de taxa em APIs e integração com SIEM corporativo, utilizando ferramentas disponíveis até 2011, como Snort, Suricata, Volatility, Metasploit e Burp Suite. Avaliamos empiricamente a solução em infraestrutura composta por servidores Dell R740, com dataset KDD Cup 1999 complementado por 14 milhões de registros reais anonimizados de logs de rede. Os resultados indicam redução de até 63% na taxa de evasão sob ataques com perturbação limitada e mitigação significativa de degradação por envenenamento de dados, com sobrecarga computacional inferior a 10%. Concluímos que a segurança de sistemas de detecção baseados em aprendizado de máquina, no contexto de 2011, exige integração entre fundamentos formais e práticas consolidadas de defesa em profundidade, especialmente frente ao cenário de APTs e spear phishing.

2020-11-09Read paper →