Research / Paper Files

Paper Files

Os Paper Files são uma prática pessoal de estudo contínuo em cibersegurança que aplica o método científico como ferramenta de aprendizado. Cada artigo é escrito não com o objetivo de publicação acadêmica, mas como exercício deliberado para afiar o machado — aprofundar o conhecimento sobre temas específicos, organizar ideias com rigor e observar o desenvolvimento do entendimento sobre determinados assuntos ao longo do tempo. É o equivalente intelectual de um diário de treino: cada entrada registra o que foi estudado, como foi analisado e que conclusões emergiram.

Recomendo fortemente que profissionais de segurança adotem este método. Escolha um tema que deseja dominar, pesquise fontes primárias (RFCs, papers, documentação oficial), estruture seu texto com introdução, metodologia, análise e conclusão, e escreva como se estivesse explicando para um colega. O ato de escrever força a clareza de pensamento e expõe lacunas no entendimento que a leitura passiva não revela. Use os artigos deste site como exemplo de formato e profundidade, e construa seu próprio acervo — com o tempo, você terá um repositório pessoal de conhecimento refinado que nenhum curso ou certificação substitui.

DAI & ADAI · 2026

DAI · PT

DAI: uma LLM de domínio específico com autoridade excluída do modelo, verificação por capacidades disjuntas e recibos recomputáveis

DAI (Decripte Artificial Intelligence) é uma LLM própria de domínio específico inserida em uma arquitetura de defesa autônoma governada. É uma instância da categoria proposta ADAI, definida no paper complementar. O traba…

Ler o paper →ADAI · PT

Inteligência Artificial de Defesa Autônoma: um arcabouço de envelope e evidência para LLMs governadas que agem sobre infraestrutura de produção

ADAI (Autonomous Defensive Artificial Intelligence) é uma categoria proposta de defesa cibernética autônoma governada. O arcabouço especifica perímetros defendidos, efeitos delimitados, reversão declarada e verificação p…

Ler o paper →

Todos Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

104 papers

AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina: Modelo Formal de Ameaças, Mecanismos de Defesa Multicamadas e Avaliação Empírica em Ambientes Corporativos (2011)

A crescente adoção de sistemas de aprendizado de máquina em ambientes corporativos, especialmente em detecção de fraudes, filtragem de spam, classificação de malware e análise comportamental, introduziu novos vetores de risco que extrapolam o modelo tradicional de segurança da informação. Diferentemente de aplicações determinísticas, classificadores estatísticos podem ser manipulados por meio de entradas cuidadosamente construídas, envenenamento de dados de treinamento e exploração de interfaces de predição expostas. Este trabalho propõe uma arquitetura operacional integrada para segurança de sistemas de aprendizado de máquina em produção, adequada ao contexto tecnológico de 2011, caracterizado pela emergência de campanhas APT, uso disseminado de spear phishing, exploração de vulnerabilidades em aplicações Web e adoção inicial de computação em nuvem. Desenvolvemos um modelo formal de ameaças que combina conceitos de segurança clássica — confidencialidade, integridade e disponibilidade — com propriedades estatísticas como risco empírico e robustez a perturbações limitadas. Definimos o risco total do sistema como combinação ponderada de risco empírico, risco adversarial e risco de vazamento de informação, sujeito a restrições de latência operacional. A arquitetura proposta integra controles de hardening de pipeline, validação criptográfica de artefatos, monitoramento estatístico online, inspeção de tráfego com Suricata, correlação em SIEM e análise forense com Volatility. Implementamos um protótipo utilizando ferramentas consolidadas até 2011, como Metasploit, Burp Suite, IDA Pro, Snort/Suricata e ambientes de virtualização VMware, avaliando empiricamente ataques de evasão baseados em manipulação de características e cenários de envenenamento de dados. Os resultados demonstram redução significativa na taxa de sucesso de ataques com overhead operacional inferior a 15%, mantendo compatibilidade com fluxos de operação de SOC corporativo. Concluímos que a segurança de sistemas de aprendizado de máquina exige abordagem multicamadas integrada à governança de segurança existente, sendo viável sua implementação com tecnologias disponíveis em 2011.

2020-08-12Read paper →AI Security

Arquitetura Integrada para Segurança de Sistemas Corporativos na Era das Ameaças Persistentes Avançadas: Modelo Formal de Ameaças, Defesa Multicamadas e Validação Empírica

A consolidação das Ameaças Persistentes Avançadas (Advanced Persistent Threats – APTs) entre 2009 e 2011, exemplificada por campanhas como Operation Aurora e Stuxnet, evidenciou a insuficiência de abordagens isoladas de segurança baseadas exclusivamente em prevenção perimetral. Nesse contexto, organizações passaram a operar infraestruturas críticas compostas por ambientes virtualizados, serviços expostos à Internet, estações corporativas suscetíveis a spear phishing e, emergentemente, dispositivos móveis. Este artigo propõe uma arquitetura integrada de segurança para sistemas corporativos, fundamentada em um modelo formal de ameaças, mecanismos de defesa multicamadas e validação empírica em ambiente operacional real. Formalizamos propriedades de confidencialidade, integridade e disponibilidade a partir de um modelo de adversário estratificado (externo, interno e persistente), incorporando vetores típicos da era APT, como exploração de vulnerabilidades zero-day, comprometimento da cadeia de suprimentos e movimentação lateral em redes internas. Definimos métricas quantitativas de robustez operacional, incluindo taxa de detecção, taxa de falso positivo, tempo médio de detecção (MTTD) e tempo médio de resposta (MTTR), e demonstramos como tais métricas podem ser integradas a um Security Operations Center (SOC) apoiado por IDS/IPS (Snort/Suricata), análise forense de memória (Volatility), correlação de eventos (SIEM) e inspeção de artefatos (YARA). A arquitetura proposta combina hardening de sistemas, segmentação de rede, monitoramento comportamental e verificação criptográfica de integridade por meio de funções hash e assinaturas digitais. A avaliação empírica, conduzida sobre logs corporativos e tráfego de rede real, demonstra redução significativa na taxa de sucesso de intrusões simuladas e melhoria mensurável nos indicadores operacionais. Concluímos que a integração formal entre modelagem de ameaças e telemetria operacional constitui elemento central para mitigação eficaz de APTs no cenário tecnológico vigente em 2011.

2020-05-16Read paper →AI Security

Arquitetura Integrada de Defesa para Sistemas de Detecção de Intrusão Baseados em Aprendizado de Máquina: Modelagem Formal de Ameaças e Resiliência Operacional em Ambientes Críticos (2012)

A crescente adoção de técnicas de aprendizado de máquina em sistemas de detecção de intrusão (IDS) e mecanismos de classificação de malware, especialmente após campanhas avançadas como Stuxnet (2010), Operação Aurora (2009–2010) e a violação da RSA (2011), introduziu novas superfícies de ataque associadas à manipulação de dados de treinamento e à evasão estatística. Diferentemente de mecanismos baseados exclusivamente em assinaturas, classificadores supervisionados dependem da integridade de conjuntos de dados e de pressupostos estatísticos sobre a distribuição das amostras. Este trabalho propõe uma arquitetura integrada de defesa para IDS baseados em aprendizado de máquina, com foco na modelagem formal de ataques de envenenamento de dados e na integração de controles tradicionais de segurança operacional disponíveis até 2012. Formalizamos o problema como uma otimização restrita em que um adversário controla uma fração $\alpha$ do conjunto de treinamento e busca maximizar a perda em amostras-alvo específicas. Propomos mecanismos de detecção baseados em distância de Mahalanobis, validação de integridade criptográfica com SHA-256 e monitoramento de rede com Snort e análise forense com Volatility. Avaliamos empiricamente a arquitetura utilizando o dataset NSL-KDD e tráfego sintético inspirado em padrões observados em campanhas APT, medindo taxa de sucesso de ataque, taxa de falso positivo e overhead computacional. Os resultados indicam redução significativa na eficácia de envenenamento ($78,3\%$ para $14,8\%$) com aumento controlado de falsos positivos ($4,1\%$). Demonstramos que a combinação de estatística robusta, controle de integridade e monitoramento operacional fornece ganhos mensuráveis de resiliência sem dependência de tecnologias emergentes não disponíveis à época. Concluímos que a segurança de sistemas baseados em aprendizado de máquina, no contexto de 2012, deve ser tratada como extensão dos princípios clássicos de defesa em profundidade, incorporando modelagem formal de ameaças, versionamento controlado de dados e integração com ferramentas consolidadas como Snort, Suricata (versões iniciais), Metasploit, Burp Suite e IDA Pro.

2020-02-17Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina em Ambientes Corporativos: Modelo Formal de Ameaças e Resiliência contra Envenenamento e Evasão

A crescente adoção de técnicas de aprendizado de máquina em ambientes corporativos e governamentais, especialmente para detecção de intrusões, classificação de spam, antifraude e análise de malware, introduziu novas superfícies de ataque não contempladas pelos modelos clássicos de segurança de software. Embora tais sistemas sejam projetados para aumentar a capacidade defensiva, evidências empíricas demonstram que algoritmos de aprendizado supervisionado podem ser explorados por meio de ataques de envenenamento de dados, manipulação adversarial de amostras de teste e inferência reversa de modelos. Neste trabalho, propomos uma arquitetura operacional integrada para segurança de sistemas de aprendizado de máquina, contextualizada no cenário tecnológico até 2012, caracterizado pela consolidação de campanhas APT, uso intensivo de spear phishing e crescente adoção de serviços em nuvem. Formalizamos um modelo de ameaças baseado em teoria dos jogos com restrições de orçamento adversarial, no qual o atacante busca maximizar a taxa de erro induzida ou degradar a performance do classificador, enquanto o defensor minimiza tal utilidade por meio de mecanismos estatísticos de validação, treinamento robusto e monitoramento comportamental. Apresentamos algoritmos para detecção de envenenamento baseados em análise de outliers e validação cruzada estratificada, bem como mecanismos de limitação e auditoria de consultas para mitigar extração de modelos. A implementação experimental foi realizada com ferramentas amplamente utilizadas até 2012, incluindo scikit-learn, Weka, Metasploit, Volatility e Snort, em infraestrutura virtualizada baseada em VMware ESXi e Amazon EC2. Resultados experimentais indicam redução superior a 60% na taxa de sucesso de ataques de evasão simulados e detecção superior a 85% de tentativas de manipulação de dados de treinamento, com overhead computacional inferior a 20%. Concluímos que a segurança de sistemas de aprendizado de máquina requer abordagem sistêmica integrada às práticas consolidadas de defesa em profundidade, especialmente em contextos de ameaças persistentes avançadas.

2019-11-20Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina em Ambientes Críticos: Modelo Formal de Ameaças, Detecção de Evasão e Hardening de Pipelines de Treinamento e Implantação (2012)

A crescente adoção de técnicas de aprendizado de máquina em sistemas de detecção de intrusão, classificação de malware, filtragem de spam e análise antifraude impõe novos desafios à engenharia de segurança da informação. Embora tais modelos estatísticos ampliem a capacidade de detecção de padrões complexos, introduzem superfícies de ataque específicas, incluindo evasão em tempo de inferência, envenenamento de dados de treinamento e manipulação de artefatos no pipeline de construção e implantação. Considerando o contexto tecnológico de 2012 — marcado por campanhas avançadas persistentes (APT), exploração de vulnerabilidades em cadeias de suprimento de software e consolidação de infraestruturas virtualizadas e de computação em nuvem — propomos uma arquitetura operacional integrada para proteção de sistemas baseados em aprendizado de máquina em ambientes críticos. Formalizamos um modelo matemático de ameaças que captura adversários adaptativos com capacidades de consulta black-box e inserção limitada de dados maliciosos no conjunto de treinamento. Definimos métricas de risco adversarial e propriedades de integridade de pipeline baseadas em assinaturas digitais e verificação criptográfica de artefatos. Propomos três camadas complementares: (i) treinamento robusto com otimização min–max aproximada; (ii) mecanismo híbrido de detecção de evasão em tempo de execução combinando análise de distância estatística e verificação de consistência de classificadores; e (iii) hardening do pipeline com controle de integridade, segregação de ambientes virtualizados e monitoramento de rede por IDS como Suricata. Avaliamos experimentalmente a abordagem em conjuntos de dados CIFAR-10 e KDD Cup 1999, demonstrando redução substancial na taxa de evasão sob ataques de manipulação de características, com impacto limitado na latência operacional. A contribuição central reside na integração formal entre robustez estatística e controles clássicos de segurança, compatíveis com o estado da arte tecnológico até 2012.

2019-08-24Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Detecção de Intrusão Baseados em Aprendizado de Máquina: Modelo Formal de Ameaças, Defesa em Profundidade e Avaliação Experimental em Ambientes Operacionais (2012)

A crescente sofisticação das Ameaças Persistentes Avançadas (APTs), evidenciada por incidentes como Stuxnet e a Operação Aurora, impôs desafios substanciais aos modelos tradicionais de defesa perimetral. Nesse contexto, técnicas de aprendizado de máquina passaram a ser incorporadas a Sistemas de Detecção de Intrusão (IDS) e plataformas de monitoramento de segurança com o objetivo de identificar padrões comportamentais complexos e atividades anômalas. Todavia, a adoção desses mecanismos introduz novas superfícies de ataque, especialmente no que se refere à manipulação adversarial de dados, envenenamento de conjuntos de treinamento e evasão de classificadores. Neste trabalho, propomos uma arquitetura integrada de segurança para IDS baseados em aprendizado de máquina, fundamentada em um modelo formal de ameaças que contempla as fases de coleta, treinamento e inferência. Formalizamos o risco adversarial como um problema de otimização sob restrições operacionais de latência e taxa de falso positivo, definindo métricas quantitativas para robustez e integridade. A arquitetura proposta adota abordagem de defesa em profundidade, integrando mecanismos de verificação criptográfica de integridade (SHA-256), análise de outliers estatísticos, correlação de eventos via SIEM e inspeção forense com ferramentas consolidadas como Snort, Suricata, Volatility, Metasploit e IDA Pro. Realizamos avaliação experimental utilizando o conjunto de dados KDD Cup 1999 e um dataset corporativo contendo 2,8 milhões de eventos de rede, comparando o método proposto com classificadores Random Forest e Support Vector Machines. Os resultados indicam redução significativa da taxa de falso positivo, mantendo latência compatível com ambientes operacionais. Demonstramos, ainda, a capacidade do modelo em detectar cenários simulados de envenenamento de dados e evasão comportamental inspirados em campanhas APT. Concluímos que a integração formal entre modelagem adversarial e práticas consolidadas de operações de segurança (SOC) constitui abordagem viável e necessária para mitigar riscos emergentes associados à aplicação de aprendizado de máquina em ciberdefesa.

2019-05-27Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Aprendizado de Máquina: Modelo Formal de Ameaças, Defesa Multicamadas e Avaliação Empírica em Ambientes Corporativos (2012)

A crescente adoção de técnicas de Aprendizado de Máquina (AM) em ambientes corporativos, especialmente em sistemas de detecção de fraude, filtragem de spam, detecção de intrusões e análise de malware, introduz novas superfícies de ataque que transcendem os modelos tradicionais de segurança da informação. Diferentemente de aplicações determinísticas convencionais, sistemas baseados em modelos estatísticos dependem criticamente de dados de treinamento, de propriedades de generalização e de interfaces de consulta que podem ser exploradas por adversários. Neste trabalho, propomos uma arquitetura integrada de segurança para sistemas de AM, fundamentada em um modelo formal de ameaças que contempla ataques de envenenamento de dados (poisoning), evasão (evasion) e extração de modelo (model extraction). Formalizamos matematicamente a superfície de ataque e as propriedades de segurança desejáveis — integridade, robustez e confidencialidade do modelo — e derivamos métricas quantitativas para avaliação operacional, incluindo taxa de detecção, taxa de falsos positivos e tempo médio para detecção (MTTD). A arquitetura proposta integra mecanismos clássicos de segurança, tais como IDS baseados em rede (Snort/Suricata), SIEM corporativo, regras YARA e análise forense com Volatility, ao ciclo de vida de modelos estatísticos. Implementamos um protótipo experimental utilizando Python 2.7, scikit-learn e infraestrutura virtualizada baseada em KVM, avaliando sua eficácia em cenários de classificação binária e detecção de anomalias com dados públicos (KDD Cup 1999 e SpamAssassin). Os resultados demonstram redução significativa na taxa de sucesso de ataques de evasão e capacidade robusta de detecção de tentativas de extração de modelo, com impacto operacional controlado em latência. Concluímos que a integração sistemática entre técnicas de segurança clássica e mecanismos específicos para proteção de modelos de AM é viável e necessária no contexto contemporâneo de ameaças avançadas persistentes (APT), conforme observado em incidentes recentes como Stuxnet e a Operação Aurora.

2019-02-27Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Detecção e Mitigação de Ataques de Evasão, Envenenamento e Extração de Modelos em Ambientes Corporativos (2013)

A crescente adoção de modelos de Aprendizado de Máquina (Machine Learning – ML) em sistemas corporativos críticos, incluindo detecção de fraudes, filtragem de spam, detecção de intrusões e análise de crédito, introduziu uma nova superfície de ataque caracterizada por vulnerabilidades estatísticas inerentes ao processo de aprendizado. Diferentemente de sistemas determinísticos tradicionais, modelos de ML dependem de generalização empírica a partir de dados potencialmente manipuláveis, tornando-os suscetíveis a ataques de evasão (evasion), envenenamento de dados (poisoning) e extração de modelo por meio de consultas adaptativas. Em 2013, a literatura já demonstrava que classificadores lineares e máquinas de vetores de suporte podiam ser sistematicamente manipulados tanto na fase de treinamento quanto na fase de inferência. Este trabalho propõe uma arquitetura operacional integrada para proteção de modelos de ML ao longo de todo o ciclo de vida — coleta de dados, treinamento, validação, implantação e monitoramento — alinhada a práticas de Security Operations Center (SOC), integração com SIEM (por exemplo, Splunk e Elastic Stack) e ao modelo Cyber Kill Chain da Lockheed Martin. Formalizamos um modelo de ameaça abrangente, definimos propriedades mensuráveis de robustez estatística e apresentamos mecanismos de detecção baseados em distância de Mahalanobis, divergência de Kullback-Leibler e limitação adaptativa de consultas. Avaliamos experimentalmente a proposta utilizando classificadores SVM e regressão logística sobre os conjuntos de dados KDD Cup 1999, NSL-KDD e um dataset proprietário de transações financeiras. Os resultados indicam capacidade de detecção de amostras envenenadas superior a 90% com taxa de falso positivo inferior a 5%, além de redução significativa na viabilidade de extração de modelo por meio de controle de entropia e limitação de taxa. Concluímos que a segurança de modelos de ML deve ser tratada como componente estrutural da arquitetura corporativa de defesa cibernética, integrando controles estatísticos, monitoramento contínuo e resposta a incidentes.

2018-08-07Read paper →AI Security

Segurança de Sistemas de Aprendizado de Máquina em Ambientes de Segurança da Informação: Modelagem de Ameaças, Vetores de Ataque e Estratégias de Defesa (Estado da Arte até 2013)

Sistemas baseados em aprendizado de máquina começaram a ser amplamente integrados a mecanismos de defesa cibernética durante a última década, especialmente em áreas como detecção de intrusão, classificação de malware, análise de spam e correlação de eventos de segurança. Apesar de sua promessa operacional, esses sistemas introduzem novas superfícies de ataque pouco exploradas pelos modelos tradicionais de segurança da informação. Diferentemente de softwares determinísticos, classificadores estatísticos podem ser manipulados por adversários que exploram propriedades matemáticas do treinamento supervisionado, manipulação de dados ou inferência de modelo. Este trabalho analisa sistematicamente os riscos de segurança associados a sistemas de aprendizado de máquina aplicados à cibersegurança no contexto tecnológico existente até 2013. Inicialmente, discutimos os fundamentos teóricos do aprendizado de máquina adversarial e revisamos pesquisas anteriores que demonstram ataques contra classificadores lineares, máquinas de vetores de suporte (SVM), redes neurais e filtros Bayesianos. Em seguida, formalizamos um modelo de ameaça para sistemas de defesa baseados em aprendizado de máquina, considerando adversários com diferentes níveis de conhecimento sobre o modelo, dados de treinamento e processo de decisão. Com base nesse modelo, classificamos ataques em três categorias principais: envenenamento de dados (poisoning attacks), evasão em tempo de teste (evasion attacks) e extração de modelo (model extraction). Propomos então uma metodologia prática para avaliar a robustez de sistemas de segurança baseados em aprendizado de máquina. Essa metodologia combina análise estatística de sensibilidade, simulação adversarial e monitoramento de integridade do conjunto de treinamento. A implementação experimental utiliza ferramentas disponíveis até 2013, incluindo Python, scikit-learn, libSVM, Cuckoo Sandbox, YARA e Splunk para coleta e análise de dados. A avaliação experimental demonstra que classificadores amplamente utilizados em detecção de spam e classificação de malware podem sofrer degradação significativa de desempenho quando expostos a ataques adversariais relativamente simples. Em cenários controlados, observamos reduções de até 38% na taxa de detecção após ataques de envenenamento direcionado. Por fim, discutimos implicações operacionais para equipes de defesa cibernética e apresentamos direções de pesquisa para tornar sistemas de aprendizado de máquina mais resilientes contra adversários ativos. O trabalho contribui com um framework prático para análise de segurança de sistemas de aprendizado de máquina em ambientes de defesa cibernética, alinhado ao cenário tecnológico de 2013.

2018-07-31Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina: Modelagem de Ameaças, Hardening de Pipelines Analíticos e Resposta a Incidentes em Ambientes Corporativos (2013)

A adoção de técnicas de aprendizado de máquina em ambientes corporativos intensificou-se significativamente até 2013, especialmente em domínios como detecção de fraude, filtragem de spam, detecção de malware e análise comportamental. Diferentemente de sistemas puramente determinísticos, modelos estatísticos introduzem novas superfícies de ataque associadas à manipulação de dados, evasão de classificadores e exploração de APIs de predição. Este trabalho propõe uma arquitetura operacional de segurança voltada à proteção de pipelines de aprendizado de máquina em ambientes de produção, considerando o estado da arte técnico e normativo disponível até 2013. Fundamentamos nossa abordagem na literatura sobre ataques a classificadores, incluindo evasão e envenenamento de dados, bem como em modelos de ameaça derivados da Cyber Kill Chain e do framework MITRE ATT&CK. Formalizamos o risco associado a sistemas de aprendizado de máquina como $R = P(A) \cdot I(A)$, onde $P(A)$ representa a probabilidade de sucesso do ataque e $I(A)$ seu impacto operacional. A arquitetura proposta integra governança de dados, validação estatística de integridade, hardening de infraestrutura baseada em virtualização e contêineres (Docker), monitoramento comportamental com SIEM (Splunk/ELK), detecção de anomalias baseada em distância de Mahalanobis e mecanismos de limitação de taxa para mitigar extração de modelos. Avaliamos experimentalmente a arquitetura em um cenário de detecção de fraude com cinco milhões de registros sintéticos, simulando ataques de evasão e consultas automatizadas para reconstrução de fronteiras de decisão. Os resultados indicam redução substancial na taxa de sucesso de evasão e aumento significativo do custo de extração de modelo, com sobrecarga computacional moderada. Concluímos que a proteção eficaz de sistemas de aprendizado de máquina em 2013 requer integração entre controles estatísticos, práticas consolidadas de segurança da informação e monitoramento contínuo orientado por inteligência de ameaças estruturada (STIX/TAXII).

2018-07-24Read paper →AI Security

Segurança de Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Vetores de Ataque e Arquiteturas Defensivas em Ambientes Operacionais Críticos (2013)

A adoção de técnicas de aprendizado de máquina (Machine Learning – ML) em ambientes operacionais críticos intensificou-se nos últimos anos, especialmente nos setores financeiro, energético, governamental e de telecomunicações. Em 2013, modelos estatísticos e algoritmos supervisionados, como Support Vector Machines (SVM), regressão logística e ensembles baseados em árvores, já eram amplamente empregados para detecção de fraude, classificação de tráfego malicioso e monitoramento de anomalias industriais. Entretanto, a incorporação desses modelos introduz superfícies de ataque específicas, distintas daquelas tradicionalmente associadas à segurança de software. Este trabalho sistematiza uma abordagem integrada para segurança de sistemas de aprendizado de máquina sob a perspectiva de 2013, alinhando modelagem formal de ameaças, análise de risco quantitativa e controles técnicos implementáveis com ferramentas contemporâneas. Estruturamos um modelo adversarial que contempla ataques de envenenamento de dados, evasão em tempo de inferência e exploração de APIs de predição, fundamentando-nos em trabalhos consolidados sobre segurança de classificadores (BIGGIO; NELSON; LASKOV, 2012; BARRAGENO et al., 2010). Propomos uma arquitetura defensiva em múltiplas camadas que integra controle de integridade de dados, validação estatística, monitoramento comportamental com Splunk e ELK, uso de YARA para inspeção de artefatos e sandboxing com Cuckoo Sandbox. Avaliamos experimentalmente o impacto de ataques de envenenamento em um sistema de detecção de fraude baseado em SVM, demonstrando degradação significativa de desempenho sob manipulação de 5% dos dados de treinamento, bem como mitigação parcial mediante validação robusta e particionamento estratificado. Discutimos ainda implicações para ambientes industriais (ICS/SCADA) e correlação com modelos de ameaça estruturados, como a Cyber Kill Chain (HUTCHINS; CLOPPERT; AMIN, 2011) e o framework MITRE ATT&CK (MITRE, 2013). Concluímos que a segurança de sistemas de aprendizado de máquina, em 2013, deve ser tratada como extensão natural da engenharia de segurança da informação, exigindo rigor formal, governança de dados e monitoramento contínuo.

2018-07-17Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Detecção Baseados em Aprendizado de Máquina: Formalização de Ameaças, Mecanismos de Defesa e Avaliação Experimental em Ambientes Corporativos (2014)

A crescente adoção de técnicas de Aprendizado de Máquina (AM) em sistemas corporativos de detecção de fraude, classificação de malware, correlação de eventos de segurança e análise de tráfego de rede introduziu uma nova classe de riscos à segurança da informação. Em 2014, organizações já empregam modelos estatísticos e classificadores supervisionados integrados a SIEMs, sandboxes de malware e mecanismos de resposta a incidentes. Entretanto, a literatura demonstra que tais modelos são suscetíveis a ataques de evasão, envenenamento de dados e inferência de informações sensíveis. Neste trabalho, propomos uma arquitetura integrada de segurança para sistemas baseados em AM, tratando o modelo como ativo crítico ao longo de todo o seu ciclo de vida: coleta de dados, treinamento, implantação e inferência. Formalizamos o sistema como uma tupla matemática que permite definir propriedades mensuráveis de integridade, confidencialidade e robustez. Modelamos o adversário com capacidades parametrizadas de inserção de amostras maliciosas e realização de consultas adaptativas. A arquitetura proposta organiza-se em quatro camadas: (i) segurança e validação de dados, com hashing criptográfico e detecção estatística de anomalias; (ii) fortalecimento do pipeline de treinamento com controles de acesso e segregação de ambientes; (iii) proteção do modelo por meio de treinamento robusto e limitação de consultas; e (iv) monitoramento contínuo com integração a ferramentas como Suricata, YARA, Cuckoo Sandbox e Elastic Stack. Implementamos um protótipo em ambiente corporativo simulado, avaliando ataques de envenenamento e evasão contra um classificador de fraude. Os resultados indicam que a arquitetura reduz significativamente a degradação de desempenho sob ataque, com overhead computacional médio inferior a 10%. Demonstramos, assim, que é possível incorporar garantias formais e controles operacionais coerentes com o estado da arte de 2014, contribuindo para a consolidação de práticas de segurança específicas para sistemas baseados em Aprendizado de Máquina.

2017-08-17Read paper →AI Security

Arquitetura Integrada para Segurança de Sistemas Baseados em Aprendizado de Máquina: Modelo Formal, Pipeline de Detecção de Ataques e Validação Empírica em Ambientes Operacionais (2014)

A crescente adoção de técnicas de Aprendizado de Máquina (AM) em sistemas corporativos e governamentais até 2014 — incluindo detecção de malware, classificação de tráfego de rede, filtragem antifraude e análise comportamental — introduziu novas superfícies de ataque que extrapolam os modelos tradicionais de segurança perimetral. Diferentemente de sistemas determinísticos clássicos, classificadores estatísticos podem ser explorados por meio de manipulação adversarial de entradas, envenenamento de dados de treinamento e exploração abusiva de interfaces de predição expostas via APIs. Neste trabalho, propomos uma arquitetura integrada para segurança de sistemas baseados em AM, fundamentada em modelagem matemática do adversário, instrumentação de telemetria operacional e correlação com frameworks de inteligência de ameaças disponíveis até 2014, como a Cyber Kill Chain e o MITRE ATT&CK (versão inicial). Formalizamos o problema defensivo como uma otimização min–max sobre a perda do classificador sob restrições de perturbação $\|\delta\|_p \le \epsilon$, incorporando métricas de robustez, detectabilidade e impacto operacional. A arquitetura proposta integra mecanismos de monitoramento comportamental, correlação em SIEM (Splunk/ELK), análise de tráfego (Suricata, Zeek/Bro) e detecção de anomalias em fluxos de consulta. Avaliamos empiricamente a solução em cenários representativos de 2014, incluindo detecção de malware baseada em características estáticas e classificação de tráfego de rede, utilizando datasets públicos contemporâneos (KDD Cup 1999, NSL-KDD, coleções de malware do Malware Genome Project). Demonstramos redução significativa na taxa de sucesso de evasão e melhoria substancial na detecção de abuso de API, com overhead médio inferior a 10% na latência. Nossos resultados indicam que a integração entre técnicas de robustez algorítmica e monitoramento operacional é viável e eficaz no contexto tecnológico de 2014, contribuindo para a consolidação de práticas de segurança aplicadas a sistemas inteligentes em ambientes produtivos.

2017-08-11Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Aprendizado de Máquina em Ambientes Corporativos: Modelagem Formal de Ameaças, Detecção de Envenenamento e Hardening Operacional (2014)

A adoção crescente de sistemas de aprendizado de máquina (AM) em ambientes corporativos, particularmente em detecção de fraudes, classificação de malware e análise comportamental em SOCs (Security Operations Centers), introduziu novas superfícies de ataque que extrapolam o modelo clássico de segurança da informação. Diferentemente de sistemas determinísticos tradicionais, classificadores estatísticos podem ser manipulados por meio de envenenamento de dados (poisoning), evasão em tempo de teste (evasion) e exploração de interfaces de inferência. Este trabalho, situado no contexto tecnológico de 2014, propõe uma arquitetura integrada de segurança para sistemas de AM que combina modelagem formal de ameaças, técnicas de robustez estatística e controles operacionais compatíveis com infraestruturas corporativas baseadas em virtualização, SIEM e monitoramento de rede. Formalizamos o problema adversarial como um jogo de otimização sob restrições, no qual o atacante busca maximizar a probabilidade de erro do classificador ou degradar sua função de decisão por meio da manipulação do conjunto de treinamento. Propomos uma arquitetura em quatro camadas: (i) integridade de dados, com validação criptográfica e detecção de desvios estatísticos; (ii) treinamento robusto, com regularização adversarial e validação cruzada estratificada; (iii) monitoramento em tempo de execução, integrando Suricata, Snort, YARA, Cuckoo Sandbox e SIEM (Splunk/ELK); e (iv) hardening de implantação em ambientes virtualizados com controle de acesso baseado em papéis e segmentação de rede. Avaliamos experimentalmente a abordagem em cenários de detecção de malware e fraude bancária, medindo acurácia sob ataque, taxa de detecção de envenenamento e overhead operacional. Os resultados indicam redução significativa da taxa de erro sob ataques de evasão simples e detecção consistente de anomalias de distribuição, com impacto operacional inferior a 15%. Concluímos que a segurança de AM deve ser tratada como extensão natural da engenharia de segurança corporativa, integrando fundamentos estatísticos e mecanismos consolidados de defesa em profundidade.

2017-08-04Read paper →AI Security

Arquitetura Resiliente para Segurança de Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Defesa em Profundidade e Avaliação Empírica em Ambientes Operacionais (2015)

A crescente adoção de técnicas de aprendizado de máquina em sistemas corporativos e governamentais tem ampliado significativamente a superfície de ataque das infraestruturas de tecnologia da informação. Em 2015, modelos estatísticos e redes neurais já eram empregados em detecção de fraudes, filtragem de spam, sistemas de recomendação e análise de ameaças em centros de operações de segurança (SOC). Entretanto, a incorporação desses modelos em pipelines de dados complexos introduz vetores específicos de ataque, incluindo envenenamento de dados de treinamento, evasão adversarial em fase de inferência, extração de modelos por meio de consultas sistemáticas e comprometimento da cadeia de suprimentos de software. Neste trabalho, propomos uma arquitetura resiliente para segurança de sistemas de aprendizado de máquina, fundamentada em modelagem formal de ameaças, análise quantitativa de risco e princípios de defesa em profundidade. Formalizamos o pipeline de aprendizado como um grafo direcionado acíclico e definimos uma função de risco baseada na probabilidade e no impacto de eventos adversos. Propomos mecanismos híbridos de detecção de anomalias estatísticas para identificação de envenenamento, limitação adaptativa de consultas para mitigar extração de modelos e controles de integridade criptográfica para proteção de artefatos. A implementação integra ferramentas consolidadas até 2015, como YARA, Cuckoo Sandbox, Suricata, ELK Stack e controles de integridade baseados em SHA-256. Avaliamos empiricamente a arquitetura em cenários envolvendo o conjunto de dados CIFAR-10 e bases de detecção de intrusão, analisando ataques de evasão baseados em gradiente e inserção de instâncias maliciosas no treinamento. Os resultados indicam aumento significativo da robustez com sobrecarga operacional moderada. Concluímos que a integração sistemática entre controles tradicionais de segurança e mecanismos específicos para aprendizado de máquina é viável e necessária para mitigar riscos emergentes no contexto de 2015.

2016-09-24Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Formalização de Ameaças, Defesa Multicamadas e Validação Empírica em Ambientes SOC

A incorporação de modelos de aprendizado de máquina em sistemas críticos corporativos, como detecção de intrusão, prevenção a fraudes e classificação de malware, introduz uma nova classe de riscos de segurança que transcende as vulnerabilidades tradicionais de software. Diferentemente de aplicações determinísticas convencionais, modelos estatísticos são suscetíveis a ataques de envenenamento de dados, evasão adversarial e extração de modelos, mesmo quando expostos apenas por meio de interfaces de inferência. Este trabalho, situado no contexto tecnológico de 2015, propõe uma arquitetura operacional multicamadas para segurança de modelos de aprendizado de máquina integrados a Centros de Operações de Segurança (SOC). Formalizamos um modelo de ameaça baseado em capacidades adversariais black-box, gray-box e white-box, alinhando vetores de ataque às categorias de intrusão consolidadas no MITRE ATT&CK (2013) e ao modelo Cyber Kill Chain (HUTCHINS; CLOPPERT; AMIN, 2011). A partir dessa formalização, definimos propriedades de segurança mensuráveis — robustez adversarial, integridade do conjunto de treinamento e confidencialidade paramétrica — e expressamos tais propriedades em termos probabilísticos e de otimização restrita. Propomos uma arquitetura composta por quatro camadas: (i) validação e higienização de dados com detecção estatística de outliers e verificação criptográfica de integridade; (ii) treinamento robusto com regularização e geração de exemplos adversariais via Fast Gradient Sign Method (FGSM); (iii) monitoramento de inferência com integração a SIEM (Elastic Stack e Splunk), IDS (Snort/Suricata) e regras baseadas em YARA; e (iv) controle de acesso e limitação de taxa para mitigação de extração automatizada. Avaliamos empiricamente a proposta em conjuntos MNIST e CIFAR-10 sob ataques de evasão e envenenamento simulados, medindo acurácia robusta, taxa de detecção e impacto de latência. Os resultados indicam redução substancial da taxa de sucesso adversarial com sobrecusto operacional moderado, demonstrando a viabilidade de integração entre controles de segurança tradicionais e mecanismos específicos de aprendizado de máquina no contexto operacional de 2015.

2016-09-17Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Detecção de Envenenamento, Evasão e Extração com Integração ao SOC

A incorporação de modelos de Aprendizado de Máquina (Machine Learning – ML) em ambientes corporativos críticos já se consolidava, em 2015, como elemento central em sistemas de detecção de intrusão, mecanismos antifraude e análise comportamental. Entretanto, a literatura técnica evidenciava que tais modelos introduzem superfícies de ataque específicas, incluindo envenenamento de dados de treinamento, evasão adversarial em tempo de inferência e extração de modelos via consultas repetidas a APIs. Neste trabalho, propomos uma arquitetura operacional integrada para segurança de modelos de ML, concebida para ambientes corporativos e alinhada às práticas de Security Operations Centers (SOCs) e plataformas SIEM como Splunk e Elastic Stack. Formalizamos um modelo de ameaça envolvendo adversários de envenenamento, evasão e extração, e definimos métricas quantitativas de risco e restrições operacionais. Propomos um algoritmo de detecção de envenenamento baseado em análise estatística no espaço latente por meio de autoencoders e distância de Mahalanobis, bem como um mecanismo de detecção de extração fundamentado na análise de padrões de consulta e entropia preditiva. Implementamos a arquitetura utilizando PyTorch, Scikit-learn, Suricata, YARA e integração via Filebeat ao Elastic Stack, mantendo coerência tecnológica com o estado da prática até 2015. A avaliação experimental, conduzida sobre os conjuntos CIFAR-10 e UNSW-NB15, demonstra redução significativa da taxa de sucesso de ataques de envenenamento (de 62% para 7,9%) e aumento substancial da robustez contra evasão baseada em FGSM, com overhead médio inferior a 12%. Apresentamos ainda um estudo de caso em ambiente financeiro de alto volume transacional, evidenciando a viabilidade de integração com processos de monitoramento e resposta a incidentes. Concluímos que a operacionalização da segurança de ML requer abordagem sistêmica que combine técnicas estatísticas, monitoramento contínuo e integração ao ecossistema SOC, mitigando riscos emergentes sem comprometer a eficiência operacional.

2016-09-10Read paper →AI Security

Arquitetura Integrada para Segurança de Sistemas de Aprendizado de Máquina: Modelagem de Ameaças, Detecção de Ataques Adversariais e Monitoramento Operacional em Ambientes Críticos (2016)

A crescente adoção de sistemas de Aprendizado de Máquina (AM) em setores como finanças, defesa, energia e infraestrutura crítica tem ampliado a superfície de ataque das organizações. Embora modelos estatísticos e redes neurais profundas tenham demonstrado desempenho superior em tarefas de classificação e detecção, evidências recentes mostram que tais sistemas são vulneráveis a ataques de evasão, envenenamento de dados e extração de modelos. Desde a demonstração de exemplos adversariais por Szegedy et al. (2014) e a formalização do método Fast Gradient Sign Method por Goodfellow, Shlens e Szegedy (2015), tornou-se claro que pequenas perturbações cuidadosamente construídas podem induzir erros sistemáticos. Paralelamente, a consolidação de estruturas como a Cyber Kill Chain (HUTCHINS; CLOPPERT; AMIN, 2011), o MITRE ATT&CK (MITRE, 2013) e padrões de inteligência de ameaças como STIX e TAXII (BARNUM, 2014) forneceu arcabouço operacional para contextualização de ataques. Neste trabalho, propomos uma arquitetura integrada de segurança para sistemas de AM, combinando modelagem formal de ameaças, mecanismos matemáticos de robustez adversarial e monitoramento contínuo por meio de ferramentas consolidadas até 2016, como Suricata, Zeek (Bro), Elastic Stack, YARA e Cuckoo Sandbox. Formalizamos métricas de robustez $R(\epsilon)$ e critérios de detectabilidade sob restrições operacionais de latência. Avaliamos empiricamente a arquitetura em ambiente controlado com CIFAR-10, ataques FGSM e cenários de extração baseados em consultas. Os resultados indicam aumento de robustez para 61,8% sob $\epsilon$ controlado, com taxa de falso positivo inferior a 5% e sobrecarga média inferior a 10%. Concluímos que a integração entre controles matemáticos e telemetria operacional é condição necessária para proteção eficaz de sistemas de AM em produção, especialmente em ambientes críticos sujeitos a ameaças persistentes avançadas.

2015-11-09Read paper →AI Security

Arquitetura Integrada de Defesa para Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Detecção de Ataques Adversariais e Monitoramento Contínuo em Ambientes Operacionais (2016)

A crescente adoção de sistemas de aprendizado de máquina (AM) em ambientes corporativos e governamentais até 2016 introduziu novas superfícies de ataque que extrapolam os modelos tradicionais de segurança de software. Redes neurais profundas passaram a ser empregadas em detecção de intrusão, análise de malware, autenticação biométrica e sistemas antifraude, ampliando a dependência operacional desses mecanismos. Entretanto, evidências empíricas demonstraram que tais modelos são vulneráveis a perturbações adversariais, ataques de envenenamento de dados e extração de modelo por meio de interfaces de predição. Neste trabalho, propomos uma arquitetura integrada de defesa para sistemas de AM, alinhada às práticas consolidadas de operações de segurança (SOC) vigentes até 2016, incluindo integração com SIEM, IDS/IPS e mecanismos de inteligência de ameaças baseados em STIX/TAXII. Formalizamos um modelo de ameaça para adversários com acesso black-box e capacidade limitada de envenenamento, definindo propriedades desejáveis de robustez local, integridade de treinamento e detectabilidade em tempo de execução. Propomos um mecanismo híbrido de detecção baseado na distância de Mahalanobis sobre o vetor de probabilidades e na entropia preditiva, combinados por escore ponderado. Implementamos a arquitetura utilizando PyTorch 0.4, Suricata 3.x, Elastic Stack 5.x, YARA e Cuckoo Sandbox, tecnologias amplamente utilizadas à época. Avaliamos experimentalmente a solução no conjunto CIFAR-10 sob ataques FGSM, demonstrando redução significativa da taxa de sucesso adversarial com overhead operacional inferior a 10%. Por fim, discutimos a integração com processos de resposta a incidentes inspirados na Cyber Kill Chain e no framework MITRE ATT&CK (versões iniciais), evidenciando a viabilidade prática da abordagem em ambientes antifraude. Os resultados indicam que a segurança de AM, já em 2016, demandava tratamento sistêmico integrado às operações de segurança corporativas.

2015-11-02Read paper →AI Security

Arquitetura Operacional para Defesa e Resiliência de Sistemas de Aprendizado de Máquina Aplicados à Cibersegurança contra Ataques Adversariais, Envenenamento de Dados e Exploração de Cadeia de Suprimentos (2016)

A incorporação de técnicas de aprendizado de máquina em sistemas de cibersegurança — como detecção de malware, classificação de tráfego de rede e análise antifraude — intensificou-se significativamente entre 2013 e 2016. Contudo, tais modelos introduzem novas superfícies de ataque associadas à manipulação estatística de dados, incluindo exemplos adversariais, envenenamento de treinamento e extração de modelos via APIs. Neste trabalho, propomos uma arquitetura operacional integrada para defesa e resiliência de sistemas de aprendizado de máquina empregados em ambientes corporativos e infraestruturas críticas. Formalizamos o modelo de ameaça considerando adversários com capacidades de consulta adaptativa, inserção limitada de amostras maliciosas e conhecimento parcial da arquitetura do classificador. Modelamos ataques adversariais como problemas de otimização restrita $ \max_{\|\delta\|_p \leq \epsilon} L(f_\theta(x+\delta), y) $ e envenenamento como otimização bilevel. A arquitetura proposta integra quatro camadas: (i) ingestão segura e verificação de integridade de dados; (ii) treinamento robusto com geração adversarial baseada em gradiente; (iii) detecção em tempo de execução com análise estatística de sensibilidade; e (iv) monitoramento de integridade de modelos e dependências por meio de hashing criptográfico e assinaturas digitais. Implementamos protótipos utilizando TensorFlow 0.12, Cuckoo Sandbox, YARA, ELK Stack e Suricata, tecnologias amplamente disponíveis até 2016. Avaliamos empiricamente a arquitetura em conjuntos de dados públicos como MNIST, CIFAR-10 e KDD Cup 1999, observando redução de até 62% na taxa de sucesso de ataques adversariais e detecção de envenenamento com precisão superior a 94%, com overhead médio inferior a 13%. Demonstramos, ainda, estudo de caso em pipeline de detecção de malware com análise dinâmica. Concluímos que a robustez isolada é insuficiente, sendo necessária abordagem sistêmica que combine mecanismos criptográficos, monitoramento comportamental e engenharia segura de dados, alinhada a modelos clássicos de ciclo de ataque como a Cyber Kill Chain.

2015-10-26Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Detecção, Mitigação e Resposta a Ataques Adversariais em Ambientes Corporativos (2016)

A crescente adoção de modelos de aprendizado de máquina (ML) em sistemas de detecção de malware, classificação de tráfego de rede, prevenção a fraudes e autenticação biométrica introduziu uma nova superfície de ataque no contexto da segurança da informação. Trabalhos recentes demonstraram que modelos de aprendizado profundo são suscetíveis a perturbações adversariais cuidadosamente construídas, capazes de induzir erros de classificação com alterações imperceptíveis às entradas originais. Embora tais vulnerabilidades tenham sido amplamente estudadas sob a perspectiva teórica, permanece uma lacuna quanto à sua operacionalização em ambientes corporativos integrados a centros de operações de segurança (SOC). Neste artigo, propomos uma arquitetura operacional para detecção, mitigação e resposta a ataques adversariais contra modelos de ML em produção, alinhada às práticas de monitoramento e inteligência de ameaças vigentes até 2016, incluindo integração com SIEM, IDS/IPS, STIX/TAXII e MITRE ATT&CK (versões iniciais). Formalizamos um modelo de ameaça envolvendo adversários com acesso black-box via APIs e capacidade de consultas adaptativas. Introduzimos um mecanismo de detecção estatística baseado em distância de Mahalanobis sobre representações internas do modelo e análise de entropia de saída, com complexidade computacional controlada. Avaliamos empiricamente a proposta utilizando os conjuntos MNIST, CIFAR-10 e NSL-KDD, sob ataques FGSM, variações iterativas baseadas em gradiente e DeepFool. Os resultados indicam redução média de 61,8% na taxa de sucesso dos ataques, com acréscimo médio de latência de 9,3 ms e taxa de falso positivo de 4,7%. Demonstramos ainda a integração prática com Suricata, YARA, Cuckoo Sandbox e Elastic Stack, possibilitando resposta automatizada em contexto de SOC. Concluímos que a combinação de técnicas estatísticas no nível do modelo com mecanismos tradicionais de monitoramento de rede constitui abordagem viável e operacionalmente sustentável para mitigar riscos adversariais em 2016.

2015-10-19Read paper →AI Security

Arquitetura Integrada para Segurança de Sistemas de Aprendizado de Máquina: Modelo Formal de Ameaças, Detecção de Ataques Adversariais e Defesa Operacional em Ambientes Corporativos

A crescente adoção de sistemas de aprendizado de máquina em ambientes corporativos, financeiros, industriais e governamentais tem ampliado significativamente a superfície de ataque das organizações. Modelos supervisionados são atualmente empregados em detecção de fraudes, classificação de malware, análise de tráfego de rede, autenticação biométrica e suporte à decisão, desempenhando papel crítico em processos de negócio. Entretanto, tais sistemas introduzem vulnerabilidades específicas, incluindo ataques adversariais em fase de inferência, envenenamento de dados em fase de treinamento, extração e inversão de modelos e inferência de pertencimento. Neste trabalho, propomos uma arquitetura integrada de segurança para sistemas de aprendizado de máquina, fundamentada em um modelo formal de ameaças que integra vetores clássicos de segurança da informação — conforme descritos em frameworks como MITRE ATT&CK e controles NIST — a ataques específicos contra modelos estatísticos. Formalizamos métricas de risco adversarial baseadas em otimização robusta e integridade de dados, definindo funções de custo e limites de perturbação sob normas $L_p$. Desenvolvemos dois mecanismos principais de defesa: (i) um detector estatístico de entradas adversariais baseado em análise de gradientes e divergência de distribuições, e (ii) um mecanismo de detecção de envenenamento por inspeção de influência e análise de outliers no espaço de características. Implementamos a arquitetura em ambiente corporativo simulado com integração a SIEM, IDS e controles de acesso, avaliando desempenho em termos de acurácia, taxa de falso positivo, latência e impacto operacional. Os resultados experimentais indicam redução significativa na taxa de sucesso de ataques adversariais e de envenenamento, com sobrecarga operacional inferior a 12% em latência média de inferência. Concluímos que a segurança de sistemas de aprendizado de máquina requer abordagem multidisciplinar que combine formalização matemática, governança de dados e integração operacional contínua, sendo insuficiente tratá-la apenas como extensão da segurança tradicional de aplicações.

2014-12-10Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Formalização de Ameaças, Detecção de Ataques Adversariais e Hardening em Ambientes Corporativos (2017)

A crescente adoção de modelos de aprendizado de máquina (ML) em ambientes corporativos, especialmente em detecção de fraude, classificação de malware, sistemas antifraude e monitoramento de redes, introduziu uma nova classe de riscos de segurança cibernética até 2017. Diferentemente de aplicações tradicionais, modelos estatísticos incorporam superfícies de ataque associadas a dados de treinamento, interfaces de predição e propriedades geométricas do espaço de características. Trabalhos recentes demonstraram a viabilidade prática de ataques adversariais por perturbações $\epsilon$-limitadas, extração de modelos por consultas adaptativas e envenenamento de dados de treinamento, comprometendo tanto a confidencialidade quanto a integridade dos sistemas (GOODFELLOW; SHLENS; SZEGEDY, 2015; TRAMÈR et al., 2016; BIGGIO; NELSON; LASKOV, 2012). Neste artigo, propomos uma arquitetura operacional integrada para segurança de modelos de ML ao longo de todo o ciclo de vida — coleta de dados, treinamento, validação, implantação e inferência — com foco em ambientes corporativos e centros de operações de segurança (SOC). Formalizamos um modelo de ameaça baseado em teoria dos jogos que captura capacidades realistas de adversários com acesso black-box e influência parcial sobre dados. Introduzimos dois mecanismos práticos: (i) um detector estatístico de desvios adversariais baseado em distância de Mahalanobis no espaço de embeddings e (ii) um procedimento de análise de influência aproximada para identificação de amostras potencialmente envenenadas. Implementamos a arquitetura utilizando ferramentas amplamente adotadas até 2017, incluindo PyTorch, MLflow, Elastic Stack, Suricata, YARA, Docker e Kubernetes. Avaliamos empiricamente a proposta em CIFAR-10, NSL-KDD e um corpus de malware com 1,2 milhão de amostras. Os resultados demonstram redução significativa na taxa de sucesso de ataques FGSM e PGD, alta taxa de detecção de envenenamento (recall superior a 90%) e overhead operacional inferior a 10%. Concluímos que a integração entre técnicas estatísticas, monitoramento contínuo e controles operacionais de segurança é viável e necessária para proteger ativos baseados em ML em organizações contemporâneas.

2014-12-03Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Aprendizado de Máquina: Formalização de Ameaças, Defesa em Profundidade e Validação Empírica em Ambientes Operacionais (2018)

A adoção crescente de sistemas de aprendizado de máquina (Machine Learning – ML) em contextos de segurança cibernética, como detecção de malware, análise de tráfego de rede e prevenção a fraudes, introduziu uma nova superfície de ataque direcionada aos próprios modelos. Embora técnicas adversariais tenham sido amplamente investigadas no meio acadêmico, sua integração sistemática em arquiteturas operacionais de segurança ainda era incipiente em 2018. Neste trabalho, formalizamos um modelo de ameaças aplicável a sistemas supervisionados implantados em ambientes corporativos, considerando ataques de evasão, envenenamento de dados, extração de modelo e inferência de pertinência. Propomos uma arquitetura integrada de defesa em profundidade composta por sanitização de dados, validação adversarial, monitoramento em tempo de execução e mecanismos probabilísticos de fingerprinting. Desenvolvemos formulações matemáticas rigorosas para caracterizar sucesso adversarial e integridade de treinamento, bem como algoritmos de detecção baseados em anomalias de gradiente e consultas sentinela. Implementamos a arquitetura sobre uma pilha tecnológica compatível com o estado da arte de 2018, incluindo Kubernetes, MLflow, Suricata, Falco, YARA e regras Sigma. Avaliamos empiricamente a abordagem utilizando os conjuntos de dados EMBER, CIC-IDS2017 e Enron Spam, medindo taxa de sucesso adversarial, impacto de envenenamento e capacidade de detecção de extração. Os resultados demonstram redução significativa na taxa de sucesso de ataques de evasão (de 64,2% para 13,8%) e melhoria substancial na detecção de extração (até 92,1%), com sobrecarga computacional média inferior a 10%. Discutimos limitações operacionais, implicações regulatórias à luz do GDPR e direções de pesquisa pertinentes ao cenário de 2018, incluindo aprendizado federado seguro e técnicas criptográficas aplicadas à proteção de modelos. Concluímos que a segurança de sistemas de ML deve ser tratada como componente estrutural das arquiteturas de defesa corporativas, com mecanismos formais de garantia de robustez e monitoramento contínuo.

2014-01-16Read paper →