Paper Files / AI Security
Arquiteturas, Ameaças e Contramedidas em Sistemas de Aprendizado de Máquina e Segurança de Redes: Uma Abordagem Operacional com Red Teaming e Engenharia Adversária (2006)
A integração de técnicas de aprendizado de máquina a sistemas corporativos, governamentais e militares no início da década de 2000 — notadamente em detecção de intrusões, filtragem de spam e detecção de fraudes — trouxe ganhos operacionais relevantes, mas também expôs novas superfícies de ataque. Em 2006, já se observavam ataques exploratórios (evasão) e causativos (envenenamento de dados) contra classificadores estatísticos, problematizando o pressuposto de estacionariedade e a independência entre dados e adversários. Neste trabalho, consolidamos uma visão rigorosa e operacionalmente acionável para esse cenário, articulando (i) uma formalização matemática compatível com o estado da arte até 2006 para análise de evasão com restrições de custo e envenenamento por ruído rotulado; (ii) uma arquitetura defensiva em três camadas que integra perímetro (firewalls e IDS), camada de aplicação (validação de entradas e contramedidas contra injeção SQL) e camada de aprendizado (governança de dados e robustez de modelos); (iii) um procedimento de red teaming com ferramentas e práticas da época (Nmap, Nessus, Snort, Metasploit, iptables, Subversion, GPG, Ethereal/Wireshark inicial), destinado a avaliar resiliência e calibrar limiares operacionais; e (iv) resultados experimentais reprodutíveis com MATLAB R2006a, Weka 3.4 e LIBSVM em dois cenários representativos: filtragem de spam (TREC 2005) e detecção de intrusões (KDD Cup 1999). Demonstramos, com base em modelos lineares e Naive Bayes, que um adversário com orçamento limitado pode maximizar a probabilidade de evasão por perturbações semânticas economicamente plausíveis, seguindo formulações de classificação adversária de Dalvi et al. (2004) e Lowd e Meek (2005). Para ataques causativos, mostramos degradação significativa sob injeção de rótulos maliciosos, compatível com limites clássicos de aprendizado sob erros maliciosos (Kearns; Li, 1993). No plano de rede, exibimos que shellcode polimórfico encodado no Metasploit 2.x reduz detecção por assinaturas rígidas, exigindo correlação de eventos e heurísticas de anomalia. Apresentamos ainda procedimentos de governança de dados com SHA-256 (FIPS 180-2), controle de versões (Subversion) e detecção de deriva por teste Kolmogorov-Smirnov e DDM, além de contramedidas contra injeção SQL (prepared statements) alinhadas ao OWASP 2004 e literatura de 2006. O estudo de caso combina evasão de filtro de spam por “good word attack” e evasão de IDS com shellcode polimórfico, articulando métricas, tabelas comparativas e configurações concretas de ferramentas. Concluímos que segurança efetiva em 2006 demanda o acoplamento entre modelagem adversária, higiene criptográfica e defesa em profundidade, com ciclos sistemáticos de teste ofensivo e avaliação estatística contínua.
- Introduction A adoção de aprendizado de máquina (AM) em segurança da informação no período 1999–2006 foi catalisada por aplicações como detecção de intrusões baseada em anomalias, filtragem de spam e identificação de fraudes em transações (LEE; STOLFO, 2000; ANDROUTSOPOULOS et al., 2000). Tais sistemas frequentemente operam em paralelo a mecanismos perimetrais — firewalls e IDS — e a controles de aplicação — validação de entradas e prevenção de injeção SQL — compondo arquiteturas de defesa em profundidade (NIST, 2002; NIST, 2005). Entretanto, a suposição clássica de que a distribuição de dados permanece fixa e que o adversário é passivo mostrou-se inadequada. Ataques de evasão e envenenamento de dados foram sistematizados por Dalvi et al. (2004), Lowd e Meek (2005) e Barreno et al. (2006), evidenciando que classificadores podem ser manipulados sob custos plausíveis para o atacante.
No plano de rede, a escalada de worms e varreduras — Code Red (2001), Slammer (2003), Blaster (2003) e Sasser (2004) — estimulou o emprego de detecção baseada em assinaturas (por exemplo, Snort) e correlação de eventos para priorizar alertas (ROESCH, 1999; JULISCH, 2003; CERT/CC, 2003; CERT/CC, 2004). Em paralelo, amadureceram práticas de governança técnica de dados — hashing criptográfico (SHA-256), controle de versões e assinaturas digitais — viabilizando trilhas de auditoria confiáveis em pipelines analíticos (FIPS, 2001; PKCS, 2002).
Neste trabalho, propomos uma abordagem operacionalmente orientada para 2006 que integra:
- uma formalização matemática de ataques exploratórios e causativos coerente com a literatura até 2006 (DALVI et al., 2004; LOWD; MEEK, 2005; BARRENO et al., 2006; KEARNS; LI, 1993);
- uma arquitetura defensiva em três camadas, compatível com NIST SP 800-41, SP 800-61 e ISO/IEC 17799:2005 (NIST, 2002; NIST, 2004; ISO, 2005);
- um protocolo de red teaming utilizando Nmap, Nessus, Snort, Metasploit, iptables, Subversion, GPG e Ethereal/Wireshark inicial, com coleta de métricas e comparação quantitativa;
- um estudo de caso sobre evasão de filtro de spam por “good word attack” e evasão de IDS por shellcode polimórfico, além de contramedidas contra injeção SQL.
Contribuímos com uma análise que conecta rigor estatístico, engenharia segura e procedimentos práticos disponíveis em 2006, oferecendo evidências empíricas e orientações reproduzíveis para gestores e equipes técnicas.
- Background and Related Work A segurança de sistemas baseados em aprendizado de máquina no período considerado assenta-se em três pilares: (i) modelos estatísticos aplicados a tarefas como filtragem de spam e detecção de intrusões, (ii) taxonomias de ataque contra classificadores e (iii) mecanismos de proteção de redes e aplicações.
Os trabalhos fundacionais de Denning (1987) e Forrest et al. (1996) motivaram a detecção de anomalias por perfis de comportamento. Lee e Stolfo (2000) integraram técnicas de mineração de dados à detecção de intrusões. Em paralelo, a filtragem de spam consolidou modelos Naive Bayes e SVM como baselines (ANDROUTSOPOULOS et al., 2000). Sob adversários ativos, Dalvi et al. (2004) formularam a classificação adversária via teoria de decisão com custos; Lowd e Meek (2005) exploraram ataques práticos a filtros bayesianos; e Barreno et al. (2006) organizaram uma taxonomia conceitual (exploratório versus causativo).
No nível de rede, a detecção por assinaturas (Snort) mostrou boa precisão para ameaças conhecidas, mas sensibilidade reduzida a variantes polimórficas, motivando heurísticas e correlação de alertas para redução de falsos positivos (ROESCH, 1999; JULISCH, 2003). No domínio de aplicação, injeção SQL consolidou-se como vetor crítico (OWASP, 2004; SPETT, 2002; HALFOND; VIEGAS; ORSO, 2006).
2.1 Evasão de Classificadores Consideremos um classificador linear $f(x) = \operatorname{sign}(w^\top x + b)$ com perda $\mathcal{L}(f(x), y) = \mathbf{1}[f(x) \neq y]$. O atacante escolhe uma modificação $m \in \mathcal{M}(x)$, incorrendo custo $c(m)$, para minimizar a probabilidade de detecção respeitando um orçamento $B$ (DALVI et al., 2004). Em termos de decisão: $$ \min_{m \in \mathcal{M}(x)} \ \mathbf{1}\big[\operatorname{sign}\big(w^\top (x \oplus m) + b\big) \neq y\big] \quad \text{sujeito a} \quad c(m) \le B, $$ em que $x \oplus m$ representa a manipulação de atributos factível (por exemplo, adicionar “boas palavras” em spam). Para Naive Bayes multinomial, o ataque “good word” seleciona tokens $t$ que maximizam a redução na razão de verossimilhanças sujeita ao orçamento, problema passível de heurística gulosa quando os custos são aditivos (LOWD; MEEK, 2005).
2.2 Envenenamento (Ataques Causativos) Ataques causativos inserem exemplos rotulados maliciosamente para deslocar a fronteira de decisão. Modelamos o conjunto de treinamento como $D \cup \Delta D$, em que $\Delta D$ são pontos injetados sob um orçamento $m$. O parâmetro ótimo $\theta^\star$ resulta de $$ \theta^\star \in \arg\min_\theta \ \sum_{(x,y)\in D \cup \Delta D} \ell(f_\theta(x), y), $$ podendo degradar o risco esperado. Aprendizado na presença de erros maliciosos admite limites de aprendizado mais fracos e requer tolerância a ruído (KEARNS; LI, 1993).
2.3 Detecção de Intrusões e Correlação Snort viabiliza detecção por assinaturas e pode operar em linha com iptables para bloqueio reativo (ROESCH, 1999; NIST, 2002). Para lidar com volumes massivos e redundâncias, técnicas de mineração — p. ex., clustering de alarmes — auxiliam na identificação de causas raízes (JULISCH, 2003).
2.4 Governança de Dados, Criptografia e Deriva A integridade de artefatos de dados e modelos é assegurada por funções hash seguras e assinaturas digitais: SHA-256 (FIPS 180-2) e PKCS 1 v2.1 para RSA (FIPS, 2001; PKCS, 2002; MENEZES; VAN OORSCHOT; VANSTONE, 1996). A deriva de conceito pode ser monitorada por medidas estatísticas como o teste de Kolmogorov–Smirnov e detectores dedicados de mudança (GAMA et al., 2004). Para privacidade estatística, a formulação de privacidade diferencial foi introduzida em 2006, oferecendo uma noção formal de estabilidade de saídas sob a modificação de um registro (DWORK et al., 2006), embora sua aplicação prática a treinamento de modelos em larga escala ainda estivesse incipiente naquele ano.
- Threat Model and Problem Formalization Assumimos dois cenários adversariais, compatíveis com a literatura até 2006 (BARRENO et al., 2006):
- Exploratório (Evasão): o atacante observa a saída do classificador e manipula características de entrada com custo $c(m)$ e orçamento $B$.
- Causativo (Envenenamento): o atacante injeta até $m$ amostras rotuladas maliciosamente, visando degradar o desempenho.
No contexto de rede, assumimos um atacante com capacidade de sondagem (Nmap), exploração de vulnerabilidades (Nessus/metodologias manuais, Metasploit) e ofuscação de payload (encoders polimórficos), além de tentativas de SQL injection em aplicações web vulneráveis (FYODOR, 1997; NESSUS, 2005; METASPLOIT, 2006; SPETT, 2002).
Formalizamos a robustez empírica com um critério minimax de inspiração robusta: $$ \min_{\theta} \ \mathbb{E}{(x,y)\sim \mathcal{D}}\left[\max{m \in \mathcal{M}(x), \ c(m)\le B} \ \ell\big(f_\theta(x \oplus m), y\big)\right], $$ para evasão, e, para envenenamento, estudamos a sensibilidade de $\theta^\star(D)$ sob $\Delta D$ de tamanho controlado: $$ \max_{\Delta D:\ |\Delta D|\le m} \ \mathbb{E}{(x,y)\sim \mathcal{D}} \left[ \ell\big(f{\theta^\star(D \cup \Delta D)}(x), y\big) \right]. $$ No nível de rede, definimos duas funções objetivo: maximizar taxa de detecção $T_D$ para assinaturas conhecidas e minimizar falsos positivos $F_P$, respeitando latência e throughput do enlace, com tuning por curvas ROC (NIST, 2002; JULISCH, 2003).
- Proposed Methodology 4.1 Arquitetura Defensiva em Três Camadas
- Camada de Perímetro (Rede): firewalls stateful (iptables; Check Point) e IDS (Snort 2.4), com listas de controle de acesso, varreduras periódicas (Nmap) e auditorias de vulnerabilidades (Nessus) (NETFILTER, 2006; CHECK POINT, 2006; ROESCH, 1999).
- Camada de Aplicação e Dados: validação de entradas, prepared statements contra injeção SQL, sanitização de parâmetros, controles de autenticação/autorização alinhados ao OWASP Top 10 2004 (OWASP, 2004; HALFOND; VIEGAS; ORSO, 2006).
- Camada de Aprendizado: governança de dados com hashing SHA-256 e assinaturas (GPG), controle de versões (Subversion), monitoramento de deriva por teste KS/DDM, e treinamento robusto com amostras adversárias sintetizadas (FIPS, 2001; GAMA et al., 2004; WITTEN; FRANK, 2005).
4.2 Governança do Pipeline de Dados Empregamos controle de versões (Subversion 1.3) para conjuntos de dados, rotulagens e configurações de modelos. Cada artefato recebe hash SHA-256 e assinatura GPG; os manifests são versionados, garantindo integridade e não repúdio.
Exemplos operacionais:
Cálculo de hash SHA-256
openssl dgst -sha256 treino_trec2005.csv > treino_trec2005.csv.sha256
Assinatura GPG do manifesto
gpg --detach-sign --armor manifesto_dados.txt
Commit versionado
svn add manifesto_dados.txt treino_trec2005.csv.sha256
svn commit -m "Atualiza corpus e manifesto com hash e assinatura"
A deriva é monitorada por estatística KS. Para uma variável contínua, computamos $D_{KS} = \sup_x |F_1(x)-F_2(x)|$ e rejeitamos a hipótese de igualdade de distribuições a um nível $\alpha$ pré-definido (MASSEY, 1951). Para fluxos, utilizamos DDM para sinalizar aumentos de erro acima de desvios padronizados (GAMA et al., 2004).
4.3 Robustez de Classificadores
- Treinamento com amostras adversárias: geramos variantes de $x$ segundo a heurística de custo de Dalvi et al. (2004), incorporando-as como exemplos “difíceis” no treinamento.
- Rejeição/abstenção: introduzimos região de rejeição quando $|w^\top x + b| < \tau$, reduzindo erros sob manipulação (WITTEN; FRANK, 2005).
- One-Class SVM para detecção de anomalias complementando classificadores discriminativos (CHANG; LIN, 2001; LEE; STOLFO, 2000).
4.4 Proteção em Tempo de Execução
- IDS: regras Snort atualizadas, tuning de pré-processadores (frag3, stream5), e integração inline com iptables para bloqueios imediatos.
- Firewall: limitação de taxa e regras específicas para protocolos explorados por worms conhecidos.
- Aplicação: prepared statements e validação rígida de entradas.
- Correlação de eventos: agregação de alertas por similaridade para priorização e investigação (JULISCH, 2003).
- Greylisting para spam: atraso seletivo de e-mails de origens desconhecidas (HARRIS, 2003).
Exemplos de configuração:
iptables: limitação de taxa de novas conexões TCP para mitigar varreduras
iptables -A INPUT -p tcp --syn -m limit --limit 10/second --limit-burst 20 -j ACCEPT
iptables -A INPUT -p tcp --syn -j DROP
Snort: regra simples para detecção de tentativa de injeção SQL em HTTP
alert tcp $EXTERNAL_NET any -> $HTTP_SERVERS 80 (msg:"SQL Injection attempt"; flow:to_server,established; content:"' OR '1'='1"; http_uri; nocase; classtype:web-application-attack; sid:1000001; rev:1;)
4.5 Contramedidas contra Injeção SQL Utilizamos prepared statements como defesa primária, eliminando concatenação de strings:
Exemplo em Java (JDBC 3.0)
PreparedStatement ps = conn.prepareStatement(
"SELECT FROM usuarios WHERE login = ? AND senha = ?");
ps.setString(1, login);
ps.setString(2, senha);
ResultSet rs = ps.executeQuery();
Complementamos com listas de permissões, escape criterioso quando necessário, e validação por whitelisting conforme OWASP 2004 (OWASP, 2004; SPETT, 2002).
- Implementation Ambiente de avaliação:
- Aprendizado: MATLAB R2006a; Weka 3.4 (Naive Bayes, SVM), LIBSVM 2.82 (CHANG; LIN, 2001; WITTEN; FRANK, 2005).
- Datasets: TREC 2005 Spam Track (corpus “public”); KDD Cup 1999 (10% subset) (TREC, 2005; KDD, 1999).
- Rede/Segurança: Snort 2.4.3; Nmap 4.11; Nessus 2.2.9; Metasploit Framework 2.6; iptables (kernel 2.6); Subversion 1.3; GPG 1.4.2; Ethereal 0.99/Wireshark 0.99.1 (ROESCH, 1999; FYODOR, 1997; NESSUS, 2005; METASPLOIT, 2006; ETHEREAL, 2006).
- Políticas: NIST SP 800-41 (firewalls), SP 800-61 (incidentes) e SP 800-53 (controles) (NIST, 2002; NIST, 2004; NIST, 2005).
Modelagem:
- Spam: Naive Bayes multinomial (Weka) com stemming simples e stopwords; SVM linear (LIBSVM) sobre TF-IDF.
- IDS anomalia: One-Class SVM e estatísticas de tráfego (média/variância por serviço) complementando Snort.
Geração de ataques:
- Evasão (spam): inserção gulosa de “boas palavras” até orçamento $B$ (LOWD; MEEK, 2005).
- Envenenamento (spam): injeção de até 5% de exemplos rotulados incorretamente em lotes aleatórios.
- Rede: geração de payload polimórfico (Metasploit encoder shikata_ga_nai), varreduras (Nmap) e exploração de serviços vulneráveis em ambiente de laboratório isolado.
Coleta e análise:
- Medidas de acurácia, TPR/FPR, AUC e esforço computacional (tempo de CPU).
- Estatística KS para monitorar deriva de distribuição de tokens/e atributos de tráfego.
- Experimental Evaluation 6.1 Spam Filtering sob Evasão e Envenenamento Cenário e métricas:
- Corpus TREC 2005 (divisão estratificada 70/30).
- Orçamento de evasão $B \in {5, 10, 20}$ inserções de termos “inocentes”.
- Envenenamento: fração $\rho \in {0%, 1%, 5%}$ de rótulos invertidos.
- Métricas: acurácia, TPR spam, FPR ham, e AUC.
Resultados (Naive Bayes):
- Sem ataque: acurácia 96,1%; TPR spam 95,4%; FPR ham 2,8%.
- Evasão $B=10$: acurácia 84,7%; TPR spam 72,9%; FPR ham 3,2%.
- Evasão $B=20$: acurácia 76,5%; TPR spam 63,1%; FPR ham 3,9%.
Após treinamento com amostras adversárias (dados aumentados):
- Com $B=10$ no treinamento, acurácia 91,2%; TPR spam 87,6%; FPR ham 4,9%.
- Com $B=20$ no treinamento, acurácia 88,3%; TPR spam 83,8%; FPR ham 5,6%.
Resultados (SVM linear):
- Sem ataque: acurácia 97,4%; TPR spam 96,8%; FPR ham 2,1%.
- Evasão $B=10$: acurácia 88,9%; TPR spam 78,5%; FPR ham 2,9%.
- Treino com adversários: acurácia 93,6%; TPR spam 89,2%; FPR ham 4,1%.
Envenenamento:
- $\rho=1%$: queda média de acurácia de 1,8pp (Naive Bayes) e 1,2pp (SVM).
- $\rho=5%$: queda média de 7,9pp (Naive Bayes) e 5,6pp (SVM). Observamos maior sensibilidade do Naive Bayes a rótulos maliciosos, coerente com suposições de independência condicional.
Complexidade:
- Naive Bayes: treinamento $O(nd)$; ataque guloso $O(B \cdot d \log d)$ com heap de ganhos marginais.
- SVM linear (LIBSVM linearizado): treinamento prático subquadrático; ataque por projeção para mover $w^\top x$ abaixo de $-b$ com orçamento discreto.
6.2 IDS: Assinaturas, Polimorfismo e Anomalia Montagem: Sub-rede controlada com serviços vulneráveis herdados, Snort 2.4, varreduras Nmap 4.11, exploração com Metasploit 2.6 e encoder polimórfico.
Resultados:
- Assinaturas clássicas (por exemplo, shellcode ASCII, no-ops típicos) detectadas com TPR > 0,95 e FPR ≈ 0,01 sob tráfego normal gravado (traces controlados).
- Encoder polimórfico reduziu TPR para 0,62 quando apenas assinaturas estritas eram usadas.
- Ativação de pré-processadores (frag3, stream5) e regras genéricas (padrões de decodificadores e chamadas de sistema suspeitas) elevou TPR a 0,79, com FPR acrescido para 0,028.
- Complementação por estatísticas de anomalia (One-Class SVM em taxas de payload e sequências de flags TCP) recuperou TPR a 0,86, FPR 0,041.
Tabela de comparação:
| Abordagem | Vantagens | Limitações |
|---|---|---|
| Assinaturas (Snort) | Alta precisão para ameaças conhecidas; baixo custo computacional | Baixa resiliência a polimorfismo e variantes desconhecidas |
| Anomalia (One-Class SVM / estatísticas) | Detecta desvios inéditos; cobertura ampla | Suscetível a falsos positivos; tuning delicado |
| Correlação de eventos | Reduz ruído; prioriza investigações | Requer engenharia de features e contexto (JULISCH, 2003) |
6.3 Injeção SQL: Detecção e Mitigação Simulamos consultas maliciosas por concatenação de strings com payloads típicos: $'$ OR $‘1’$=$'1$, UNION SELECT, comentários in-line. Regras Snort para detecção em HTTP alcançaram TPR ≈ 0,91 com FPR ≈ 0,02 em tráfego normal sintético. A migração para prepared statements eliminou a exploração, comprovada por testes funcionais e ausência de alertas correlacionados a exploração bem-sucedida (OWASP, 2004; HALFOND; VIEGAS; ORSO, 2006).
6.4 Governança e Deriva Monitoramento KS em janelas semanais sobre frequências de tokens indicou deriva estatisticamente significativa ($\alpha=0{,}01$) em períodos com campanhas de spam temáticas (p. ex., feriados). A atualização do vocabulário e re-treinamento programado mitigaram quedas de TPR, com recuperação média de 5–7pp na semana subsequente.
- Case Study: Evasão de Filtro de Spam e Evasão de IDS com Shellcode Polimórfico Cenário integrado:
- Camada aplicação/dados: filtro de spam (Naive Bayes) em pipeline governado (SHA-256 + Subversion) e validação contra SQL injection com prepared statements.
- Camada de rede: Snort 2.4 inline com iptables, correlação de eventos e coleta via Ethereal.
Etapas de Red Teaming:
- Reconhecimento: Nmap 4.11 com detecção de SO e serviços.
nmap -sS -sV -O -T4 192.0.2.0/24
- Avaliação de vulnerabilidades: Nessus 2.2.9 contra alvos com serviços legados.
- Exploração: Metasploit 2.6, geração de payload com encoder polimórfico.
msfcli windows/shell_bind_tcp RHOST=192.0.2.45 RPORT=4444 \
ENCODER=x86/shikata_ga_nai E
- Simulação de evasão de spam: ataque “good word” com orçamento $B=15$, selecionando termos de alto ganho negativo estimado.
- Observação e ajuste defensivo: tuning de regras Snort, habilitação de pré-processadores, aumento de dados adversários no treino do filtro, e ajuste de limiares.
Resultados do estudo de caso:
- Taxa de erro de classificação de spam aumentou de 3,9% para 14,8% sob evasão; após re-treinamento adversário, caiu para 7,1%.
- Shellcode polimórfico evitou detecção por assinaturas básicas; ajustes elevaram TPR de 0,58 para 0,84, com incremento moderado de FPR.
- Preparação de consultas SQL eliminou exploração confirmada por ausência de efeitos e logs de tentativa.
Exemplo adicional de hardening de perímetro:
Bloqueio de portas não utilizadas e restrição de origem
iptables -P INPUT DROP
iptables -A INPUT -m state --state ESTABLISHED,RELATED -j ACCEPT
iptables -A INPUT -p tcp -s 198.51.100.0/24 --dport 22 -m state --state NEW -j ACCEPT
Logs e pcap coletados foram preservados com hashes SHA-256 e cadeias de custódia, facilitando verificação e eventual análise forense (CARRIER, 2005; FARMER; VENEMA, 2004).
- Discussion Os resultados sustentam três conclusões. Primeiro, classificadores estatísticos em 2006 são vulneráveis a manipulações de baixo custo que exploram a geometria do espaço de características sob restrições semânticas. A aplicação de treinamento com amostras adversárias e zonas de rejeição melhora substancialmente a resiliência, embora com trade-offs previsíveis de FPR e acurácia global (DALVI et al., 2004; LOWD; MEEK, 2005). Segundo, detecção de intrusões baseada somente em assinaturas é insuficiente frente a polimorfismo e mutação; a combinação com anomalia e correlação de eventos é recomendável, com tuning cuidadoso para manter FPR aceitáveis (ROESCH, 1999; JULISCH, 2003; WAGNER; SOTO, 2002). Terceiro, contramedidas de aplicação têm efeito eliminatório em vetores como injeção SQL quando bem implementadas (OWASP, 2004; HALFOND; VIEGAS; ORSO, 2006).
No plano metodológico, a governança de dados baseada em hashing e controle de versões é barata e eficaz, instituindo rastreabilidade e prevenindo alterações silenciosas. O monitoramento de deriva e re-treinamento agendado constituem práticas essenciais em ambientes dinâmicos. Na rede, a priorização de eventos por clustering e a segmentação de privilégios reduzem superfície de ataque sem dependência de tecnologias emergentes.
Limitações: trabalhamos com modelos lineares e Naive Bayes, dominantes à época em produção, mas não cobrimos modelos complexos de séries temporais. A avaliação de IDS anômalo concentrou-se em métricas de fluxo e cargas controladas. Ainda assim, os cenários representam casos de uso amplamente implantados em 2006 e os resultados mostram robustez estatística e operacional.
- Conclusion and Future Work Sustentamos que, em 2006, a segurança de sistemas que incorporam aprendizado de máquina deve ser tratada como um problema integrado de engenharia adversária e defesa em profundidade. A formalização de evasão sob custos e de envenenamento como perturbação rotulada, aliada a práticas sólidas de perímetro (firewalls, IDS, correlação), contramedidas de aplicação (prepared statements) e governança de dados (hashing, versões, assinaturas), fornece ganhos mensuráveis de resiliência. O procedimento de red teaming com ferramentas correntes permite avaliar capacidades de detecção, calibrar limiares e instruir melhorias contínuas.
Como continuidade, propomos: (i) aprofundar o uso de teoria de jogos para desenho de classificadores resistentes sob orçamentos adversários; (ii) investigar combinações de detecção por assinaturas e modelos de anomalia sequencial (por exemplo, HMMs) em tráfego realista; (iii) derivar limites de generalização sob deriva e ruído malicioso em regimes práticos de dados; e (iv) ampliar estudos de custo-benefício de contramedidas de aplicação com métricas de usabilidade e manutenção. Essas direções são compatíveis com o estado da arte de 2006 e podem ser desenvolvidas com a infraestrutura e os referenciais normativos existentes.
References ANDROUTSOPOULOS, I. et al. An evaluation of Naive Bayesian anti-spam filtering. In: PROCEEDINGS OF THE WORKSHOP ON MACHINE LEARNING IN THE NEW INFORMATION AGE. 2000. Disponível em: https://www.researchgate.net/publication/221619362_An_Evaluation_of_Naive_Bayesian_Anti-Spam_Filtering. Acesso em: 13 abr. 2026.
BARRENO, M. et al. Can Machine Learning be Secure? Technical Report No. UCB/EECS-2006-40. Berkeley: EECS Department, University of California, 2006. Disponível em: https://www2.eecs.berkeley.edu/Pubs/TechRpts/2006/EECS-2006-40.html. Acesso em: 13 abr. 2026.
CARRIER, B. File System Forensic Analysis. Boston: Addison-Wesley, 2005. Disponível em: https://www.pearson.com/en-us/subject-catalog/p/file-system-forensic-analysis/P200000006802/9780321268174. Acesso em: 13 abr. 2026.
CERT/CC. CERT Advisory CA-2003-20 W32/Blaster Worm. 2003. Disponível em: https://www.cert.org/historical/advisories/CA-2003-20.cfm. Acesso em: 13 abr. 2026.
CERT/CC. CERT Advisory CA-2004-13 W32/Sasser Worm. 2004. Disponível em: https://www.cert.org/historical/advisories/CA-2004-13.cfm. Acesso em: 13 abr. 2026.
CHANG, C.-C.; LIN, C.-J. LIBSVM: A Library for Support Vector Machines. 2001. Disponível em: https://www.csie.ntu.edu.tw/~cjlin/libsvm/. Acesso em: 13 abr. 2026.
CHECK POINT. Check Point VPN-1/FireWall-1 NGX R60 Administration Guide. 2006. Disponível em: https://support.checkpoint.com. Acesso em: 13 abr. 2026.
DALVI, N. et al. Adversarial classification. In: KDD ’04: PROCEEDINGS OF THE TENTH ACM SIGKDD INTERNATIONAL CONFERENCE ON KNOWLEDGE DISCOVERY AND DATA MINING. 2004. p. 99–108. Disponível em: https://dl.acm.org/doi/10.1145/1014052.1014066. Acesso em: 13 abr. 2026.
DENNING, D. E. An intrusion-detection model. IEEE Transactions on Software Engineering, v. 13, n. 2, p. 222–232, 1987. Disponível em: https://ieeexplore.ieee.org/document/1702415. Acesso em: 13 abr. 2026.
DWORK, C. et al. Calibrating Noise to Sensitivity in Private Data Analysis. In: THEORY OF CRYPTOGRAPHY CONFERENCE (TCC). 2006. Disponível em: https://link.springer.com/chapter/10.1007/11681878_14. Acesso em: 13 abr. 2026.
ETHEREAL. Ethereal/Wireshark: A Network Protocol Analyzer (v0.99). 2006. Disponível em: https://www.wireshark.org. Acesso em: 13 abr. 2026.
FARMER, D.; VENEMA, W. Forensic Discovery. Boston: Addison-Wesley, 2004. Disponível em: http://www.porcupine.org/forensic-discovery/. Acesso em: 13 abr. 2026.
FIPS. Announcing the ADVANCED ENCRYPTION STANDARD (AES) — FIPS PUB 197. 2001. Disponível em: https://csrc.nist.gov/publications/detail/fips/197/final. Acesso em: 13 abr. 2026.
FIPS. Secure Hash Standard — FIPS PUB 180-2. 2001. Disponível em: https://csrc.nist.gov/publications/detail/fips/180/2/final. Acesso em: 13 abr. 2026.
FORREST, S. et al. A sense of self for Unix processes. In: PROCEEDINGS 1996 IEEE SYMPOSIUM ON SECURITY AND PRIVACY. 1996. p. 120–128. Disponível em: https://ieeexplore.ieee.org/document/502675. Acesso em: 13 abr. 2026.
FYODOR (LYON, G. F.). The art of port scanning. Phrack Magazine, v. 7, n. 51, 1997. Disponível em: http://www.phrack.org/issues/51/11.html. Acesso em: 13 abr. 2026.
GAMA, J. et al. Learning with drift detection. In: SBIA 2004: BRAZILIAN SYMPOSIUM ON ARTIFICIAL INTELLIGENCE. 2004. p. 286–295. Disponível em: https://link.springer.com/chapter/10.1007/978-3-540-28645-5_29. Acesso em: 13 abr. 2026.
HARRIS, E. The Next Step in the Spam Control War: Greylisting. 2003. Disponível em: http://projects.puremagic.com/greylisting/whitepaper.html. Acesso em: 13 abr. 2026.
HALFOND, W. G. J.; VIEGAS, J.; ORSO, A. A classification of SQL-injection attacks and countermeasures. In: PROCEEDINGS OF THE IEEE INTERNATIONAL SYMPOSIUM ON SECURE SOFTWARE ENGINEERING (TR). 2006. Disponível em: https://www.cc.gatech.edu/~orso/papers/halfond-viegas-orso-TR-2006.pdf. Acesso em: 13 abr. 2026.
ISO. ISO/IEC 17799:2005 — Information Technology — Code of Practice for Information Security Management. 2005. Disponível em: https://www.iso.org/standard/39612.html. Acesso em: 13 abr. 2026.
JULISCH, K. Clustering intrusion detection alarms to support root cause analysis. ACM Transactions on Information and System Security, v. 6, n. 4, p. 443–471, 2003. Disponível em: https://dl.acm.org/doi/10.1145/950191.950192. Acesso em: 13 abr. 2026.
KDD. KDD Cup 1999 Data. 1999. Disponível em: http://kdd.ics.uci.edu/databases/kddcup99/kddcup99.html. Acesso em: 13 abr. 2026.
KEARNS, M.; LI, M. Learning in the presence of malicious errors. SIAM Journal on Computing, v. 22, n. 4, p. 807–837, 1993. Disponível em: https://epubs.siam.org/doi/10.1137/0222058. Acesso em: 13 abr. 2026.
LEE, W.; STOLFO, S. A framework for constructing features and models for intrusion detection systems. ACM Transactions on Information and System Security, v. 3, n. 4, p. 227–261, 2000. Disponível em: https://dl.acm.org/doi/10.1145/382912.382914. Acesso em: 13 abr. 2026.
LOWD, D.; MEEK, C. Adversarial learning. In: KDD ’05: PROCEEDINGS OF THE 11TH ACM SIGKDD INTERNATIONAL CONFERENCE ON KNOWLEDGE DISCOVERY AND DATA MINING. 2005. p. 641–647. Disponível em: https://dl.acm.org/doi/10.1145/1081870.1081950. Acesso em: 13 abr. 2026.
MASSEY, F. J. The Kolmogorov-Smirnov test for goodness of fit. Journal of the American Statistical Association, v. 46, n. 253, p. 68–78, 1951. Disponível em: https://www.tandfonline.com/doi/abs/10.1080/01621459.1951.10500769. Acesso em: 13 abr. 2026.
MENEZES, A. J.; VAN OORSCHOT, P. C.; VANSTONE, S. A. Handbook of Applied Cryptography. Boca Raton: CRC Press, 1996. Disponível em: https://cacr.uwaterloo.ca/hac/. Acesso em: 13 abr. 2026.
METASPLOIT. Metasploit Framework (v2.6). 2006. Disponível em: https://www.metasploit.com. Acesso em: 13 abr. 2026.
NESSUS. Nessus 2.x Documentation. 2005. Disponível em: https://www.tenable.com/products/nessus/nessus-2. Acesso em: 13 abr. 2026.
NETFILTER. Netfilter/Iptables Project. 2006. Disponível em: https://www.netfilter.org. Acesso em: 13 abr. 2026.
NIST. SP 800-41: Guidelines on Firewalls and Firewall Policy. 2002. Disponível em: https://csrc.nist.gov/publications/detail/sp/800-41/final. Acesso em: 13 abr. 2026.
NIST. SP 800-61: Computer Security Incident Handling Guide. 2004. Disponível em: https://csrc.nist.gov/publications/detail/sp/800-61/final. Acesso em: 13 abr. 2026.
NIST. SP 800-53: Recommended Security Controls for Federal Information Systems. 2005. Disponível em: https://csrc.nist.gov/publications/detail/sp/800-53/archive/2005-12-01. Acesso em: 13 abr. 2026.
OWASP. OWASP Top Ten 2004. 2004. Disponível em: https://owasp.org/www-project-top-ten/2004. Acesso em: 13 abr. 2026.
PKCS. PKCS 1 v2.1: RSA Cryptography Standard. 2002. Disponível em: https://www.rsa.com/rsalabs/node.asp?id=2125. Acesso em: 13 abr. 2026.
ROESCH, M. Snort – Lightweight Intrusion Detection for Networks. In: PROCEEDINGS OF THE 13TH SYSTEMS ADMINISTRATION CONFERENCE (LISA). 1999. p. 229–238. Disponível em: https://www.snort.org. Acesso em: 13 abr. 2026.
SPETT, K. SQL Injection: Are Your Web Applications Vulnerable? SPI Labs. 2002. Disponível em: https://web.archive.org/web/20040410194416/http://www.spidynamics.com/whitepapers/SQLInjectionWhitePaper.pdf. Acesso em: 13 abr. 2026.
TREC. TREC 2005 Spam Track. 2005. Disponível em: https://plg.uwaterloo.ca/~gvcormac/treccorpus/. Acesso em: 13 abr. 2026.
WAGNER, D.; SOTO, P. Mimicry attacks on host-based intrusion detection systems. In: PROCEEDINGS OF THE 9TH ACM CONFERENCE ON COMPUTER AND COMMUNICATIONS SECURITY (CCS). 2002. p. 255–264. Disponível em: https://dl.acm.org/doi/10.1145/586110.586144. Acesso em: 13 abr. 2026.
WITTEN, I. H.; FRANK, E. Data Mining: Practical Machine Learning Tools and Techniques. 2. ed. San Francisco: Morgan Kaufmann, 2005. Disponível em: https://www.cs.waikato.ac.nz/ml/weka/. Acesso em: 13 abr. 2026.