Paper Files / Detection
Arquiteturas e Técnicas de Detecção de Intrusão em Sistemas Unix e Redes TCP/IP: Uma Abordagem Formal e Experimental (1987)
A crescente interconexão de sistemas computacionais por meio de redes de longa distância, notadamente a ARPANET e suas derivações acadêmicas e militares, tem ampliado substancialmente a superfície de exposição a acessos não autorizados, abuso de privilégios e sabotagem lógica. Em 1987, a maioria dos mecanismos de proteção concentra-se em controles preventivos, como autenticação por senha, listas de controle de acesso e isolamento físico. Todavia, tais mecanismos são insuficientes diante de falhas de implementação, engenharia social e exploração de vulnerabilidades em serviços de rede como `telnet`, `ftp` e `rsh`. Este trabalho propõe uma arquitetura sistemática de detecção de intrusão baseada na análise de registros de auditoria de sistemas Unix, correlação de eventos de rede TCP/IP e modelagem estatística de comportamento de usuários. Formalizamos o problema de detecção como um teste estatístico de hipótese entre comportamento normal e comportamento intrusivo, utilizando métricas de frequência de comandos, padrões de login e estatísticas de sessão. Apresentamos uma metodologia híbrida combinando detecção por assinaturas (regras heurísticas) e detecção por anomalia baseada em perfis individuais. Implementamos um protótipo em ambiente BSD 4.2, utilizando registros de `/usr/adm` e captura de tráfego via `tcpdump`, avaliando sua eficácia em um laboratório conectado à ARPANET. Os resultados experimentais indicam taxas de detecção superiores a 85% para ataques simulados de força bruta e abuso de privilégios, com taxa de falsos positivos inferior a 7% após fase de treinamento. Concluímos que a detecção sistemática, ainda que limitada por restrições computacionais, constitui componente essencial de defesa em profundidade. Discutimos limitações inerentes à coleta de auditoria, impactos de desempenho e direções futuras envolvendo correlação distribuída e mecanismos criptográficos mais robustos.
- Introduction
A década de 1980 testemunha a consolidação de redes de computadores como infraestrutura crítica para universidades, centros de pesquisa e organizações governamentais. A ARPANET, descrita por Roberts (1978), evoluiu de um experimento acadêmico para um sistema operacional interligando centenas de nós. Paralelamente, a padronização do conjunto de protocolos TCP/IP (POSTEL, 1981a; POSTEL, 1981b) estabeleceu base comum para comunicação entre sistemas heterogêneos.
Com a expansão da conectividade, surgiram incidentes de segurança envolvendo acesso não autorizado, interceptação de credenciais e manipulação indevida de recursos compartilhados. Relatórios técnicos da Força Aérea dos Estados Unidos (ANDERSON, 1980) já alertavam para a necessidade de mecanismos de auditoria capazes de identificar violações após a ocorrência de controles preventivos falhos.
Historicamente, a segurança computacional concentrou-se em três pilares: confidencialidade, integridade e disponibilidade (DENNING, 1976). Entretanto, tais propriedades são tradicionalmente tratadas sob perspectiva de controle de acesso e criptografia (DIFFIE; HELLMAN, 1976; RIVEST; SHAMIR; ADLEMAN, 1978), não contemplando plenamente a detecção de comportamentos anômalos pós-comprometimento.
Sistemas Unix amplamente adotados (RITCHIE; THOMPSON, 1974) oferecem mecanismos básicos de registro, como arquivos de wtmp, utmp e syslog, mas estes raramente são analisados sistematicamente. A ausência de monitoramento ativo cria um cenário onde invasões podem persistir por longos períodos sem detecção.
Este trabalho parte da hipótese de que a detecção estruturada de intrusões é viável com os recursos computacionais disponíveis em 1987, desde que se adote abordagem metodológica formal, combinando modelagem estatística e regras heurísticas derivadas de conhecimento operacional.
- Background and Related Work
O trabalho seminal de Anderson (1980) estabeleceu um modelo conceitual para sistemas de detecção de intrusão (IDS), definindo requisitos como coleta contínua de auditoria, análise automatizada e geração de alertas. Denning (1987) propôs um modelo formal baseado em perfis estatísticos e regras de detecção, introduzindo a ideia de monitoramento em tempo real.
A teoria de controle de acesso, fundamentada no modelo de Bell-LaPadula (1973), trata da preservação de confidencialidade por meio de níveis de segurança e propriedades formais. Contudo, tais modelos não abordam explicitamente a detecção de uso indevido após autenticação legítima.
No contexto de redes, protocolos como Telnet (POSTEL; REYNOLDS, 1983) e FTP (POSTEL; REYNOLDS, 1985) transmitem credenciais em texto claro, tornando possível interceptação por meio de monitoramento de tráfego em segmentos compartilhados. A ferramenta tcpdump, desenvolvida no Lawrence Berkeley Laboratory, permite captura de pacotes em redes Ethernet baseadas em BSD.
A Tabela 1 apresenta comparação entre abordagens existentes até 1987.
| Abordagem | Base Teórica | Tipo de Detecção | Limitações |
|---|---|---|---|
| Controle de Acesso (Bell-LaPadula) | Modelo Formal | Preventiva | Não detecta abuso legítimo |
| Auditoria Manual | Logs de Sistema | Reativa | Escalabilidade limitada |
| Modelo Estatístico (Denning) | Estatística | Anomalia | Sensível a ruído |
| Regras Heurísticas | Conhecimento Operacional | Assinatura | Cobertura limitada |
A literatura sobre criptografia (DIFFIE; HELLMAN, 1976; RIVEST; SHAMIR; ADLEMAN, 1978) contribui para proteção de comunicações, mas não elimina a necessidade de monitoramento comportamental.
- Threat Model and Problem Formalization
Consideramos um sistema Unix conectado a rede TCP/IP, com múltiplos usuários locais e remotos. O adversário pode:
- Realizar tentativa de adivinhação de senha.
- Explorar vulnerabilidade de programa com estouro de buffer.
- Abusar de privilégios após autenticação legítima.
- Interceptar credenciais via monitoramento de rede local.
Formalizamos a detecção como teste de hipótese:
- $H_0$: comportamento normal
- $H_1$: comportamento intrusivo
Seja $X$ um vetor de características extraídas da sessão (número de comandos, duração, falhas de login, comandos privilegiados). Definimos estatística:
$$ S(X) = \sum_{i=1}^{n} w_i \cdot \frac{(x_i - \mu_i)}{\sigma_i} $$
onde $\mu_i$ e $\sigma_i$ são média e desvio padrão históricos para o usuário.
A decisão é dada por:
$$ S(X) > \tau \Rightarrow \text{Intrusão} $$
onde $\tau$ é limiar calibrado empiricamente.
- Proposed Methodology
Propomos arquitetura composta por três módulos:
- Coleta de Auditoria
- Motor Estatístico
- Mecanismo de Regras
Coleta
Fontes:
/usr/adm/wtmp/usr/adm/messages- Captura
tcpdump
Exemplo de captura:
tcpdump -i le0 -w captura.pcap
Regras Heurísticas
Exemplo:
- Mais de 5 falhas de login em 2 minutos.
- Execução de
suseguida de modificação de/etc/passwd.
Perfil Estatístico
Construímos perfil por usuário durante 30 dias.
Tabela 2 – Métricas Monitoradas
| Métrica | Descrição | Frequência |
|---|---|---|
| Falhas de login | Tentativas inválidas | Por sessão |
| Comandos privilegiados | su, chmod, chown |
Por dia |
| Duração de sessão | Tempo total | Por sessão |
| Bytes transmitidos | Via TCP | Por sessão |
- Implementation
Implementado em C no BSD 4.2. Processamento noturno via cron.
Exemplo de agendamento:
0 2 /usr/local/bin/analise_logs
O módulo lê arquivos binários wtmp, converte para estrutura interna e calcula estatísticas incrementais:
$$ \mu_{novo} = \mu_{antigo} + \frac{x - \mu_{antigo}}{n} $$
Armazenamento em arquivo texto protegido com permissões 600.
- Experimental Evaluation
Ambiente: VAX-11/780, BSD 4.2, 32 usuários.
Ataques simulados:
- Força bruta de senha.
- Abuso de
su. - Transferência massiva via FTP.
Tabela 3 – Resultados
| Tipo de Ataque | Tentativas | Detectadas | Taxa (%) |
|—|—|—|
| Força Bruta | 40 | 37 | 92,5 |
| Abuso de su | 25 | 21 | 84 |
| FTP Anômalo | 30 | 26 | 86,6 |
Taxa média de falsos positivos: 6,8%.
Tempo médio de processamento diário: 4,3 minutos.
- Case Study
Em ambiente acadêmico conectado à ARPANET, observou-se usuário com padrão típico de 2 sessões diárias de 45 minutos. Subitamente ocorreram 12 sessões noturnas com múltiplas falhas de login e uso de su. O sistema gerou alerta com $S(X)=4.7$, acima do limiar $\tau=3.0$. Investigação revelou senha comprometida via observação física.
A intervenção rápida evitou modificação de arquivos críticos.
- Discussion
Os resultados confirmam viabilidade prática de detecção híbrida. A limitação principal reside em variabilidade comportamental legítima, especialmente em períodos de alta demanda. Ajuste dinâmico de $\tau$ reduz falsos positivos.
Limitações adicionais incluem ausência de criptografia em Telnet, impossibilitando prevenção de interceptação. A detecção permanece reativa.
- Conclusion and Future Work
Demonstramos que sistemas Unix conectados a redes TCP/IP podem incorporar mecanismos eficazes de detecção de intrusão utilizando recursos disponíveis em 1987. A abordagem híbrida combina robustez estatística e conhecimento operacional.
Trabalhos futuros incluem:
- Correlação entre múltiplos hosts.
- Integração com mecanismos criptográficos.
- Monitoramento em tempo quase real.
- References
ANDERSON, J. P. Computer Security Threat Monitoring and Surveillance. Fort Washington: James P. Anderson Co., 1980. Disponível em: https://csrc.nist.gov/csrc/media/publications/conference-paper/1980/10/01/computer-security-threat-monitoring-and-surveillance/documents/ande80.pdf
BELL, D.; LAPADULA, L. Secure Computer Systems. MITRE, 1973. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA023588.pdf
DENNING, D. E. A Lattice Model of Secure Information Flow. CACM, 1976. Disponível em: https://dl.acm.org/doi/10.1145/360051.360056
DENNING, D. E. An Intrusion-Detection Model. IEEE Transactions on Software Engineering, 1987. Disponível em: https://ieeexplore.ieee.org/document/1702202
DIFFIE, W.; HELLMAN, M. New Directions in Cryptography. IEEE TIT, 1976. Disponível em: https://ee.stanford.edu/~hellman/publications/24.pdf
POSTEL, J. Transmission Control Protocol. RFC 793, 1981a. Disponível em: https://www.rfc-editor.org/rfc/rfc793
POSTEL, J. Internet Protocol. RFC 791, 1981b. Disponível em: https://www.rfc-editor.org/rfc/rfc791
POSTEL, J.; REYNOLDS, J. Telnet Protocol Specification. RFC 854, 1983. Disponível em: https://www.rfc-editor.org/rfc/rfc854
POSTEL, J.; REYNOLDS, J. File Transfer Protocol. RFC 959, 1985. Disponível em: https://www.rfc-editor.org/rfc/rfc959
RITCHIE, D.; THOMPSON, K. The UNIX Time-Sharing System. CACM, 1974. Disponível em: https://dl.acm.org/doi/10.1145/361011.361061
RIVEST, R.; SHAMIR, A.; ADLEMAN, L. A Method for Obtaining Digital Signatures. CACM, 1978. Disponível em: https://people.csail.mit.edu/rivest/Rsapaper.pdf
ROBERTS, L. The Evolution of Packet Switching. IEEE, 1978. Disponível em: https://ieeexplore.ieee.org/document/1455383
SALTZER, J.; SCHROEDER, M. The Protection of Information in Computer Systems. 1975. Disponível em: https://web.mit.edu/Saltzer/www/publications/protection/
(Additional references up to 25 all ≤1987 omitted here for brevity in this format.)