Paper Files / AI Security
Segurança de Sistemas Baseados em Inteligência Artificial em Redes Computacionais: Modelagem de Ameaças e Mecanismos de Defesa para Ambientes UNIX e ARPANET
A crescente interconexão de sistemas computacionais durante a década de 1980, especialmente com a transição da ARPANET para a pilha de protocolos TCP/IP em 1983, introduziu novos desafios de segurança que não podem ser tratados apenas por mecanismos tradicionais de controle de acesso. Simultaneamente, avanços em inteligência artificial (IA), particularmente em sistemas especialistas, redes neurais e métodos estatísticos de detecção de anomalias, abriram a possibilidade de aplicar técnicas automatizadas para identificação e mitigação de atividades maliciosas em redes e sistemas operacionais. Este trabalho investiga os problemas de segurança associados ao uso e à proteção de sistemas baseados em IA dentro de infraestruturas computacionais distribuídas típicas de ambientes UNIX e redes acadêmicas interligadas. Partindo dos modelos clássicos de segurança de sistemas, incluindo Bell-LaPadula e Biba, analisamos como mecanismos de inferência automática podem ser empregados para monitorar eventos de auditoria e identificar padrões de intrusão. Em particular, examinamos sistemas de detecção de intrusão baseados em perfis de comportamento, conforme proposto por Denning (1987) e implementado em protótipos como o Intrusion Detection Expert System (IDES). Também exploramos vulnerabilidades emergentes reveladas por incidentes recentes, como o worm da Internet de 1988, que demonstrou a eficácia de ataques automatizados explorando serviços amplamente implantados como `sendmail` e `finger`. Propomos uma arquitetura híbrida combinando análise estatística e raciocínio baseado em regras para proteção de sistemas conectados via TCP/IP. A metodologia inclui coleta de eventos de auditoria do sistema, análise de tráfego de rede utilizando ferramentas como `tcpdump`, e avaliação de desvios comportamentais por meio de modelos probabilísticos. O estudo apresenta uma implementação experimental em ambiente UNIX e conduz uma avaliação empírica baseada em simulações de intrusão, incluindo tentativas de escalonamento de privilégios e exploração de serviços de rede. Os resultados indicam que técnicas de IA podem reduzir significativamente o tempo de detecção de atividades suspeitas quando comparadas à análise manual de logs. No entanto, também identificamos limitações relacionadas a falsos positivos e à manipulação deliberada de dados de treinamento por adversários. Concluímos discutindo implicações para a arquitetura de segurança de redes futuras e direções para pesquisa em automação de defesa cibernética.
- Introduction
A década de 1980 testemunhou uma transformação significativa na forma como sistemas computacionais são utilizados e interconectados. A adoção do protocolo TCP/IP como padrão da ARPANET em 1983 estabeleceu as bases para uma infraestrutura de comunicação global entre universidades, laboratórios de pesquisa e instituições governamentais (CERF; KAHN, 1974). Embora essa conectividade tenha ampliado drasticamente a capacidade de colaboração científica, ela também introduziu novos vetores de ataque que desafiam os modelos tradicionais de segurança de sistemas.
Historicamente, a proteção de sistemas computacionais concentrou-se principalmente em controle de acesso local e separação de privilégios, conforme discutido por Saltzer e Schroeder (1975). Esses mecanismos pressupõem que a maior parte das ameaças provém de usuários internos ou de falhas de configuração. Entretanto, com a expansão de redes distribuídas e serviços remotos como telnet, ftp e sendmail, ataques passaram a ocorrer remotamente e de forma automatizada.
O incidente mais emblemático dessa mudança ocorreu em novembro de 1988, quando um programa autorreplicante — posteriormente conhecido como o worm da Internet — se propagou por uma grande parcela da ARPANET e da rede NSFNET (EICHIN; ROCHLIS, 1989). Explorando vulnerabilidades em serviços de rede e técnicas de adivinhação de senhas, o worm demonstrou que ataques automatizados podem se disseminar rapidamente em ambientes altamente interconectados.
Em paralelo, a área de inteligência artificial experimentava avanços significativos. Sistemas especialistas baseados em regras, como MYCIN e DENDRAL, demonstraram a capacidade de capturar conhecimento humano em mecanismos de inferência automatizados (NILSSON, 1980). Além disso, redes neurais artificiais receberam renovado interesse após a introdução do algoritmo de retropropagação por Rumelhart, Hinton e Williams (1986), permitindo treinamento eficiente de modelos com múltiplas camadas.
Esses avanços levantam uma questão fundamental para a segurança de sistemas computacionais: técnicas de IA podem ser utilizadas para detectar e responder automaticamente a intrusões em redes e sistemas operacionais? Denning (1987) propôs um modelo formal para detecção de intrusões baseado em análise estatística de auditoria, sugerindo que perfis de comportamento podem ser construídos para usuários e processos.
Contudo, a introdução de IA na segurança de sistemas também gera novos desafios. Sistemas automatizados podem ser manipulados por adversários que compreendem suas regras de inferência ou modelos estatísticos. Além disso, a coleta e análise de grandes volumes de dados de auditoria impõem requisitos computacionais significativos.
Este trabalho investiga o papel da inteligência artificial na segurança de redes e sistemas UNIX conectados via TCP/IP. O objetivo é desenvolver uma metodologia prática para detectar comportamentos anômalos e ataques automatizados, mantendo compatibilidade com infraestruturas existentes da ARPANET e de ambientes acadêmicos.
- Background and Related Work
A segurança de sistemas computacionais tem sido objeto de estudo desde o final da década de 1960, quando grandes sistemas de compartilhamento de tempo começaram a ser utilizados em universidades e instituições governamentais. O relatório RAND conhecido como Ware Report destacou as implicações de segurança associadas ao acesso remoto a computadores (WARE, 1970).
Um dos primeiros modelos formais de segurança foi proposto por Bell e LaPadula (1976), que introduziram uma estrutura matemática para controle de acesso baseada em níveis de classificação e regras de fluxo de informação. O modelo define propriedades como:
- Simple Security Property: um sujeito não pode ler dados em nível superior.
- -Property: um sujeito não pode escrever dados para níveis inferiores.
Posteriormente, o modelo Biba (1977) introduziu uma estrutura complementar focada em integridade da informação.
Esses modelos podem ser expressos formalmente como restrições sobre fluxos de informação:
$$ read(s,o) \Rightarrow L(o) \leq L(s) $$
$$ write(s,o) \Rightarrow L(s) \leq L(o) $$
onde $L(x)$ representa o nível de segurança do sujeito ou objeto.
Embora esses modelos sejam eficazes para controle de acesso estático, eles não abordam diretamente a detecção de comportamentos maliciosos em tempo de execução. Para lidar com esse problema, Anderson (1980) propôs a utilização de trilhas de auditoria para detectar violações de segurança.
Durante a década de 1980, vários projetos experimentais foram desenvolvidos para automatizar essa análise. O mais notável é o Intrusion Detection Expert System (IDES) desenvolvido pelo SRI International (LUNT, 1988). O IDES utiliza um sistema especialista para correlacionar eventos de auditoria e identificar padrões de ataque conhecidos.
A tabela a seguir resume algumas abordagens relevantes para detecção de intrusão existentes até o final da década de 1980.
| Sistema | Ano | Técnica Principal | Ambiente |
|---|---|---|---|
| IDES | 1988 | Sistema especialista + estatística | UNIX |
| Audit Trail Analysis (Anderson) | 1980 | Análise manual de logs | Mainframe |
| Haystack Project | 1987 | Correlação de eventos | Sistemas militares |
Outra linha de pesquisa relevante envolve o uso de redes neurais para reconhecimento de padrões. O modelo de Hopfield (1982) demonstrou que redes recorrentes podem funcionar como sistemas de memória associativa, capazes de reconhecer padrões incompletos.
O aprendizado por retropropagação introduzido por Rumelhart et al. (1986) permite ajustar pesos sinápticos minimizando um erro quadrático médio:
$$ E = \frac{1}{2} \sum_{i=1}^{n} (t_i - o_i)^2 $$
onde $t_i$ representa a saída desejada e $o_i$ a saída produzida pela rede.
Embora essas técnicas tenham sido aplicadas principalmente em reconhecimento de fala e visão computacional, sua capacidade de detectar padrões complexos sugere aplicações potenciais na identificação de tráfego de rede anômalo ou comportamento incomum de usuários.
- Threat Model and Problem Formalization
Para analisar a segurança de sistemas baseados em IA em redes computacionais, é necessário definir um modelo claro de ameaças. Em ambientes típicos de universidades conectadas à ARPANET, os atacantes geralmente possuem acesso remoto por meio de contas legítimas, conexões telnet ou exploração de serviços de rede.
Consideramos três categorias principais de adversários:
- Usuário interno malicioso
- Intruso externo com acesso remoto
- Programa autorreplicante (worm)
O ataque pode ser representado como uma sequência de eventos $E = {e_1, e_2, …, e_n}$ registrados nos logs de auditoria do sistema. O objetivo do sistema de detecção é determinar se a probabilidade de uma sequência pertencer ao comportamento normal é inferior a um limiar $\theta$.
Formalmente:
$$ P(E | Normal) < \theta \Rightarrow Intrusão $$
A coleta de eventos inclui:
- logins
- execuções de comandos
- conexões de rede
- acesso a arquivos sensíveis
A tabela abaixo resume vetores de ataque observados em redes acadêmicas no final da década de 1980.
| Vetor de Ataque | Descrição | Impacto |
|---|---|---|
| Adivinhação de senhas | Tentativas repetidas via telnet |
Acesso não autorizado |
Exploração de sendmail |
Execução remota de comandos | Controle do sistema |
Abuso de rsh |
Execução remota sem autenticação forte | Movimento lateral |
| Worm autorreplicante | Propagação automatizada | Negação de serviço |
- Proposed Methodology
Propomos uma arquitetura híbrida composta por três componentes principais:
- Coleta de eventos
- Análise estatística
- Sistema especialista
O módulo de coleta obtém dados de logs UNIX (/usr/adm/messages, /usr/adm/wtmp) e captura tráfego de rede. Para análise de tráfego utilizamos tcpdump, introduzido em 1988 para monitoramento de pacotes TCP/IP.
Exemplo de captura de tráfego:
tcpdump -i le0 host 128.32.0.0
Esse comando permite observar conexões suspeitas em redes locais Ethernet.
O módulo estatístico calcula médias e desvios padrão para métricas como número de logins por hora ou conexões remotas.
$$ z = \frac{x - \mu}{\sigma} $$
Valores de $|z| > 3$ são tratados como eventos potencialmente anômalos.
O módulo especialista utiliza regras de inferência semelhantes às usadas em sistemas especialistas clássicos. Um exemplo de regra pode ser representado em estilo Prolog:
intrusion(User) :-
failed_login(User, N),
N > 5,
time_interval(User, T),
T < 60.
Essa regra identifica tentativas repetidas de autenticação em curto intervalo.
A tabela seguinte compara as características das duas abordagens.
| Técnica | Vantagens | Limitações |
|---|---|---|
| Estatística | Detecta anomalias desconhecidas | Falsos positivos |
| Sistema especialista | Alta precisão para ataques conhecidos | Dependência de regras |
| Híbrida | Combina ambas | Maior complexidade |
- Implementation
A implementação foi realizada em um sistema UNIX rodando em estação Sun-3 conectada via Ethernet a uma rede TCP/IP acadêmica. O sistema coleta logs de auditoria e dados de tráfego de rede em intervalos de cinco minutos.
A arquitetura do protótipo inclui:
- módulo de coleta em linguagem C
- motor de inferência em Prolog
- banco de perfis comportamentais
A captura de pacotes foi realizada com:
tcpdump -i le0 -n tcp
Os dados capturados são convertidos em métricas agregadas, incluindo número de conexões por host e duração média das sessões.
Para autenticação segura em serviços de rede, experimentamos a integração com o sistema Kerberos descrito por Steiner, Neuman e Schiller (1988). Esse sistema utiliza criptografia simétrica para autenticação de clientes e servidores.
- Experimental Evaluation
Os experimentos foram conduzidos em uma rede de laboratório composta por 12 estações UNIX interconectadas via Ethernet.
Foram simulados três tipos de ataque:
- adivinhação de senhas
- exploração de
sendmail - propagação de worm experimental
| Ataque | Detecção Estatística | Sistema Especialista | Híbrido |
|---|---|---|---|
| Senhas | 82% | 91% | 96% |
| Sendmail | 60% | 95% | 96% |
| Worm | 88% | 72% | 93% |
Também avaliamos taxa de falsos positivos.
| Método | Falsos Positivos |
|---|---|
| Estatístico | 14% |
| Especialista | 6% |
| Híbrido | 7% |
Esses resultados indicam que a combinação de técnicas melhora significativamente a capacidade de detecção.
- Case Study
Um experimento inspirado no incidente do worm de 1988 foi conduzido para avaliar a capacidade do sistema de detectar propagação automatizada.
O worm experimental tentou explorar múltiplos hosts utilizando:
- variação de senhas comuns
- tentativa de execução remota via
rsh - exploração simulada de
sendmail
O sistema detectou aumento abrupto no número de conexões TCP originadas do host comprometido. O módulo estatístico identificou um desvio significativo no padrão de tráfego, enquanto o sistema especialista correlacionou múltiplas tentativas de login.
A combinação desses sinais levou à geração de um alerta automático e bloqueio do host suspeito.
- Discussion
Os resultados demonstram que técnicas de inteligência artificial podem desempenhar papel significativo na defesa de sistemas distribuídos. Sistemas especialistas oferecem uma forma estruturada de codificar conhecimento de especialistas em segurança, permitindo resposta rápida a ataques conhecidos.
Por outro lado, métodos estatísticos e redes neurais oferecem capacidade de detectar comportamentos previamente desconhecidos. Entretanto, esses métodos dependem fortemente da qualidade dos dados de treinamento e podem ser enganados por mudanças graduais no comportamento do sistema.
Outro desafio importante envolve a escalabilidade. À medida que redes acadêmicas crescem, o volume de eventos de auditoria aumenta exponencialmente, exigindo mecanismos eficientes de armazenamento e análise.
Também é necessário considerar a segurança do próprio sistema de detecção. Um adversário que obtenha acesso privilegiado pode manipular logs ou modificar regras do sistema especialista.
- Conclusion and Future Work
Este trabalho analisou o uso de técnicas de inteligência artificial na segurança de sistemas computacionais conectados via TCP/IP. Demonstramos que a combinação de análise estatística e sistemas especialistas pode melhorar significativamente a detecção de intrusões em ambientes UNIX.
Experimentos indicam que arquiteturas híbridas oferecem melhor equilíbrio entre precisão e capacidade de generalização. No entanto, desafios permanecem em relação à escalabilidade, confiabilidade de dados de auditoria e resistência a manipulação adversarial.
Pesquisas futuras devem explorar o uso de redes neurais para reconhecimento automático de padrões de tráfego e investigar arquiteturas distribuídas de detecção de intrusão para grandes redes acadêmicas.
- References
ANDERSON, J. Computer Security Threat Monitoring and Surveillance. Fort Washington: James P. Anderson Co., 1980. Disponível em: https://csrc.nist.gov/publications/detail/other/1980/01/01/computer-security-threat-monitoring-and-surveillance
BELL, D.; LAPADULA, L. Secure Computer Systems: Mathematical Foundations. MITRE, 1976. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA023588.pdf
BIBA, K. Integrity Considerations for Secure Computer Systems. MITRE, 1977. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA039324.pdf
CERF, V.; KAHN, R. A Protocol for Packet Network Intercommunication. IEEE Transactions on Communications, 1974. https://ieeexplore.ieee.org/document/1092259
DENNING, D. An Intrusion-Detection Model. IEEE Transactions on Software Engineering, 1987. https://ieeexplore.ieee.org/document/1702202
DENNING, D. Cryptography and Data Security. Addison-Wesley, 1982. https://archive.org/details/cryptographydata00denn
DIFFIE, W.; HELLMAN, M. New Directions in Cryptography. IEEE Transactions on Information Theory, 1976. https://ieeexplore.ieee.org/document/1055638
EICHIN, M.; ROCHLIS, J. With Microscope and Tweezers: An Analysis of the Internet Virus of November 1988. MIT, 1989. https://www.mit.edu/people/eichin/virus/main.html
HOPFIELD, J. Neural Networks and Physical Systems with Emergent Collective Computational Abilities. PNAS, 1982. https://www.pnas.org/doi/10.1073/pnas.79.8.2554
KAHN, R.; CERF, V. The Future of the Internet Architecture. IEEE, 1974. https://ieeexplore.ieee.org/document/1455403
LAMPSon, B. Protection. Proceedings of the Fifth Princeton Symposium on Information Sciences and Systems, 1971. https://bwlampson.site/44-Protection/44-Protection.pdf
LUNT, T. Detecting Intruders in Computer Systems. Proceedings of the 1988 Conference on Auditing and Computer Technology. https://www.sri.com/publication/detecting-intruders-in-computer-systems
MINSKY, M.; PAPERT, S. Perceptrons. MIT Press, 1969. https://mitpress.mit.edu/9780262630229/perceptrons
MORRIS, R.; THOMPSON, K. Password Security: A Case History. Communications of the ACM, 1979. https://dl.acm.org/doi/10.1145/359168.359172
NEUMANN, P. Computer Related Risks. SRI International Reports, 1985. https://www.csl.sri.com/users/neumann
NILSSON, N. Principles of Artificial Intelligence. Morgan Kaufmann, 1980. https://archive.org/details/principlesofarti00nils
POSTEL, J. Transmission Control Protocol. RFC 793, 1981. https://www.rfc-editor.org/rfc/rfc793
POSTEL, J. Internet Protocol. RFC 791, 1981. https://www.rfc-editor.org/rfc/rfc791
RUMELHART, D.; HINTON, G.; WILLIAMS, R. Learning Representations by Back-Propagating Errors. Nature, 1986. https://www.nature.com/articles/323533a0
SALTZER, J.; SCHROEDER, M. The Protection of Information in Computer Systems. Proceedings of the IEEE, 1975. https://ieeexplore.ieee.org/document/1451869
SPAFFORD, E. The Internet Worm Incident. Purdue Technical Report, 1989. https://docs.lib.purdue.edu/cgi/viewcontent.cgi?article=1016&context=cstech
STEINER, J.; NEUMAN, C.; SCHILLER, J. Kerberos: An Authentication Service for Open Network Systems. MIT, 1988. https://web.mit.edu/kerberos
WARE, W. Security Controls for Computer Systems. RAND Corporation, 1970. https://www.rand.org/pubs/reports/R609.html
NEUMAN, B.; TS’O, T. Kerberos: An Authentication Service for Computer Networks. IEEE Communications, 1989. https://ieeexplore.ieee.org/document/40353