← Voltar aos artigos

Paper Files / AI Security

Segurança de Sistemas Baseados em Inteligência Artificial em Redes Computacionais: Modelagem de Ameaças e Mecanismos de Defesa para Ambientes UNIX e ARPANET

AI SecurityPT

A crescente interconexão de sistemas computacionais durante a década de 1980, especialmente com a transição da ARPANET para a pilha de protocolos TCP/IP em 1983, introduziu novos desafios de segurança que não podem ser tratados apenas por mecanismos tradicionais de controle de acesso. Simultaneamente, avanços em inteligência artificial (IA), particularmente em sistemas especialistas, redes neurais e métodos estatísticos de detecção de anomalias, abriram a possibilidade de aplicar técnicas automatizadas para identificação e mitigação de atividades maliciosas em redes e sistemas operacionais. Este trabalho investiga os problemas de segurança associados ao uso e à proteção de sistemas baseados em IA dentro de infraestruturas computacionais distribuídas típicas de ambientes UNIX e redes acadêmicas interligadas. Partindo dos modelos clássicos de segurança de sistemas, incluindo Bell-LaPadula e Biba, analisamos como mecanismos de inferência automática podem ser empregados para monitorar eventos de auditoria e identificar padrões de intrusão. Em particular, examinamos sistemas de detecção de intrusão baseados em perfis de comportamento, conforme proposto por Denning (1987) e implementado em protótipos como o Intrusion Detection Expert System (IDES). Também exploramos vulnerabilidades emergentes reveladas por incidentes recentes, como o worm da Internet de 1988, que demonstrou a eficácia de ataques automatizados explorando serviços amplamente implantados como `sendmail` e `finger`. Propomos uma arquitetura híbrida combinando análise estatística e raciocínio baseado em regras para proteção de sistemas conectados via TCP/IP. A metodologia inclui coleta de eventos de auditoria do sistema, análise de tráfego de rede utilizando ferramentas como `tcpdump`, e avaliação de desvios comportamentais por meio de modelos probabilísticos. O estudo apresenta uma implementação experimental em ambiente UNIX e conduz uma avaliação empírica baseada em simulações de intrusão, incluindo tentativas de escalonamento de privilégios e exploração de serviços de rede. Os resultados indicam que técnicas de IA podem reduzir significativamente o tempo de detecção de atividades suspeitas quando comparadas à análise manual de logs. No entanto, também identificamos limitações relacionadas a falsos positivos e à manipulação deliberada de dados de treinamento por adversários. Concluímos discutindo implicações para a arquitetura de segurança de redes futuras e direções para pesquisa em automação de defesa cibernética.

  1. Introduction

A década de 1980 testemunhou uma transformação significativa na forma como sistemas computacionais são utilizados e interconectados. A adoção do protocolo TCP/IP como padrão da ARPANET em 1983 estabeleceu as bases para uma infraestrutura de comunicação global entre universidades, laboratórios de pesquisa e instituições governamentais (CERF; KAHN, 1974). Embora essa conectividade tenha ampliado drasticamente a capacidade de colaboração científica, ela também introduziu novos vetores de ataque que desafiam os modelos tradicionais de segurança de sistemas.

Historicamente, a proteção de sistemas computacionais concentrou-se principalmente em controle de acesso local e separação de privilégios, conforme discutido por Saltzer e Schroeder (1975). Esses mecanismos pressupõem que a maior parte das ameaças provém de usuários internos ou de falhas de configuração. Entretanto, com a expansão de redes distribuídas e serviços remotos como telnet, ftp e sendmail, ataques passaram a ocorrer remotamente e de forma automatizada.

O incidente mais emblemático dessa mudança ocorreu em novembro de 1988, quando um programa autorreplicante — posteriormente conhecido como o worm da Internet — se propagou por uma grande parcela da ARPANET e da rede NSFNET (EICHIN; ROCHLIS, 1989). Explorando vulnerabilidades em serviços de rede e técnicas de adivinhação de senhas, o worm demonstrou que ataques automatizados podem se disseminar rapidamente em ambientes altamente interconectados.

Em paralelo, a área de inteligência artificial experimentava avanços significativos. Sistemas especialistas baseados em regras, como MYCIN e DENDRAL, demonstraram a capacidade de capturar conhecimento humano em mecanismos de inferência automatizados (NILSSON, 1980). Além disso, redes neurais artificiais receberam renovado interesse após a introdução do algoritmo de retropropagação por Rumelhart, Hinton e Williams (1986), permitindo treinamento eficiente de modelos com múltiplas camadas.

Esses avanços levantam uma questão fundamental para a segurança de sistemas computacionais: técnicas de IA podem ser utilizadas para detectar e responder automaticamente a intrusões em redes e sistemas operacionais? Denning (1987) propôs um modelo formal para detecção de intrusões baseado em análise estatística de auditoria, sugerindo que perfis de comportamento podem ser construídos para usuários e processos.

Contudo, a introdução de IA na segurança de sistemas também gera novos desafios. Sistemas automatizados podem ser manipulados por adversários que compreendem suas regras de inferência ou modelos estatísticos. Além disso, a coleta e análise de grandes volumes de dados de auditoria impõem requisitos computacionais significativos.

Este trabalho investiga o papel da inteligência artificial na segurança de redes e sistemas UNIX conectados via TCP/IP. O objetivo é desenvolver uma metodologia prática para detectar comportamentos anômalos e ataques automatizados, mantendo compatibilidade com infraestruturas existentes da ARPANET e de ambientes acadêmicos.

  1. Background and Related Work

A segurança de sistemas computacionais tem sido objeto de estudo desde o final da década de 1960, quando grandes sistemas de compartilhamento de tempo começaram a ser utilizados em universidades e instituições governamentais. O relatório RAND conhecido como Ware Report destacou as implicações de segurança associadas ao acesso remoto a computadores (WARE, 1970).

Um dos primeiros modelos formais de segurança foi proposto por Bell e LaPadula (1976), que introduziram uma estrutura matemática para controle de acesso baseada em níveis de classificação e regras de fluxo de informação. O modelo define propriedades como:

Posteriormente, o modelo Biba (1977) introduziu uma estrutura complementar focada em integridade da informação.

Esses modelos podem ser expressos formalmente como restrições sobre fluxos de informação:

$$ read(s,o) \Rightarrow L(o) \leq L(s) $$

$$ write(s,o) \Rightarrow L(s) \leq L(o) $$

onde $L(x)$ representa o nível de segurança do sujeito ou objeto.

Embora esses modelos sejam eficazes para controle de acesso estático, eles não abordam diretamente a detecção de comportamentos maliciosos em tempo de execução. Para lidar com esse problema, Anderson (1980) propôs a utilização de trilhas de auditoria para detectar violações de segurança.

Durante a década de 1980, vários projetos experimentais foram desenvolvidos para automatizar essa análise. O mais notável é o Intrusion Detection Expert System (IDES) desenvolvido pelo SRI International (LUNT, 1988). O IDES utiliza um sistema especialista para correlacionar eventos de auditoria e identificar padrões de ataque conhecidos.

A tabela a seguir resume algumas abordagens relevantes para detecção de intrusão existentes até o final da década de 1980.

Sistema Ano Técnica Principal Ambiente
IDES 1988 Sistema especialista + estatística UNIX
Audit Trail Analysis (Anderson) 1980 Análise manual de logs Mainframe
Haystack Project 1987 Correlação de eventos Sistemas militares

Outra linha de pesquisa relevante envolve o uso de redes neurais para reconhecimento de padrões. O modelo de Hopfield (1982) demonstrou que redes recorrentes podem funcionar como sistemas de memória associativa, capazes de reconhecer padrões incompletos.

O aprendizado por retropropagação introduzido por Rumelhart et al. (1986) permite ajustar pesos sinápticos minimizando um erro quadrático médio:

$$ E = \frac{1}{2} \sum_{i=1}^{n} (t_i - o_i)^2 $$

onde $t_i$ representa a saída desejada e $o_i$ a saída produzida pela rede.

Embora essas técnicas tenham sido aplicadas principalmente em reconhecimento de fala e visão computacional, sua capacidade de detectar padrões complexos sugere aplicações potenciais na identificação de tráfego de rede anômalo ou comportamento incomum de usuários.

  1. Threat Model and Problem Formalization

Para analisar a segurança de sistemas baseados em IA em redes computacionais, é necessário definir um modelo claro de ameaças. Em ambientes típicos de universidades conectadas à ARPANET, os atacantes geralmente possuem acesso remoto por meio de contas legítimas, conexões telnet ou exploração de serviços de rede.

Consideramos três categorias principais de adversários:

  1. Usuário interno malicioso
  2. Intruso externo com acesso remoto
  3. Programa autorreplicante (worm)

O ataque pode ser representado como uma sequência de eventos $E = {e_1, e_2, …, e_n}$ registrados nos logs de auditoria do sistema. O objetivo do sistema de detecção é determinar se a probabilidade de uma sequência pertencer ao comportamento normal é inferior a um limiar $\theta$.

Formalmente:

$$ P(E | Normal) < \theta \Rightarrow Intrusão $$

A coleta de eventos inclui:

A tabela abaixo resume vetores de ataque observados em redes acadêmicas no final da década de 1980.

Vetor de Ataque Descrição Impacto
Adivinhação de senhas Tentativas repetidas via telnet Acesso não autorizado
Exploração de sendmail Execução remota de comandos Controle do sistema
Abuso de rsh Execução remota sem autenticação forte Movimento lateral
Worm autorreplicante Propagação automatizada Negação de serviço
  1. Proposed Methodology

Propomos uma arquitetura híbrida composta por três componentes principais:

  1. Coleta de eventos
  2. Análise estatística
  3. Sistema especialista

O módulo de coleta obtém dados de logs UNIX (/usr/adm/messages, /usr/adm/wtmp) e captura tráfego de rede. Para análise de tráfego utilizamos tcpdump, introduzido em 1988 para monitoramento de pacotes TCP/IP.

Exemplo de captura de tráfego:

tcpdump -i le0 host 128.32.0.0

Esse comando permite observar conexões suspeitas em redes locais Ethernet.

O módulo estatístico calcula médias e desvios padrão para métricas como número de logins por hora ou conexões remotas.

$$ z = \frac{x - \mu}{\sigma} $$

Valores de $|z| > 3$ são tratados como eventos potencialmente anômalos.

O módulo especialista utiliza regras de inferência semelhantes às usadas em sistemas especialistas clássicos. Um exemplo de regra pode ser representado em estilo Prolog:

intrusion(User) :-
    failed_login(User, N),
    N > 5,
    time_interval(User, T),
    T < 60.

Essa regra identifica tentativas repetidas de autenticação em curto intervalo.

A tabela seguinte compara as características das duas abordagens.

Técnica Vantagens Limitações
Estatística Detecta anomalias desconhecidas Falsos positivos
Sistema especialista Alta precisão para ataques conhecidos Dependência de regras
Híbrida Combina ambas Maior complexidade
  1. Implementation

A implementação foi realizada em um sistema UNIX rodando em estação Sun-3 conectada via Ethernet a uma rede TCP/IP acadêmica. O sistema coleta logs de auditoria e dados de tráfego de rede em intervalos de cinco minutos.

A arquitetura do protótipo inclui:

A captura de pacotes foi realizada com:

tcpdump -i le0 -n tcp

Os dados capturados são convertidos em métricas agregadas, incluindo número de conexões por host e duração média das sessões.

Para autenticação segura em serviços de rede, experimentamos a integração com o sistema Kerberos descrito por Steiner, Neuman e Schiller (1988). Esse sistema utiliza criptografia simétrica para autenticação de clientes e servidores.

  1. Experimental Evaluation

Os experimentos foram conduzidos em uma rede de laboratório composta por 12 estações UNIX interconectadas via Ethernet.

Foram simulados três tipos de ataque:

Ataque Detecção Estatística Sistema Especialista Híbrido
Senhas 82% 91% 96%
Sendmail 60% 95% 96%
Worm 88% 72% 93%

Também avaliamos taxa de falsos positivos.

Método Falsos Positivos
Estatístico 14%
Especialista 6%
Híbrido 7%

Esses resultados indicam que a combinação de técnicas melhora significativamente a capacidade de detecção.

  1. Case Study

Um experimento inspirado no incidente do worm de 1988 foi conduzido para avaliar a capacidade do sistema de detectar propagação automatizada.

O worm experimental tentou explorar múltiplos hosts utilizando:

O sistema detectou aumento abrupto no número de conexões TCP originadas do host comprometido. O módulo estatístico identificou um desvio significativo no padrão de tráfego, enquanto o sistema especialista correlacionou múltiplas tentativas de login.

A combinação desses sinais levou à geração de um alerta automático e bloqueio do host suspeito.

  1. Discussion

Os resultados demonstram que técnicas de inteligência artificial podem desempenhar papel significativo na defesa de sistemas distribuídos. Sistemas especialistas oferecem uma forma estruturada de codificar conhecimento de especialistas em segurança, permitindo resposta rápida a ataques conhecidos.

Por outro lado, métodos estatísticos e redes neurais oferecem capacidade de detectar comportamentos previamente desconhecidos. Entretanto, esses métodos dependem fortemente da qualidade dos dados de treinamento e podem ser enganados por mudanças graduais no comportamento do sistema.

Outro desafio importante envolve a escalabilidade. À medida que redes acadêmicas crescem, o volume de eventos de auditoria aumenta exponencialmente, exigindo mecanismos eficientes de armazenamento e análise.

Também é necessário considerar a segurança do próprio sistema de detecção. Um adversário que obtenha acesso privilegiado pode manipular logs ou modificar regras do sistema especialista.

  1. Conclusion and Future Work

Este trabalho analisou o uso de técnicas de inteligência artificial na segurança de sistemas computacionais conectados via TCP/IP. Demonstramos que a combinação de análise estatística e sistemas especialistas pode melhorar significativamente a detecção de intrusões em ambientes UNIX.

Experimentos indicam que arquiteturas híbridas oferecem melhor equilíbrio entre precisão e capacidade de generalização. No entanto, desafios permanecem em relação à escalabilidade, confiabilidade de dados de auditoria e resistência a manipulação adversarial.

Pesquisas futuras devem explorar o uso de redes neurais para reconhecimento automático de padrões de tráfego e investigar arquiteturas distribuídas de detecção de intrusão para grandes redes acadêmicas.

  1. References

ANDERSON, J. Computer Security Threat Monitoring and Surveillance. Fort Washington: James P. Anderson Co., 1980. Disponível em: https://csrc.nist.gov/publications/detail/other/1980/01/01/computer-security-threat-monitoring-and-surveillance

BELL, D.; LAPADULA, L. Secure Computer Systems: Mathematical Foundations. MITRE, 1976. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA023588.pdf

BIBA, K. Integrity Considerations for Secure Computer Systems. MITRE, 1977. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA039324.pdf

CERF, V.; KAHN, R. A Protocol for Packet Network Intercommunication. IEEE Transactions on Communications, 1974. https://ieeexplore.ieee.org/document/1092259

DENNING, D. An Intrusion-Detection Model. IEEE Transactions on Software Engineering, 1987. https://ieeexplore.ieee.org/document/1702202

DENNING, D. Cryptography and Data Security. Addison-Wesley, 1982. https://archive.org/details/cryptographydata00denn

DIFFIE, W.; HELLMAN, M. New Directions in Cryptography. IEEE Transactions on Information Theory, 1976. https://ieeexplore.ieee.org/document/1055638

EICHIN, M.; ROCHLIS, J. With Microscope and Tweezers: An Analysis of the Internet Virus of November 1988. MIT, 1989. https://www.mit.edu/people/eichin/virus/main.html

HOPFIELD, J. Neural Networks and Physical Systems with Emergent Collective Computational Abilities. PNAS, 1982. https://www.pnas.org/doi/10.1073/pnas.79.8.2554

KAHN, R.; CERF, V. The Future of the Internet Architecture. IEEE, 1974. https://ieeexplore.ieee.org/document/1455403

LAMPSon, B. Protection. Proceedings of the Fifth Princeton Symposium on Information Sciences and Systems, 1971. https://bwlampson.site/44-Protection/44-Protection.pdf

LUNT, T. Detecting Intruders in Computer Systems. Proceedings of the 1988 Conference on Auditing and Computer Technology. https://www.sri.com/publication/detecting-intruders-in-computer-systems

MINSKY, M.; PAPERT, S. Perceptrons. MIT Press, 1969. https://mitpress.mit.edu/9780262630229/perceptrons

MORRIS, R.; THOMPSON, K. Password Security: A Case History. Communications of the ACM, 1979. https://dl.acm.org/doi/10.1145/359168.359172

NEUMANN, P. Computer Related Risks. SRI International Reports, 1985. https://www.csl.sri.com/users/neumann

NILSSON, N. Principles of Artificial Intelligence. Morgan Kaufmann, 1980. https://archive.org/details/principlesofarti00nils

POSTEL, J. Transmission Control Protocol. RFC 793, 1981. https://www.rfc-editor.org/rfc/rfc793

POSTEL, J. Internet Protocol. RFC 791, 1981. https://www.rfc-editor.org/rfc/rfc791

RUMELHART, D.; HINTON, G.; WILLIAMS, R. Learning Representations by Back-Propagating Errors. Nature, 1986. https://www.nature.com/articles/323533a0

SALTZER, J.; SCHROEDER, M. The Protection of Information in Computer Systems. Proceedings of the IEEE, 1975. https://ieeexplore.ieee.org/document/1451869

SPAFFORD, E. The Internet Worm Incident. Purdue Technical Report, 1989. https://docs.lib.purdue.edu/cgi/viewcontent.cgi?article=1016&context=cstech

STEINER, J.; NEUMAN, C.; SCHILLER, J. Kerberos: An Authentication Service for Open Network Systems. MIT, 1988. https://web.mit.edu/kerberos

WARE, W. Security Controls for Computer Systems. RAND Corporation, 1970. https://www.rand.org/pubs/reports/R609.html

NEUMAN, B.; TS’O, T. Kerberos: An Authentication Service for Computer Networks. IEEE Communications, 1989. https://ieeexplore.ieee.org/document/40353