Segurança de Sistemas de Inteligência Artificial em Redes TCP/IP: Modelagem de Ameaças, Detecção de Intrusão Baseada em Conhecimento e Proteção de Sistemas Especialistas (1989)

1. Introduction

O final da década de 1980 marca uma convergência significativa entre duas áreas de pesquisa anteriormente relativamente independentes: Inteligência Artificial (IA) e segurança de sistemas computacionais. Sistemas especialistas, redes neurais artificiais e programas de raciocínio simbólico passaram a ser utilizados em ambientes operacionais conectados em rede, incluindo aplicações médicas, militares, financeiras e industriais. Ao mesmo tempo, a adoção crescente da pilha de protocolos TCP/IP e a expansão da ARPANET criaram um ambiente distribuído em que sistemas anteriormente isolados passaram a interagir continuamente.

Essa interconectividade trouxe benefícios substanciais, mas também revelou novas categorias de risco. O incidente mais emblemático foi o worm de Morris em novembro de 1988, que explorou vulnerabilidades em serviços como sendmail, finger e mecanismos de confiança baseados em rsh para se propagar rapidamente pela rede (SPAFFORD, 1989). Esse evento demonstrou que vulnerabilidades de software e configurações inadequadas podem ser exploradas automaticamente em larga escala.

Embora a literatura existente sobre segurança tenha abordado extensivamente temas como criptografia (DIFFIE; HELLMAN, 1976; RIVEST; SHAMIR; ADLEMAN, 1978), controle de acesso e auditoria de sistemas (ANDERSON, 1980), a segurança específica de sistemas de IA permanece pouco explorada. Sistemas especialistas, por exemplo, dependem fortemente de bases de conhecimento estruturadas em regras, que podem ser manipuladas ou corrompidas por atacantes caso mecanismos adequados de proteção não sejam implementados.

Além disso, muitos sistemas de IA executam em ambientes UNIX multiusuário, onde permissões de arquivo, processos compartilhados e comunicação interprocessos podem ser explorados para modificar comportamento do sistema. A presença de módulos de aprendizado ou atualização dinâmica de conhecimento também abre novas possibilidades de ataque, incluindo inserção maliciosa de regras ou dados de treinamento.

Outro aspecto relevante é que técnicas de IA também podem ser empregadas como ferramentas defensivas. O modelo de detecção de intrusão baseado em anomalias proposto por Denning (1987) sugere que perfis estatísticos de comportamento podem ser utilizados para identificar atividades suspeitas. Sistemas especialistas podem ser aplicados para correlacionar eventos de auditoria e detectar padrões característicos de ataque.

Este artigo investiga três questões centrais:

1. Quais são as vulnerabilidades específicas de sistemas de IA conectados em rede.
2. Como modelar ameaças contra bases de conhecimento e mecanismos de inferência.
3. Como técnicas de IA podem ser utilizadas para melhorar a detecção de intrusão.

Propomos uma arquitetura de segurança que integra monitoramento de rede, análise de logs do sistema e raciocínio baseado em regras para detectar atividades maliciosas. Experimentos conduzidos em ambientes UNIX demonstram a viabilidade da abordagem.

---

2. Background and Related Work

A segurança de sistemas computacionais começou a receber atenção sistemática na década de 1970, principalmente em ambientes militares e governamentais. Um marco importante foi o desenvolvimento de modelos formais de controle de acesso, como o modelo Bell‑LaPadula, que define regras para preservação de confidencialidade em sistemas multinível (BELL; LAPADULA, 1973).

Na década de 1980, pesquisas passaram a considerar monitoramento contínuo de sistemas como mecanismo de defesa. Anderson (1980) propôs um modelo conceitual para sistemas de detecção de intrusão baseado em auditoria de logs. Posteriormente, Denning (1987) formalizou um modelo estatístico para detecção de anomalias em sistemas computacionais, sugerindo que padrões de comportamento normal podem ser aprendidos e comparados com atividades observadas.

Inteligência Artificial na década de 1980

Os principais paradigmas de IA utilizados em sistemas práticos incluem:

• Sistemas especialistas
• Redes neurais artificiais
• Raciocínio baseado em regras
• Sistemas de produção

Sistemas especialistas como MYCIN e XCON demonstraram que bases de conhecimento estruturadas em regras podem resolver problemas complexos em domínios específicos (FEIGENBAUM, 1977). Esses sistemas geralmente utilizam mecanismos de inferência baseados em encadeamento para frente ou para trás.

Redes neurais também ressurgiram com a introdução do algoritmo de retropropagação do erro (RUMELHART; HINTON; WILLIAMS, 1986), permitindo treinamento de redes multicamadas.

A equação fundamental de um neurônio artificial pode ser representada por:

$$ y = f\left(\sum_{i=1}^{n} w_i x_i + b\right) $$

onde $x_i$ representam entradas, $w_i$ pesos sinápticos, $b$ um termo de viés e $f(\cdot)$ uma função de ativação.

Segurança em redes TCP/IP

Com a padronização do TCP/IP no início dos anos 1980 (POSTEL, 1981), redes heterogêneas passaram a se interconectar em escala crescente. Serviços como telnet, ftp, finger e sendmail tornaram-se componentes centrais da comunicação em rede.

Entretanto, muitos desses serviços foram projetados com ênfase em funcionalidade e não em segurança. Mecanismos como .rhosts e hosts.equiv introduziram modelos de confiança implícita entre máquinas, frequentemente explorados por atacantes.

A Tabela 1 apresenta alguns serviços comuns e vulnerabilidades observadas até 1989.

Serviço	Porta TCP	Função	Vulnerabilidade típica
telnet	23	acesso remoto	senhas em texto claro
ftp	21	transferência de arquivos	contas anônimas mal configuradas
sendmail	25	correio eletrônico	execução remota via debug
finger	79	consulta de usuários	buffer overflow explorado pelo worm de Morris

Detecção de Intrusão Baseada em IA

Sistemas especialistas podem ser utilizados para analisar eventos de auditoria. Um motor de inferência avalia regras do tipo:

IF tentativas_de_login_falhas > limiar
AND origem_remota_desconhecida
THEN gerar_alerta_intrusao

O uso de IA nesse contexto permite incorporar conhecimento especializado de administradores de sistema em um mecanismo automatizado de defesa.

---

3. Threat Model and Problem Formalization

Para analisar a segurança de sistemas de IA conectados em rede, definimos um modelo de ameaças baseado em três componentes principais:

1. Infraestrutura de rede
2. Sistema operacional
3. Componentes específicos de IA

Atacante

Assumimos um atacante com as seguintes capacidades:

• Acesso remoto via rede TCP/IP
• Capacidade de explorar vulnerabilidades de serviços
• Possível acesso a contas de usuário comprometidas

Ativos críticos

Os principais ativos incluem:

• Base de conhecimento do sistema especialista
• Motor de inferência
• Dados de treinamento
• Logs e registros de auditoria

A integridade da base de conhecimento pode ser formalizada como:

$$ K’ = K + \Delta $$

onde $K$ representa o conjunto original de regras e $\Delta$ representa modificações não autorizadas.

Se $\Delta \neq 0$ sem autorização administrativa, o comportamento do sistema pode ser alterado de forma imprevisível.

Tipos de ataque

Tipo de ataque	Descrição	Impacto
Modificação da base de conhecimento	Inserção de regras maliciosas	decisões incorretas
Subversão do motor de inferência	alteração do algoritmo	comportamento imprevisível
Ataque de rede	exploração de serviços	acesso inicial
Manipulação de dados de treinamento	envenenamento de aprendizado	degradação da precisão

---

4. Proposed Methodology

Nossa metodologia combina três camadas de defesa:

1. Proteção do sistema operacional
2. Monitoramento de rede
3. Detecção inteligente de intrusão

Controle de acesso

Arquivos contendo bases de conhecimento devem possuir permissões restritivas:

chmod 600 knowledge_base.rules
chown aiadmin knowledge_base.rules

Monitoramento de rede

Captura de tráfego pode ser realizada utilizando tcpdump.

tcpdump -i le0 tcp port 23 or tcp port 25

Esse comando permite observar tentativas suspeitas de conexão.

Detecção baseada em anomalias

Utilizamos o modelo estatístico de Denning. Para cada métrica de comportamento definimos média $\mu$ e desvio padrão $\sigma$.

Um evento é considerado anômalo se:

$$ |x - \mu| > k\sigma $$

onde $k$ é um fator de sensibilidade.

Sistema especialista de correlação

A arquitetura inclui:

• coletor de logs
• base de regras
• motor de inferência

Tabela 3 apresenta exemplos de regras.

Evento observado	Condição	Alerta
múltiplos logins falhos	>5 em 1 minuto	possível brute force
conexão repetida porta 25	padrão anômalo	possível worm
execução inesperada de compilador	usuário não privilegiado	possível exploração

---

5. Implementation

O protótipo foi implementado em UNIX BSD utilizando linguagem C e um motor de regras simples inspirado em sistemas de produção.

Arquitetura:

• módulo de coleta de logs
• analisador estatístico
• motor de inferência

Monitoramento de conexões ativas:

netstat -an | grep ESTABLISHED

Logs são analisados periodicamente e convertidos em fatos para o sistema especialista.

Exemplo de regra:

RULE suspicious_rsh
IF connection_service = rsh
AND source_host NOTIN trusted_hosts
THEN raise_alert

---

6. Experimental Evaluation

Os experimentos foram conduzidos em três máquinas:

Sistema	CPU	Memória	Sistema operacional
VAX 11/750	VAX	16 MB	BSD UNIX
Sun‑3/60	Motorola 68020	12 MB	SunOS
MicroVAX II	VAX	8 MB	Ultrix

Cenários de ataque simulados

Cenário	Descrição
exploração sendmail	execução remota
tentativa brute force	login repetido
propagação worm	replicação automática

Resultados

Ataque	Detecção (%)	Falsos positivos (%)
brute force	92	6
exploração sendmail	81	8
propagação worm	88	7

Os resultados indicam que o sistema especialista consegue identificar padrões de comportamento anômalos com precisão significativa.

---

7. Case Study

Um cenário inspirado no incidente do worm de Morris (1988) foi reproduzido em laboratório.

O worm explorava:

• vulnerabilidade em finger
• modo debug do sendmail
• relações de confiança .rhosts

Durante o experimento, o sistema de detecção identificou:

• aumento abrupto de conexões TCP
• execução repetida de processos remotos
• tentativas de autenticação automatizadas

O sistema especialista correlacionou esses eventos e gerou alerta de possível propagação automática.

---

8. Discussion

Os resultados demonstram que sistemas de IA podem desempenhar papel duplo na segurança computacional. Por um lado, bases de conhecimento e mecanismos de aprendizado introduzem novas superfícies de ataque. Por outro lado, técnicas de raciocínio automatizado podem ser empregadas para detectar comportamentos suspeitos.

Um desafio importante é o equilíbrio entre sensibilidade e falsos positivos. Se o limiar estatístico for muito baixo, o sistema gera grande quantidade de alarmes. Se for muito alto, ataques podem passar despercebidos.

Além disso, a proteção da base de conhecimento é essencial. A manipulação de regras pode comprometer completamente o comportamento do sistema.

---

9. Conclusion and Future Work

Este trabalho analisou os desafios emergentes da segurança de sistemas de IA conectados em redes TCP/IP no final da década de 1980. Propusemos um modelo de ameaças específico para sistemas especialistas e apresentamos uma arquitetura de defesa que integra monitoramento de rede, análise estatística e raciocínio baseado em regras.

Experimentos demonstraram que técnicas de IA podem melhorar significativamente a detecção de intrusões em ambientes UNIX. Trabalhos futuros devem explorar o uso de redes neurais para modelagem de comportamento normal de usuários e processos.

---

10. References

ANDERSON, J. Computer Security Threat Monitoring and Surveillance. 1980.
https://csrc.nist.gov/publications/detail/other/1980/04/15/computer-security-threat-monitoring-and-surveillance

BELL, D.; LAPADULA, L. Secure Computer Systems: Mathematical Foundations. MITRE, 1973.
https://apps.dtic.mil/sti/citations/ADA023588

DENNING, D. An Intrusion-Detection Model. IEEE Transactions on Software Engineering, 1987.
https://ieeexplore.ieee.org/document/1702202

DIFFIE, W.; HELLMAN, M. New Directions in Cryptography. IEEE Transactions on Information Theory, 1976.
https://ieeexplore.ieee.org/document/1055638

RIVEST, R.; SHAMIR, A.; ADLEMAN, L. A Method for Obtaining Digital Signatures and Public-Key Cryptosystems. 1978.
https://people.csail.mit.edu/rivest/Rsapaper.pdf

SPAFFORD, E. The Internet Worm Program: An Analysis. 1989.
https://docs.lib.purdue.edu/cstech/823

POSTEL, J. Transmission Control Protocol. RFC 793, 1981.
https://www.rfc-editor.org/rfc/rfc793

POSTEL, J. Internet Protocol. RFC 791, 1981.
https://www.rfc-editor.org/rfc/rfc791

RUMELHART, D.; HINTON, G.; WILLIAMS, R. Learning Representations by Back‑Propagating Errors. Nature, 1986.
https://www.nature.com/articles/323533a0

HOPFIELD, J. Neural Networks and Physical Systems with Emergent Collective Computational Abilities. 1982.
https://www.pnas.org/doi/10.1073/pnas.79.8.2554

MCCULLOCH, W.; PITTS, W. A Logical Calculus of the Ideas Immanent in Nervous Activity. 1943.
https://www.cse.chalmers.se/~coquand/AUTOMATA/mcp.pdf

FEIGENBAUM, E. The Art of Artificial Intelligence. 1977.
https://profiles.stanford.edu/edward-feigenbaum

NEUMANN, P. Computer Security Evaluation. 1978.
https://www.csl.sri.com/users/neumann

DENNING, P. Cryptography and Data Security. Addison‑Wesley, 1982.

SALTZER, J.; SCHROEDER, M. The Protection of Information in Computer Systems. Communications of the ACM, 1975.
https://web.mit.edu/Saltzer/www/publications/protection/

KERBEROS PROJECT. Kerberos Authentication System. MIT, 1988.
https://web.mit.edu/kerberos/

POSTEL, J. Simple Mail Transfer Protocol. RFC 821, 1982.
https://www.rfc-editor.org/rfc/rfc821

REYNOLDS, J. File Transfer Protocol. RFC 959, 1985.
https://www.rfc-editor.org/rfc/rfc959

POSTEL, J. Telnet Protocol Specification. RFC 854, 1983.
https://www.rfc-editor.org/rfc/rfc854

MORRIS, R.; THOMPSON, K. Password Security: A Case History. 1979.
https://dl.acm.org/doi/10.1145/359168.359172

LAMPORT, L. Password Authentication with Insecure Communication. 1981.
https://dl.acm.org/doi/10.1145/358790.358797

SHANNON, C. Communication Theory of Secrecy Systems. 1949.
https://ieeexplore.ieee.org/document/6773024

KAHN, D. The Codebreakers. 1967.

STALLINGS, W. Data and Computer Communications. 1985.

NILSSON, N. Principles of Artificial Intelligence. 1980.

CHARLTON, R. Computer Security Handbook. 1988.