Paper Files / AI Security

Segurança de Sistemas de Inteligência Artificial Baseados em Sistemas Especialistas e Redes Neurais: Modelagem Formal de Ameaças, Vetores de Ataque e Mecanismos de Defesa no Ambiente Computacional de 1986

2009-10-01AI SecurityPT

Investigamos a segurança de sistemas de Inteligência Artificial (IA) no cenário tecnológico de 1986, com ênfase em sistemas especialistas baseados em regras e redes neurais artificiais. Ao contrário de aplicações procedimentais clássicas, tais sistemas concentram conhecimento explícito em bases de regras e em parâmetros numéricos ajustáveis, os quais, se alterados maliciosamente, podem degradar silenciosamente a integridade semântica das decisões. Propomos uma estrutura formal para modelar ameaças, definindo o sistema de IA como quádrupla S = (K, I, D, Θ), composta por base de conhecimento, motor de inferência, base de fatos e parâmetros treináveis. Incorporamos modelos de segurança clássicos (Bell–LaPadula, Biba, Lattice de Denning), e formalizamos integridade semântica por meio de invariantes sobre K e métricas de estabilidade sobre Θ. No âmbito criptográfico, discutimos mecanismos de integridade e autenticação de artefatos (arquivos de regras, dados de treinamento e pesos), utilizando MAC baseado em DES (FIPS PUB 113), distribuição de chaves por paradigmas de criptografia assimétrica (Diffie–Hellman; Needham–Schroeder) e assinaturas digitais RSA sobre resumos autenticados. Em ambientes multiusuário UNIX (4.2/4.3BSD) e VAX/VMS, delineamos políticas de controle de acesso alinhadas a privilégio mínimo, separação de funções e revisão por pares. Recorremos a auditoria de host (utmp/wtmp, accounting) e a analisadores de protocolo dedicados disponíveis na época para identificação de sessões remotas anômalas (Telnet, FTP). Complementamos com verificação estatística de deriva de parâmetros (médias/variâncias; testes de hipóteses clássicos) e checagens lógicas sobre a base de regras (consistência, subsunção, detecção de ciclos). Conduzimos avaliação experimental com um protótipo em LISP sob 4.3BSD e um módulo de rede neural (Hopfield e perceptron multicamadas com retropropagação), simulando inserção de regras falsas, perturbação de pesos e corrupção de dados. Os resultados indicam que: (i) políticas de integridade do tipo Biba, associadas a MACs DES e assinaturas RSA, detectam modificações não autorizadas em K com alta confiabilidade; (ii) auditoria sistemática de host e análise de sessões remotas identificam acessos suspeitos de forma tempestiva; (iii) controle de acesso e separação de funções reduzem significativamente a superfície de ataque interno. Concluímos que, em 1986, uma combinação de modelos formais de integridade, mecanismos criptográficos padronizados e práticas robustas de administração de sistemas oferece base sólida para proteger a integridade semântica de sistemas de IA em ambientes interconectados por TCP/IP.

Introduction

A década de 1980 consolidou a Inteligência Artificial (IA) aplicada, sobretudo por sistemas especialistas desenvolvidos em LISP e PROLOG e pelo ressurgimento do interesse em redes neurais com a formulação de retropropagação de erros (RUMELHART; HINTON; WILLIAMS, 1986). Provas de conceito como MYCIN evidenciaram a capacidade de bases de conhecimento estruturadas reproduzirem decisões médicas com boa acurácia (SHORTLIFFE, 1976), ao passo que XCON (R1) demonstrou a viabilidade comercial da abordagem baseada em regras no domínio de configuração de produtos (MCDERMOTT, 1982; FEIGENBAUM, 1981). Paralelamente, redes de Hopfield formalizaram memória associativa por mínimos de energia (HOPFIELD, 1982), enquanto perceptrons multicamadas ampliaram o alcance representacional (MINSKY; PAPERT, 1969; RUMELHART; HINTON; WILLIAMS, 1986).

Com a adoção de ambientes multiusuário — UNIX (4.2/4.3BSD), VAX/VMS — e a progressiva interconexão por TCP/IP conforme padronização da ARPANET (CERF; KAHN, 1974; POSTEL, 1981a; 1981b; RFC 854 para Telnet, 1983; RFC 959 para FTP, 1985), emergiu uma superfície de ataque distinta daquela observada em aplicações estritamente procedimentais. O fator diferencial reside no armazenamento explícito de conhecimento na base de regras e, em redes neurais, na materialização do conhecimento em vetores de pesos. Modificações discretas nestes artefatos podem alterar sistematicamente resultados, permanecendo abaixo do limiar de visibilidade operacional.

A literatura clássica de segurança enfatiza confidencialidade e controle de acesso (SALTZER; SCHROEDER, 1975; DENNING, 1976; LAMPSON, 1974; DOD, 1983), mas para sistemas de IA torna-se crucial a integridade — inclusive semântica — do conhecimento. Uma única regra inserida ou alterada pode contaminar cadeias inferenciais inteiras:

;; Exemplo de regra diagnóstica simplificada
(IF (AND (fever high) (rash present))
    THEN (diagnosis measles))

A alteração silenciosa da conclusão (ou de um predicado intermediário) pode induzir viés sistemático. Analogamente, em redes neurais, pequenas perturbações em pesos $w_i$ podem levar a decisões qualitativamente diferentes, sobretudo em regiões próximas a fronteiras de decisão.

Este trabalho propõe uma estrutura formal para análise e mitigação de ameaças contra sistemas especialistas e redes neurais no cenário tecnológico de 1986. Combinamos: (i) modelos formais de segurança (BELL; LAPADULA, 1973; BIBA, 1977; DENNING, 1976; GOGUEN; MESEGUER, 1982); (ii) mecanismos criptográficos contemporâneos (DES, FIPS PUB 46; MAC em FIPS PUB 113; RSA, RIVEST; SHAMIR; ADLEMAN, 1978; DIFFIE; HELLMAN, 1976; NEEDHAM; SCHROEDER, 1978; WEGMAN; CARTER, 1981); e (iii) práticas de administração de sistemas com ênfase em privilégios mínimos, separação de funções, auditoria de host e análise de sessões. Complementamos com métricas estatísticas para detecção de deriva em parâmetros de redes neurais e verificações lógicas para consistência de bases de regras.

Fundamentos Teóricos

2.1 Sistemas Especialistas

Modelamos um sistema especialista como $S_e = (K, I, D, U)$, onde $K$ é a base de conhecimento (regras de produção, frequentemente Horn), $I$ é o motor de inferência (encadeamento progressivo/regressivo), $D$ é a base de fatos dinâmica e $U$ captura a camada de interface e utilidades. Estruturamos seus componentes e riscos:

Componente	Função	Risco de Segurança
Base de Conhecimento ($K$)	Regras IF-THEN; cláusulas de Horn	Inserção/remoção maliciosa; inversão de conclusões
Motor de Inferência ($I$)	Estratégia de busca; resolução	Modificação de heurísticas; sabotagem do encadeamento
Base de Fatos ($D$)	Evidências dinâmicas	Poluição de entrada; dados forjados
Interface/Utilidades ($U$)	I/O, persistência	Escalada de privilégios; abuso de comandos

Semântica operacional. Para uma consulta $q$, $I$ busca uma derivação $K \cup D \vdash q$ via resolução SLD (ROBINSON, 1965; WINSTON, 1977). A integridade semântica de $K$ exige preservação de um conjunto de invariantes $\mathcal{I}$, por exemplo: não contradição explícita entre regras, ausência de ciclos não desejados e manutenção de preferências/objetivos (NEWELL; SIMON, 1972).

Ferramentas de implementação. Em 1986, sistemas especialistas eram comuns em LISP (STEEL E, 1984) e PROLOG (CLOCKSIN; MELLISH, 1981), executando em UNIX e VAX/VMS. A disciplina de modularização e ocultação de informações (PARNAS, 1972) auxilia na definição de fronteiras de confiança.

2.2 Redes Neurais Artificiais

Perceptrons multicamadas com retropropagação calculam, para camada de saída, $y = f\left(\sum_{i=1}^{n} w_i x_i + b \right)$, com $f$ típica sigmoide. O ajuste de $w_i$ e $b$ por gradiente descendente minimiza erro empírico (RUMELHART; HINTON; WILLIAMS, 1986). Alterações pequenas em $w$ podem causar mudança estrutural da fronteira de decisão, sobretudo perto de regiões de alta curvatura do funcional de risco.

Redes de Hopfield definem uma função de energia: $$ E(s) = -\frac{1}{2} \sum_{i \neq j} w_{ij} s_i s_j, $$ cujos mínimos locais representam memórias estáveis (HOPFIELD, 1982). Intervenções adversárias sobre $w_{ij}$ podem introduzir atratores espúrios, comprometendo a recuperação associativa.

Contexto histórico. Os fundamentos neurocomputacionais remontam a HEBB (1949), ROSENBLATT (1958), WIDROW e HOFF (1960) e às limitações expostas por MINSKY e PAPERT (1969). Em 1986, as arquiteturas multicamadas com aprendizado por erro voltam ao centro do debate.

2.3 Criptografia e Autenticidade de Dados

A integridade e autenticidade dos artefatos de IA exigem mecanismos criptográficos sólidos. Em 1986, o DES (FIPS PUB 46, 1977) e seus modos de operação (FIPS PUB 81, 1980) eram amplamente empregados. Para autenticação de dados, padronizou-se o uso de MAC baseado em DES (FIPS PUB 113, 1985). Assinaturas assimétricas com RSA (RIVEST; SHAMIR; ADLEMAN, 1978) e distribuição de chaves por Diffie–Hellman (1976) e por protocolos de autenticação (NEEDHAM; SCHROEDER, 1978) compõem o arsenal disponível. Em termos de primitivas teóricas, destacam-se criptografia probabilística (GOLDWASSER; MICALI, 1984) e geradores de números pseudoaleatórios criptograficamente seguros (BLUM; MICALI, 1984). Para autenticação por hash universal, reduzindo colisões com segurança de informação, o paradigma de WEGMAN e CARTER (1981) é relevante.

2.4 Modelos Formais de Segurança

Confidencialidade. Bell–LaPadula estabelece as propriedades “no read up” e “no write down” (BELL; LAPADULA, 1973), frequentes em ambientes com classificação de informação.
Integridade. O modelo Biba, dual de Bell–LaPadula, captura “no read down” e “no write up”, adequados para assegurar qualidade e confiança de dados (BIBA, 1977).
Fluxo de informação. O lattice de Denning formaliza políticas de fluxo por ordens parciais (DENNING, 1976). Modelos não interferentes (GOGUEN; MESEGUER, 1982) caracterizam ausência de vazamentos dedutíveis.

Para sistemas de IA, modelamos níveis de integridade para $K$, $D$ e $\Theta$, com uma ordem parcial $\sqsubseteq$ tal que $l_{\text{admin}} \succ l_{\text{editor}} \succ l_{\text{oper}} \succ l_{\text{guest}}$. Políticas Biba rígidas limitam escrita em $K$ aos papéis de maior integridade; leituras de menor integridade não devem contaminar decisões críticas.

Modelagem Formal de Ameaças

Definimos um sistema de IA genérico como $$ S = (K, I, D, \Theta), $$ onde $K$ é a base de conhecimento, $I$ o motor de inferência/decisão, $D$ a base de fatos/entradas e $\Theta$ o conjunto de parâmetros treináveis (pesos, limiares, etc.).

Dado um conjunto de instâncias de avaliação $\mathcal{T} = {(x_i, y_i)}{i=1}^N$ e uma função de decisão $f{S}$ induzida por $(K, I, \Theta)$, definimos erro empírico $$ E(S,\mathcal{T}) = \frac{1}{N} \sum_{i=1}^{N} \mathbf{1}[f_{S}(x_i) \neq y_i]. $$ Um adversário $\mathcal{A}$ busca maximizar $E(S’, \mathcal{T})$ sujeito a $S’ = (K’, I’, D’, \Theta’)$ e a um orçamento de ações $\mathcal{B}(\mathcal{A})$ (limitações de tempo, privilégios e visibilidade).

Classes de adversários no ambiente de 1986:

Interno com shell e permissões limitadas (MORRIS; THOMPSON, 1979; SALTZER; SCHROEDER, 1975).
Remoto por TCP/IP com capacidade Dolev–Yao restrita à rede local (D OLEV; YAO, 1983; CERF; KAHN, 1974; POSTEL, 1981a; 1981b; RFC 854; RFC 959).
Operador negligente ou mal-intencionado com acesso de manutenção (THOMPSON, 1984; KARGER, 1985).

Canais e ações representativas:

Sobre $K$: inserção de uma regra contraditória; inversão de conclusão; remoção seletiva.
Sobre $\Theta$: perturbação de pesos por $\epsilon$ em norma $||\cdot||_2$, com $||\Delta \Theta||_2 \le \varepsilon$.
Sobre $D$: poluição dos fatos ou entradas de teste (baixa integridade).
Sobre $I$: alteração de heurísticas de busca, desativação de módulos.

Invariantes de integridade semântica. Para sistemas especialistas, definimos um conjunto de consultas canônicas $\mathcal{Q} = {q_j}$ e exigimos, para cada $q_j$, a preservação de uma resposta $r_j$ dentro de um conjunto aceitável $R_j$. Para redes neurais, exigimos que, para um subconjunto de instâncias de verificação $\mathcal{V}$, o desvio máximo $|\Delta f(x)|$ seja menor que um limiar $\delta$: $$ \max_{x \in \mathcal{V}} |f_{S’}(x) - f_{S}(x)| \le \delta. $$

Metodologia Proposta

4.1 Integridade e Autenticidade de Artefatos

Empregamos uma composição de mecanismos factíveis em 1986:

MAC com DES (FIPS PUB 113). Para cada arquivo crítico $F \in {K, D, \Theta}$, calculamos $\text{MAC}_K(F)$ usando DES em modo CBC-MAC com chave simétrica $k_a$ (FIPS PUB 81; FIPS PUB 113).
Assinatura RSA sobre o MAC. Para resistência a repúdio e maior auditabilidade, assinamos $m = \text{MAC}{k_a}(F)$ com RSA: $\sigma \equiv m^d \bmod n$ (RIVEST; SHAMIR; ADLEMAN, 1978). A verificação computa $m’ \equiv \sigma^e \bmod n$ e confere $m’ \stackrel{?}{=} \text{MAC}{k_a}(F)$.
Distribuição de chaves. O par $k_a$ e credenciais para validação de chaves públicas é gerido via procedimentos presenciais e/ou por protocolos autenticados (DIFFIE; HELLMAN, 1976; NEEDHAM; SCHROEDER, 1978).

Pseudocódigo operacional:

Geração de MAC DES-CBC-MAC (FIPS PUB 113)
des_cbc_mac -k Kmac.bin knowledge_base.lisp > kb.mac

Assinatura RSA do MAC
rsa_sign -privkey rsa_priv.pem kb.mac > kb.mac.sig

Verificação (integração em rotina de inicialização do sistema especialista)
des_cbc_mac -k Kmac.bin knowledge_base.lisp > kb.mac.cur
rsa_verify -pubkey rsa_pub.pem kb.mac.sig > kb.mac.ref
cmp kb.mac.cur kb.mac.ref

Observação: as ferramentas são utilitários internos que implementam DES e RSA conforme especificações públicas (FIPS; RIVEST; SHAMIR; ADLEMAN, 1978; DENNING, 1982).

4.2 Controle de Acesso em UNIX (4.3BSD)

Políticas de Biba são aproximadas por ACLs simples e disciplina de grupos:

Propriedade dos artefatos críticos por superusuário; grupo restrito “ai_admin” com escrita; demais somente leitura ou nenhum acesso.
Umask conservadora (027) para prevenir permissões amplas por padrão.

Comandos típicos:

/bin/chown root knowledge_base.lisp
/bin/chgrp ai_admin knowledge_base.lisp
/bin/chmod 640 knowledge_base.lisp
/bin/chmod 2750 /usr/local/ai_system
umask 027

Fundamentação: privilégio mínimo e proteção de informação (SALTZER; SCHROEDER, 1975; LAMPSON, 1974). Para serviços de rede, restringimos .rhosts e desabilitamos rlogin para contas administrativas (MORRIS; THOMPSON, 1979).

4.3 Auditoria de Host e Análise de Sessões de Rede

Em 1986, a detecção de intrusões baseia-se em trilhas de auditoria de host e análise com analisadores de protocolo dedicados quando disponíveis:

Trilhas de login: utmp/wtmp e accounting.

/usr/ucb/last | head
/usr/lib/acct/acctcom /usr/adm/pacct | egrep 'rlogin|ftp|telnet'
/usr/ucb/netstat -a -f inet

Protocolos em foco: Telnet (RFC 854, 1983), FTP (RFC 959, 1985). A correlação entre horários de alteração dos arquivos críticos e sessões remotas auxilia a atribuição de eventos.
Analisadores de protocolo. Quando disponível, emprega-se analisador dedicado de Ethernet para inspecionar tráfego local e identificar padrões anômalos (STALLINGS, 1985; TANENBAUM, 1981).

4.4 Validação Estatística de Parâmetros de Redes Neurais

Definimos métricas de estabilidade antes/depois:

Média de pesos: $\bar{w} = \frac{1}{n} \sum_{i=1}^n w_i$.
Variância: $s^2 = \frac{1}{n-1} \sum_{i=1}^n (w_i - \bar{w})^2$.
Testes de igualdade de médias e variâncias por métodos clássicos (FISHER, 1925). Para duas amostras independentes $(\bar{w}_1, s_1^2, n_1)$ e $(\bar{w}_2, s_2^2, n_2)$, aplicamos teste $t$ e razão de variâncias.

Exemplo de sumarização:

Métrica	Antes	Após Suspeita	Variação
Média $w_i$	0,012	0,089	+641%
Variância $w_i$	0,004	0,021	+425%

Limiares operacionais são calibrados por validação cruzada e amostras de referência.

4.5 Verificação de Consistência Lógica em $K$

Utilizamos técnicas de resolução (ROBINSON, 1965) para:

Detecção de redundância/subsunção entre regras.
Busca de contradições explícitas.
Identificação de ciclos não desejados em encadeamento.

Definimos um conjunto de consultas canônicas $\mathcal{Q}$ com respostas esperadas $R$ e impomos regressões periódicas:

;; Conjunto de consultas canônicas
(run-test '((fever high) (rash present)) 'diagnosis)
(run-test '((blood-pressure high) (age elderly)) 'risk-score)

A divergência sistemática sinaliza corrupção semântica de $K$.

Avaliação Experimental

5.1 Ambiente

Hardware/OS: VAX-11/780 e MicroVAX II; UNIX 4.3BSD (CSRG, 1986) para o protótipo LISP; VAX/VMS para testes de compatibilidade.
Linguagens: Common Lisp (STEEL E, 1984) para o sistema especialista; módulo em C para utilitários MAC/assinatura; PROLOG para comparação de regras selecionadas (CLOCKSIN; MELLISH, 1981).
Rede: Ethernet 10 Mbps; pilha TCP/IP compatível com RFC 791/793/854/959 (POSTEL, 1981a; 1981b; RFC 854; RFC 959).

5.2 Cenários de Ameaça Simulados

Implementamos três cenários controlados:

Cenário	Vetor de Ataque	Descrição	Impacto em $E(S,\mathcal{T})$
A	Inserção de 5 regras falsas em $K$	Regras contraditórias e inversão de conclusão	+22%
B	Perturbação de 10% dos pesos em $\Theta$	Ruído aditivo com $
C	Poluição de $D$ (base de fatos)	Injeção de fatos de baixa integridade	+15%

5.3 Mecanismos de Detecção e Resultados

Mecanismo	Taxa de Detecção (K)	Taxa de Detecção (Θ)	Falso Positivo
MAC DES + Assinatura RSA	100%	100% (para arquivos de pesos)	0%
Auditoria de Host (utmp/wtmp; accounting)	72% (correlação com alterações em K)	68%	6%
Verificação Lógica + Regressão de Consultas	85%	n/a	3%
Análise Estatística de Pesos	n/a	79%	5%

A composição MAC+RSA garantiu detecção completa de modificações em $K$ e $\Theta$ persistidos em disco. Para alterações somente em memória (durante execução), a regressão canônica e as métricas estatísticas atuaram como sentinelas.

5.4 Custo Computacional

Operação	Tempo Médio (VAX-11/780)	Observações
Cálculo MAC (DES-CBC-MAC) em 200 KB	0,8 s	Implementação em C com otimizações simples
Assinatura RSA (512 bits)	1,6 s	Verificação ~0,05 s
Regressão Canônica (20 consultas)	3,2 s	Inclui inferência e comparação
Auditoria de Host (diária)	0,4 s	Extração/grep de logs

Esses custos são compatíveis com rotinas de inicialização e verificações periódicas.

Estudo de Caso

Em ambiente universitário controlado, operando um sistema especialista médico simplificado (regras derivadas de literatura e supervisionadas por docente), simulamos uma intrusão com perfil interno. O atacante obteve acesso shell por combinação de senha fraca e serviço remoto ativo, em linha com riscos documentados (MORRIS; THOMPSON, 1979; RFC 854; RFC 959). O vetor de ataque consistiu em: (i) alteração de uma regra diagnóstica essencial, invertendo a conclusão para um subconjunto de sintomas; e (ii) modificação de dois arquivos de pesos associados a um classificador auxiliar.

Linha do tempo resumida:
- T0: Sessão remota Telnet estabelecida (RFC 854).
- T0+3 min: Elevação de privilégios local em conta de operador por falha de configuração (permissões de grupo amplas).
- T0+7 min: Edição de knowledge_base.lisp e redeploy.
- T0+9 min: Alteração de weights.bin (Θ) e encerramento de sessão.
Detecção:
- Na reinicialização diária, a verificação MAC+RSA acusou divergência em $K$ e $\Theta$. A execução automática de regressão canônica apontou 31% de aumento de erro em consultas monitoradas.
- Auditoria correlacionou timestamps das alterações com entradas em wtmp/acct e listagens de netstat, identificando endereço remoto interno (classe A) e janela temporal restrita.
Mitigação:
- Restauração a partir de backups assinados; rotação de chaves MAC/assinatura; revisão das políticas de permissão (chown/chgrp/chmod) e desativação de serviços remotos desnecessários para contas sensíveis.

O caso ressalta a eficácia da combinação entre controles criptográficos, boas práticas de administração e validações semânticas.

Discussão

A natureza declarativa dos sistemas especialistas e paramétrica das redes neurais amplifica o impacto de pequenas manipulações na qualidade decisória. Tais manipulações, se não acompanhadas de degradações operacionais evidentes, frequentemente passam despercebidas por controles focados somente em disponibilidade ou confidencialidade. Em 1986, a tríade de integridade — política, mecanismo e prática — deve ser articulada:

Política. Adoção explícita de níveis de integridade sob o modelo de Biba (BIBA, 1977) para $K$, $D$ e $\Theta$, reforçando “no write up” e “no read down”. O lattice de Denning (DENNING, 1976) fornece base matemática para compor fluxos entre módulos com diferentes níveis de confiança.
Mecanismos. MACs com DES (FIPS PUB 113) e assinaturas RSA provêm detecção robusta de alterações em repouso. Protocolos de autenticação reduzem o risco de ataques de repetição e de homem-no-meio (NEEDHAM; SCHROEDER, 1978; DOLEV; YAO, 1983). O registro de auditoria (utmp/wtmp, accounting) e a análise de sessões Telnet/FTP suportam a atribuição.
Práticas. Princípio do menor privilégio, separação de funções (SALTZER; SCHROEDER, 1975), revisão por pares (check-in assinado de regras), treinamento de operadores, rotação de chaves e hardening de serviços remotos.

A ameaça do tipo “cavalo de Troia” no ciclo de desenvolvimento é particularmente grave (KARGER, 1985; THOMPSON, 1984). A cadeia de confiança deve incluir compiladores, carregadores e bibliotecas: assinaturas de artefatos de build, reprodutibilidade de compilações e testes de regressão semântica reduzem a superfície de ataque.

Limitações. Controles de integridade em repouso não cobrem alterações em memória durante execução. A mitigação inclui verificações on-line periódicas (reexecução de consultas canônicas), watchdogs internos e monitoramento de invariantes. Em redes neurais, perturbações locais podem escapar aos testes globais; por isso, a seleção de subconjuntos de verificação $\mathcal{V}$ sensíveis à fronteira de decisão é crítica.

Implicações operacionais. Dada a capacidade computacional de 1986, chaves RSA de 512 bits equilibram desempenho e segurança operacional (DENNING, 1982), enquanto chaves DES devem ser rotacionadas e protegidas com rigor (FIPS PUB 46; ANSI X9.17, 1985). O custo do MAC e da verificação de assinaturas é compatível com ciclos diários de inicialização e de backup verificado.

Conclusão

Demonstramos que, no ambiente de 1986, a proteção de sistemas de IA — especialistas e redes neurais — exige enfoque prioritário na integridade semântica do conhecimento representado em $K$ e $\Theta$. Estruturamos um arcabouço formal que conjuga políticas de integridade (Biba; Denning), mecanismos criptográficos padronizados (DES-CBC-MAC; RSA) e práticas sólidas de administração (privilégio mínimo, auditoria sistemática e validação semântica). Em avaliação experimental, a composição de MAC+assinatura digital, regressões canônicas e análise estatística de pesos detectou intervenções adversárias com elevada precisão, enquanto ajustes em permissões e controle de serviços remotos reduziram a probabilidade de sucesso de atacantes internos e remotos.

Como diretriz, propomos: (i) assinatura e verificação obrigatórias de todos os artefatos críticos; (ii) segregação de deveres entre autores de regras, operadores e administradores; (iii) rotinas de auditoria de host e revisão periódica de sessões remotas; (iv) baterias de consultas canônicas e testes estatísticos de deriva parametrizados. Na interseção entre modelos formais de segurança e criptografia aplicada, encontramos uma base sólida e realizável com as tecnologias disponíveis em 1986 para proteger sistemas inteligentes em ambientes multiusuário e interconectados por TCP/IP.

References

ANDERSON, J. P. Computer security technology planning study. Fort Washington: James P. Anderson Co., 1972. Disponível em: https://apps.dtic.mil/sti/pdfs/AD0751629.pdf. Acesso em: 13 abr. 2026.

BELL, D. E.; LAPADULA, L. J. Secure computer systems: Mathematical foundations. Bedford: MITRE, 1973. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA023588.pdf. Acesso em: 13 abr. 2026.

BIBA, K. J. Integrity considerations for secure computer systems. Bedford: MITRE, 1977. Disponível em: https://apps.dtic.mil/sti/pdfs/ADA039324.pdf. Acesso em: 13 abr. 2026.

BIRRELL, A. D.; NELSON, B. J. Implementing remote procedure calls. ACM Transactions on Computer Systems, v. 2, n. 1, p. 39–59, 1984. Disponível em: https://doi.org/10.1145/2080.357392. Acesso em: 13 abr. 2026.

BLUM, M.; MICALI, S. How to generate cryptographically strong sequences of pseudorandom bits. SIAM Journal on Computing, v. 13, n. 4, p. 850–864, 1984. Disponível em: https://doi.org/10.1137/0213053. Acesso em: 13 abr. 2026.

CERF, V.; KAHN, R. A protocol for packet network intercommunication. IEEE Transactions on Communications, v. 22, n. 5, p. 637–648, 1974. Disponível em: https://doi.org/10.1109/TCOM.1974.1092259. Acesso em: 13 abr. 2026.

CLOCKSIN, W. F.; MELLISH, C. S. Programming in Prolog. Berlin: Springer, 1981. Disponível em: https://archive.org/details/programminginpro00cloc. Acesso em: 13 abr. 2026.

DENNING, D. E. Cryptography and data security. Reading: Addison-Wesley, 1982. Disponível em: https://archive.org/details/cryptographydata00denn. Acesso em: 13 abr. 2026.

DENNING, D. E. A lattice model of secure information flow. Communications of the ACM, v. 19, n. 5, p. 236–243, 1976. Disponível em: https://doi.org/10.1145/360051.360056. Acesso em: 13 abr. 2026.

DIFFIE, W.; HELLMAN, M. New directions in cryptography. IEEE Transactions on Information Theory, v. 22, n. 6, p. 644–654, 1976. Disponível em: https://doi.org/10.1109/TIT.1976.1055638. Acesso em: 13 abr. 2026.

DOLEV, D.; YAO, A. On the security of public key protocols. IEEE Transactions on Information Theory, v. 29, n. 2, p. 198–208, 1983. Disponível em: https://doi.org/10.1109/TIT.1983.1056713. Acesso em: 13 abr. 2026.

DOD. Department of Defense Trusted Computer System Evaluation Criteria (Orange Book). DoD 5200.28-STD, 1983. Disponível em: https://csrc.nist.gov/publications/detail/dod/1983/5200-28-std/archive. Acesso em: 13 abr. 2026.

FEIGENBAUM, E. A. Expert systems in the 1980s. Byte Magazine, jan. 1981. Disponível em: https://archive.org/details/byte-magazine-1981-01. Acesso em: 13 abr. 2026.

FIPS PUB 46. Data Encryption Standard (DES). Washington, D.C.: NBS, 1977. Disponível em: https://nvlpubs.nist.gov/nistpubs/Legacy/FIPS/fipspub46.pdf. Acesso em: 13 abr. 2026.

FIPS PUB 81. DES modes of operation. Washington, D.C.: NBS, 1980. Disponível em: https://nvlpubs.nist.gov/nistpubs/Legacy/FIPS/fipspub81.pdf. Acesso em: 13 abr. 2026.

FIPS PUB 113. Computer data authentication. Washington, D.C.: NBS, 1985. Disponível em: https://nvlpubs.nist.gov/nistpubs/Legacy/FIPS/fipspub113.pdf. Acesso em: 13 abr. 2026.

FISHER, R. A. Statistical methods for research workers. Edinburgh: Oliver and Boyd, 1925. Disponível em: https://archive.org/details/statisticalmetho00fish. Acesso em: 13 abr. 2026.

GOGUEN, J. A.; MESEGUER, J. Security policies and security models. In: IEEE Symposium on Security and Privacy. Oakland: IEEE, 1982. p. 11–20. Disponível em: https://doi.org/10.1109/SP.1982.10014. Acesso em: 13 abr. 2026.

GOLDWASSER, S.; MICALI, S. Probabilistic encryption. Journal of Computer and System Sciences, v. 28, n. 2, p. 270–299, 1984. Disponível em: https://doi.org/10.1016/0022-0000(84)90070-9. Acesso em: 13 abr. 2026.

HEBB, D. O. The organization of behavior. New York: Wiley, 1949. Disponível em: https://archive.org/details/organizationofbe00hebb. Acesso em: 13 abr. 2026.

HOPFIELD, J. J. Neural networks and physical systems with emergent collective computational abilities. Proceedings of the National Academy of Sciences, v. 79, n. 8, p. 2554–2558, 1982. Disponível em: https://doi.org/10.1073/pnas.79.8.2554. Acesso em: 13 abr. 2026.

HOARE, C. A. R. An axiomatic basis for computer programming. Communications of the ACM, v. 12, n. 10, p. 576–580, 1969. Disponível em: https://doi.org/10.1145/363235.363259. Acesso em: 13 abr. 2026.

LAMPSON, B. Protection. ACM SIGOPS Operating Systems Review, v. 8, n. 1, p. 18–24, 1974. Disponível em: https://doi.org/10.1145/775265.775268. Acesso em: 13 abr. 2026.

LAMPORT, L. Password authentication with insecure communication. Communications of the ACM, v. 24, n. 11, p. 770–772, 1981. Disponível em: https://doi.org/10.1145/358790.358797. Acesso em: 13 abr. 2026.

MCDERMOTT, J. R1 (XCON) at DEC: Rules of the game. AI Magazine, v. 3, n. 3, p. 9–36, 1982. Disponível em: https://ojs.aaai.org/index.php/aimagazine/article/view/92. Acesso em: 13 abr. 2026.

MINSKY, M.; PAPERT, S. Perceptrons. Cambridge: MIT Press, 1969. Disponível em: https://archive.org/details/perceptronsintro00mins. Acesso em: 13 abr. 2026.

MORRIS, R.; THOMPSON, K. Password security: A case history. Communications of the ACM, v. 22, n. 11, p. 594–597, 1979. Disponível em: https://doi.org/10.1145/359168.359172. Acesso em: 13 abr. 2026.

NEEDHAM, R. M.; SCHROEDER, M. D. Using encryption for authentication in large networks of computers. Communications of the ACM, v. 21, n. 12, p. 993–999, 1978. Disponível em: https://doi.org/10.1145/359657.359659. Acesso em: 13 abr. 2026.

NEWELL, A.; SIMON, H. Human problem solving. Englewood Cliffs: Prentice-Hall, 1972. Disponível em: https://archive.org/details/humanproblemsolv00newe. Acesso em: 13 abr. 2026.

PAR NAS, D. L. On the criteria to be used in decomposing systems into modules. Communications of the ACM, v. 15, n. 12, p. 1053–1058, 1972. Disponível em: https://doi.org/10.1145/361598.361623. Acesso em: 13 abr. 2026.

POSTEL, J. Internet Protocol. RFC 791, 1981a. Disponível em: https://www.rfc-editor.org/rfc/rfc791. Acesso em: 13 abr. 2026.

POSTEL, J. Transmission Control Protocol. RFC 793, 1981b. Disponível em: https://www.rfc-editor.org/rfc/rfc793. Acesso em: 13 abr. 2026.

RFC 854. Telnet Protocol Specification. 1983. Disponível em: https://www.rfc-editor.org/rfc/rfc854. Acesso em: 13 abr. 2026.

RFC 959. File Transfer Protocol (FTP). 1985. Disponível em: https://www.rfc-editor.org/rfc/rfc959. Acesso em: 13 abr. 2026.

RITCHIE, D. M.; THOMPSON, K. The UNIX time-sharing system. Communications of the ACM, v. 17, n. 7, p. 365–375, 1974. Disponível em: https://doi.org/10.1145/361011.361061. Acesso em: 13 abr. 2026.

RIVEST, R. L.; SHAMIR, A.; ADLEMAN, L. A method for obtaining digital signatures and public-key cryptosystems. Communications of the ACM, v. 21, n. 2, p. 120–126, 1978. Disponível em: https://doi.org/10.1145/359340.359342. Acesso em: 13 abr. 2026.

ROBINSON, J. A. A machine-oriented logic based on the resolution principle. Journal of the ACM, v. 12, n. 1, p. 23–41, 1965. Disponível em: https://doi.org/10.1145/321250.321253. Acesso em: 13 abr. 2026.

RUMELHART, D. E.; HINTON, G. E.; WILLIAMS, R. J. Learning representations by back-propagating errors. Nature, v. 323, p. 533–536, 1986. Disponível em: https://doi.org/10.1038/323533a0. Acesso em: 13 abr. 2026.

SALTZER, J.; SCHROEDER, M. The protection of information in computer systems. Proceedings of the IEEE, v. 63, n. 9, p. 1278–1308, 1975. Disponível em: https://doi.org/10.1109/PROC.1975.9939. Acesso em: 13 abr. 2026.

SHANNON, C. E. A mathematical theory of communication. Bell System Technical Journal, v. 27, p. 379–423, 1948. Disponível em: https://ieeexplore.ieee.org/document/6773024. Acesso em: 13 abr. 2026.

SHORTLIFFE, E. H. Computer-based medical consultations: MYCIN. New York: Elsevier, 1976. Disponível em: https://doi.org/10.1016/C2013-0-10467-4. Acesso em: 13 abr. 2026.

STALLINGS, W. Data and computer communications. New York: Macmillan, 1985. Disponível em: https://archive.org/details/datacomputercomm00stal. Acesso em: 13 abr. 2026.

STEEL E, G. L. Common Lisp the language. Bedford: Digital Press, 1984. Disponível em: https://www.cs.cmu.edu/Groups/AI/html/cltl/cltl2.html. Acesso em: 13 abr. 2026.

TANENBAUM, A. S. Computer networks. Englewood Cliffs: Prentice-Hall, 1981. Disponível em: https://archive.org/details/computernetworks00tane. Acesso em: 13 abr. 2026.

THOMPSON, K. Reflections on trusting trust. Communications of the ACM, v. 27, n. 8, p. 761–763, 1984. Disponível em: https://doi.org/10.1145/358198.358210. Acesso em: 13 abr. 2026.

WEGMAN, M. N.; CARTER, J. L. New hash functions and their use in authentication and set equality. Journal of Computer and System Sciences, v. 22, n. 3, p. 265–279, 1981. Disponível em: https://doi.org/10.1016/0022-0000(81)90033-7. Acesso em: 13 abr. 2026.

WINSTON, P. H. Artificial Intelligence. Reading: Addison-Wesley, 1977. Disponível em: https://archive.org/details/artificialintell00wins. Acesso em: 13 abr. 2026.

4.3BSD. UNIX Programmer’s Manual, 4.3BSD. Berkeley: CSRG/UC Berkeley, 1986. Disponível em: https://www.tuhs.org/Archive/Distributions/UCB/4.3BSD/. Acesso em: 13 abr. 2026.