Research / Paper Files

Paper Files

Os Paper Files são uma prática pessoal de estudo contínuo em cibersegurança que aplica o método científico como ferramenta de aprendizado. Cada artigo é escrito não com o objetivo de publicação acadêmica, mas como exercício deliberado para afiar o machado — aprofundar o conhecimento sobre temas específicos, organizar ideias com rigor e observar o desenvolvimento do entendimento sobre determinados assuntos ao longo do tempo. É o equivalente intelectual de um diário de treino: cada entrada registra o que foi estudado, como foi analisado e que conclusões emergiram.

Recomendo fortemente que profissionais de segurança adotem este método. Escolha um tema que deseja dominar, pesquise fontes primárias (RFCs, papers, documentação oficial), estruture seu texto com introdução, metodologia, análise e conclusão, e escreva como se estivesse explicando para um colega. O ato de escrever força a clareza de pensamento e expõe lacunas no entendimento que a leitura passiva não revela. Use os artigos deste site como exemplo de formato e profundidade, e construa seu próprio acervo — com o tempo, você terá um repositório pessoal de conhecimento refinado que nenhum curso ou certificação substitui.

DAI & ADAI · 2026

DAI · PT

DAI: uma LLM de domínio específico com autoridade excluída do modelo, verificação por capacidades disjuntas e recibos recomputáveis

DAI (Decripte Artificial Intelligence) é uma LLM própria de domínio específico inserida em uma arquitetura de defesa autônoma governada. É uma instância da categoria proposta ADAI, definida no paper complementar. O traba…

Ler o paper →ADAI · PT

Inteligência Artificial de Defesa Autônoma: um arcabouço de envelope e evidência para LLMs governadas que agem sobre infraestrutura de produção

ADAI (Autonomous Defensive Artificial Intelligence) é uma categoria proposta de defesa cibernética autônoma governada. O arcabouço especifica perímetros defendidos, efeitos delimitados, reversão declarada e verificação p…

Ler o paper →

Todos Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

104 papers

AI Security

Arquitetura Operacional para Segurança de Sistemas Baseados em Aprendizado de Máquina: Modelagem Formal de Ameaças, Detecção de Ataques Adversariais e Resposta Integrada ao SOC em Ambientes Corporativos (2018)

A adoção de sistemas baseados em aprendizado de máquina em ambientes corporativos intensificou-se ao longo da última década, abrangendo aplicações críticas como detecção de fraudes, filtragem de malware, análise comportamental e autenticação biométrica. Todavia, tais sistemas introduzem superfícies de ataque estatísticas que diferem substancialmente daquelas presentes em softwares determinísticos tradicionais. Ataques adversariais, como Fast Gradient Sign Method (FGSM) e Projected Gradient Descent (PGD), bem como técnicas de envenenamento de dados e inserção de backdoors, evidenciam que pequenas perturbações podem comprometer decisões automatizadas com alto grau de confiança. Neste trabalho, propomos uma arquitetura operacional de segurança voltada à proteção de pipelines de aprendizado de máquina em ambientes corporativos, integrando modelagem formal de ameaças, mecanismos de hardening criptográfico, detecção estatística em tempo real e resposta automatizada conectada ao Security Operations Center (SOC). Formalizamos o problema por meio de um modelo matemático baseado em classificadores $f_\theta(x)$, restrições normativas $||\delta||_p \le \epsilon$ e propriedades desejáveis de robustez, integridade e detectabilidade. A arquitetura proposta estrutura-se em três camadas: (i) proteção do pipeline de treinamento com garantias de integridade via hash criptográfico e controle de versão auditável; (ii) detecção online baseada em divergência de Kullback–Leibler e métricas de incerteza; e (iii) resposta automatizada integrada a SIEM, IDS e EDR amplamente utilizados em 2018, como Elastic Stack, Suricata e Wazuh. Avaliamos experimentalmente a abordagem no dataset CIFAR-10 sob ataques FGSM e PGD, demonstrando aumento significativo na taxa de detecção (94,3%) com impacto moderado de latência. Concluímos que a segurança de sistemas de aprendizado de máquina deve ser tratada como disciplina operacional integrada ao SOC, combinando fundamentos matemáticos, controles criptográficos e processos organizacionais para mitigar riscos emergentes.

2014-01-09Read paper →AI Security

Arquitetura Integrada de Red Teaming Automatizado e Defesa Adaptativa para Segurança de Sistemas de Aprendizado de Máquina em Ambientes Corporativos (2018)

A crescente adoção de sistemas de aprendizado de máquina em ambientes corporativos críticos — incluindo detecção de fraude, sistemas de prevenção a intrusão com classificação baseada em aprendizado supervisionado, análise de crédito e mecanismos de recomendação — introduziu uma nova classe de riscos cibernéticos associados ao ciclo de vida dos modelos. Diferentemente de aplicações tradicionais, esses sistemas expandem a superfície de ataque para incluir vetores como exemplos adversariais, envenenamento de dados, extração de modelo e inversão de inferência. Embora a literatura acadêmica tenha avançado substancialmente na caracterização formal dessas ameaças, observa-se, em 2018, uma lacuna significativa entre os resultados teóricos e sua operacionalização em ambientes corporativos integrados a SOCs (Security Operations Centers). Neste trabalho, propomos uma arquitetura integrada de red teaming automatizado e defesa adaptativa para sistemas de aprendizado de máquina expostos via APIs corporativas. Formalizamos um modelo de ameaça abrangente, definindo o adversário como uma entidade com capacidade de consulta adaptativa, acesso parcial a dados e possibilidade de injeção maliciosa em pipelines de treinamento. Desenvolvemos dois algoritmos principais: (i) um mecanismo automatizado de geração adversarial baseado em PGD para fortalecimento do modelo e (ii) um sistema híbrido de detecção que combina técnicas de detecção de anomalias (Isolation Forest), autoencoders e regras correlacionadas em SIEM. Avaliamos empiricamente a proposta utilizando o dataset CIFAR-10 e um conjunto sintético de logs representando 12 milhões de requisições de API, demonstrando aumento de robustez adversarial superior a 20 pontos percentuais, redução significativa no tempo médio de detecção e overhead computacional inferior a 15%. Discutimos implicações práticas para integração com ferramentas como Suricata, Elastic Stack, ModSecurity e controles de autenticação OAuth2, contextualizando os resultados no cenário regulatório de 2018, marcado pela entrada em vigor do GDPR. Concluímos que a integração entre hardening de modelo e telemetria de segurança constitui requisito essencial para resiliência operacional de sistemas corporativos baseados em aprendizado de máquina.

2014-01-03Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Formalização de Ameaças, Defesa Multicamadas e Avaliação Empírica em Ambientes SOC

A incorporação de modelos de aprendizado de máquina (ML) em Centros de Operações de Segurança (Security Operations Centers – SOC) tornou-se prática consolidada até 2018, especialmente para detecção de intrusões, classificação de malware, identificação de phishing e priorização de alertas em plataformas SIEM. Entretanto, a introdução desses modelos amplia a superfície de ataque organizacional, criando vetores específicos como envenenamento de dados, evasão adversarial e extração de modelos. Neste trabalho, formalizamos um modelo de ameaças para sistemas de ML integrados a SOCs corporativos, fundamentado em taxonomias consolidadas de segurança e alinhado às táticas do MITRE ATT&CK vigentes até 2018. Propomos uma arquitetura operacional multicamadas que integra validação estatística robusta de dados, detecção de anomalias adversariais em tempo quase real e mecanismos de limitação e monitoramento de consultas a APIs de inferência. Formalizamos o problema sob a perspectiva de aprendizado supervisionado $f_\theta: \mathcal{X} \rightarrow \mathcal{Y}$ e modelamos ataques nas fases de treinamento, implantação e inferência. Avaliamos empiricamente a arquitetura proposta utilizando datasets amplamente empregados na literatura de segurança, incluindo NSL-KDD e conjuntos de malware para classificação binária. Demonstramos que a combinação de filtragem estatística baseada em distância de Mahalanobis, validação cruzada robusta e limitação adaptativa de consultas reduz significativamente a taxa de sucesso de ataques de evasão (FGSM) e de envenenamento direcionado. Os resultados indicam redução média de 37% na taxa de evasão e melhoria estatisticamente significativa na robustez sob contaminação de até 5% do conjunto de treinamento. Discutimos implicações operacionais, limitações e diretrizes para adoção em ambientes corporativos sujeitos a requisitos regulatórios como o GDPR (2018). O trabalho contribui para a sistematização de práticas defensivas em segurança de ML no contexto pré-2019, consolidando fundamentos teóricos e evidências empíricas.

2013-12-27Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Defesa em Profundidade e Resiliência contra Ataques Adversariais, Envenenamento de Dados e Extração de Modelos

A crescente adoção de sistemas de aprendizado de máquina em setores críticos, como finanças, saúde, energia e defesa, ampliou significativamente a superfície de ataque associada a esses sistemas. Diferentemente de softwares determinísticos tradicionais, modelos estatísticos aprendem funções paramétricas a partir de dados, introduzindo vetores de ataque específicos, tais como exemplos adversariais, envenenamento de dados, extração de modelos e inferência de membros. Neste trabalho, propomos uma arquitetura operacional integrada para segurança de sistemas de aprendizado de máquina, fundamentada em modelagem formal de ameaças, princípios de defesa em profundidade e integração com operações de segurança (SOC). Formalizamos o problema sob uma perspectiva de jogos adversariais, definindo explicitamente capacidades de consulta, envenenamento, conhecimento e recursos do adversário. Derivamos um modelo min-max que captura a noção de risco robusto e discutimos limites teóricos de robustez parcial. A arquitetura proposta organiza-se em quatro camadas: (i) segurança e governança de dados, com controle de integridade e proveniência; (ii) robustez algorítmica, incluindo treinamento adversarial e regularização de Lipschitz; (iii) detecção em tempo de execução, integrando mecanismos de monitoramento de consultas e correlação com táticas do MITRE ATT&CK; e (iv) integração com SOC e processos DevSecOps. Avaliamos experimentalmente a abordagem em CIFAR-10 com ResNet-18 sob ataques PGD $\ell_\infty$, bem como em cenários de envenenamento sintético. Complementamos com estudos de caso em fintech e saúde. Nossos resultados indicam que a combinação de robustez algorítmica, validação estatística de dados e monitoramento operacional reduz significativamente o risco residual sob adversários adaptativos, ao custo de overhead computacional controlável. Concluímos que a segurança de aprendizado de máquina deve ser tratada como disciplina interdisciplinar, integrando fundamentos teóricos e práticas consolidadas de engenharia de segurança até o estado da arte de 2019.

2013-02-03Read paper →AI Security

Arquitetura Integrada para Segurança de Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Defesa em Profundidade e Validação Empírica em Ambientes Operacionais

A crescente adoção de sistemas de aprendizado de máquina (Machine Learning – ML) em contextos de missão crítica, como detecção de fraudes financeiras, classificação de malware e monitoramento de infraestruturas, introduziu uma nova superfície de ataque no panorama de segurança cibernética. Diferentemente de sistemas determinísticos tradicionais, modelos estatísticos são intrinsecamente dependentes de dados e suscetíveis a vetores específicos, incluindo envenenamento de dados, exemplos adversariais e extração de modelos. Embora a literatura técnica tenha avançado significativamente na caracterização desses ataques, observa-se, até 2019, uma lacuna entre resultados experimentais acadêmicos e sua integração operacional em ambientes corporativos reais, especialmente no contexto de pipelines de dados, práticas DevOps emergentes e integração com infraestruturas de monitoramento como SIEM e IDS. Neste trabalho, propomos uma arquitetura integrada de segurança para sistemas de ML que cobre todo o ciclo de vida do modelo, desde a ingestão e validação de dados até a inferência em produção. Formalizamos o problema por meio de um modelo de ameaça baseado em teoria de jogos com restrições explícitas de orçamento adversarial, definindo propriedades formais de robustez, integridade e detectabilidade. A arquitetura proposta combina validação estatística de datasets, treinamento adversarial robusto, monitoramento de anomalias em tempo de inferência e correlação de eventos com plataformas de segurança corporativas. Implementamos um protótipo em ambiente controlado utilizando PyTorch, Elastic Stack e Suricata, avaliando-o em datasets públicos (CIFAR-10, NSL-KDD) e em um conjunto proprietário de grande escala. Os resultados experimentais demonstram redução significativa na taxa de sucesso de ataques FGSM e PGD, com overhead operacional moderado. Adicionalmente, conduzimos um estudo de caso em um ambiente de operações de segurança (SOC) do setor financeiro, evidenciando viabilidade prática e ganhos mensuráveis em detecção. Concluímos que uma abordagem de defesa em profundidade, fundamentada em modelagem formal e integrada a controles tradicionais de segurança, é essencial para mitigar riscos emergentes associados a sistemas de ML em produção.

2013-01-27Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas Baseados em Inteligência Artificial: Modelagem Formal de Ameaças, Defesa Multicamadas e Avaliação Experimental em Ambientes Operacionais (2019)

A crescente incorporação de técnicas de Inteligência Artificial (IA) em sistemas corporativos, governamentais e de defesa, particularmente em atividades de detecção de intrusões, classificação de malware, priorização de alertas em Security Operations Centers (SOCs) e análise antifraude, ampliou significativamente a superfície de ataque das infraestruturas digitais. Em 2019, já se observava que modelos de aprendizado de máquina, quando implantados em produção, constituíam ativos críticos sujeitos a vetores específicos de ataque, como envenenamento de dados, evasão adversarial, extração de modelos e ataques de inferência. Este artigo propõe uma arquitetura integrada de segurança para sistemas baseados em IA, fundamentada em modelagem formal de ameaças, mecanismos de defesa multicamadas e validação experimental em ambiente operacional controlado. Formalizamos propriedades de robustez, integridade e confidencialidade de modelos supervisionados $f_\theta: \mathcal{X} \rightarrow \mathcal{Y}$ sob adversários com acesso black-box parcial, definindo métricas quantitativas de degradação sob perturbações limitadas por norma $\ell_p$. Integramos mecanismos de validação sintática, detecção estatística de anomalias via Isolation Forest, inspeção de tráfego com Suricata, verificação criptográfica de integridade e monitoramento contínuo de logs com Elastic Stack. A avaliação experimental foi conduzida sobre o conjunto CIC-IDS2017, totalizando 2,8 milhões de fluxos de rede, em ambiente com GPUs NVIDIA V100, demonstrando aumento substancial de robustez contra ataques FGSM e redução significativa do impacto de envenenamento com sobrecarga operacional controlada. Os resultados indicam que a integração entre controles tradicionais de segurança da informação e técnicas de aprendizado de máquina robusto é viável no contexto de 2019, contribuindo para a consolidação de práticas DevSecOps em pipelines de IA. Discutimos limitações metodológicas, implicações regulatórias à luz do GDPR (2018) e perspectivas relacionadas a aprendizado federado e criptografia homomórfica parcial, já investigadas na literatura até 2019.

2013-01-20Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Aprendizado de Máquina: Formalização de Ameaças, Defesa em Profundidade e Avaliação Empírica em Ambientes SOC (2019)

A crescente incorporação de modelos de aprendizado de máquina em processos críticos — incluindo detecção de fraudes, classificação de malware, sistemas antifraude bancária e priorização de alertas em Centros de Operações de Segurança (SOC) — introduziu uma nova classe de ativos estratégicos: modelos treinados, conjuntos de dados, pipelines de treinamento e APIs de inferência. Diferentemente de aplicações tradicionais, modelos estatísticos aprendidos combinam código executável e representação paramétrica de dados, ampliando a superfície de ataque e demandando controles específicos de confidencialidade, integridade e disponibilidade. A literatura recente tem demonstrado a viabilidade de ataques adversariais, envenenamento de dados e extração de modelos por meio de consultas adaptativas, mas ainda carece de uma consolidação operacional alinhada às práticas de segurança corporativa vigentes em 2019, como integração com SIEM, uso de frameworks MITRE ATT&CK, DevSecOps emergente e segurança em ambientes cloud-native baseados em contêineres. Neste trabalho, formalizamos um modelo unificado de ameaças para sistemas de aprendizado supervisionado com acesso oracular parcial, definindo propriedades quantitativas de robustez, integridade de dados e confidencialidade paramétrica. Propomos uma arquitetura de defesa em profundidade composta por quatro camadas: segurança da cadeia de suprimentos, validação estatística de dados, monitoramento de inferência e resposta automatizada integrada ao SOC. Implementamos mecanismos de detecção baseados em distância de Mahalanobis sobre embeddings, limitação adaptativa de taxa e versionamento criptográfico de artefatos. Avaliamos empiricamente a solução em ambiente Kubernetes com telemetria de rede e aplicação, utilizando ataques FGSM e PGD, além de simulações de extração de modelo. Os resultados indicam redução significativa da taxa de sucesso adversarial com sobrecarga controlada de latência. Concluímos que a robustez matemática deve ser combinada a controles operacionais contínuos para mitigar riscos emergentes em sistemas de aprendizado de máquina em produção.

2013-01-13Read paper →AI Security

Arquitetura Integrada de Segurança para Sistemas de Aprendizado de Máquina: Modelagem Formal de Ameaças, Defesa em Profundidade e Validação Empírica em Ambientes Operacionais (2020)

A incorporação de sistemas de aprendizado de máquina (Machine Learning – ML) em ambientes corporativos, financeiros e de infraestrutura crítica ampliou significativamente a superfície de ataque organizacional. Diferentemente de aplicações tradicionais, modelos estatísticos introduzem vulnerabilidades específicas associadas à manipulação adversarial de dados, exploração de propriedades probabilísticas e extração de informações sensíveis a partir de parâmetros treinados. Este trabalho propõe uma arquitetura integrada de segurança para sistemas de ML em produção, fundamentada em modelagem formal de ameaças, teoria dos jogos adversariais e mecanismos de defesa em profundidade. Formalizamos o problema como um jogo estratégico entre adversário e defensor, no qual o atacante pode realizar ataques de envenenamento de dados (poisoning), evasão (evasion) e inferência (model inversion e membership inference), sob capacidades realistas observadas até 2020. Definimos propriedades formais de robustez, confidencialidade e integridade, estabelecendo limites probabilísticos para erro induzido e vazamento de informação. A arquitetura proposta integra quatro camadas: (i) validação e sanitização de dados com detecção de outliers e verificação criptográfica; (ii) técnicas de robustez, incluindo treinamento adversarial e privacidade diferencial; (iii) monitoramento contínuo com integração a sistemas SIEM e IDS; e (iv) resposta automatizada por meio de playbooks orquestrados. Implementamos a solução em ambiente compatível com tecnologias amplamente adotadas até 2020, avaliando-a sobre bases CIFAR-10 e ImageNet (subconjunto), além de logs reais anonimizados de um SOC financeiro. Os resultados indicam redução superior a 70% na eficácia de ataques simulados de poisoning e queda significativa na AUC de membership inference (0,82 para 0,15), com sobrecarga média de latência de 6,8%. Concluímos que a integração sistemática de controles estatísticos, criptográficos e operacionais é viável e eficaz, fornecendo diretrizes práticas para implantação segura de ML em produção no contexto tecnológico vigente em 2020.

2012-03-05Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Inteligência Artificial: Modelagem Formal de Ameaças, Hardening de MLOps e Detecção de Ataques Adversariais em Ambientes Corporativos

A crescente adoção de sistemas de Inteligência Artificial (IA) em ambientes corporativos críticos, incluindo detecção de intrusão, prevenção a fraudes e análise automatizada de malware, introduz novas superfícies de ataque associadas às propriedades estatísticas dos modelos de aprendizado de máquina. Diferentemente de softwares determinísticos tradicionais, modelos parametrizados aprendem padrões a partir de dados e, portanto, tornam-se suscetíveis a ataques de envenenamento, evasão adversarial e extração de modelo. Neste trabalho, propomos uma arquitetura operacional integrada para segurança de sistemas de IA, alinhada ao estado da arte até 2020, que combina modelagem formal de ameaças, hardening de pipelines MLOps e mecanismos estatísticos de detecção de anomalias e drift. Formalizamos o sistema como uma quádrupla $S = (D, M, P, I)$, representando dados, modelo, pipeline e infraestrutura, e definimos objetivos adversariais e defensivos sob uma ótica probabilística. A arquitetura proposta integra controles de infraestrutura (RBAC e segmentação de rede em Kubernetes), validação criptográfica de datasets, testes estatísticos de Kolmogorov–Smirnov para detecção de drift e algoritmos de isolamento para identificação de anomalias. Avaliamos experimentalmente a solução utilizando datasets públicos (CIC-IDS2017 e subconjunto do ImageNet), mensurando taxa de detecção, falso positivo e overhead computacional. Os resultados indicam redução significativa da taxa de evasão adversarial, de 78% para 28,6%, com overhead médio de 8,3% de CPU. Complementamos com estudo de caso em ambiente financeiro, demonstrando redução de 41% em fraudes confirmadas após integração com SIEM e playbooks automatizados. Concluímos que a segurança de IA deve ser tratada como disciplina interdisciplinar, combinando fundamentos formais, controles operacionais e monitoramento contínuo, sendo essencial à governança de risco cibernético em organizações orientadas a dados.

2012-02-28Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Conectados: Modelagem de Ameaças e Mecanismos de Defesa para Sistemas Especialistas e Redes Neurais (1990)

O rápido avanço de técnicas de Inteligência Artificial (IA) ao longo das últimas três décadas resultou na adoção crescente de sistemas especialistas, redes neurais artificiais e mecanismos de inferência automatizada em ambientes críticos, incluindo diagnóstico médico, planejamento militar, análise financeira e controle industrial. Apesar da atenção significativa dada à precisão inferencial e ao desempenho computacional desses sistemas, a segurança operacional da IA permanece amplamente negligenciada. Em redes acadêmicas e corporativas conectadas por protocolos TCP/IP emergentes, sistemas baseados em conhecimento podem tornar-se vetores privilegiados de comprometimento quando manipulados por adversários com acesso ao sistema ou à rede. Este trabalho examina o problema da segurança de sistemas de IA sob a perspectiva da segurança computacional clássica. Argumenta-se que motores de inferência, bases de conhecimento e mecanismos de aprendizagem introduzem novas superfícies de ataque que não são adequadamente tratadas pelos modelos tradicionais de controle de acesso e proteção de memória. Propomos um modelo de ameaça específico para sistemas especialistas e redes neurais artificiais operando em estações UNIX conectadas à ARPANET e redes locais Ethernet. O modelo considera três classes principais de ataque: manipulação da base de conhecimento, contaminação de dados de treinamento e exploração de interfaces de consulta. A partir desse modelo, desenvolvemos uma metodologia de defesa baseada em três pilares: integridade criptográfica da base de conhecimento, auditoria comportamental do mecanismo de inferência e detecção estatística de entradas anômalas. A abordagem integra princípios clássicos de segurança — como o modelo Bell‑LaPadula e os princípios de proteção de Saltzer e Schroeder — com técnicas probabilísticas derivadas de redes Bayesianas e aprendizado adaptativo. Implementamos um protótipo experimental em ambiente UNIX utilizando um sistema especialista baseado em regras e uma rede neural do tipo perceptron multicamada. Avaliações experimentais demonstram que mecanismos simples de verificação de integridade e análise estatística de consultas reduzem significativamente a probabilidade de comprometimento sem impor sobrecarga computacional proibitiva. Os resultados sugerem que a segurança de IA deve ser tratada como um problema distinto dentro da segurança de sistemas, exigindo controles específicos para proteção de conhecimento, dados de treinamento e mecanismos de inferência. O trabalho conclui com recomendações práticas para operadores de sistemas e pesquisadores, destacando a necessidade de auditoria contínua, isolamento de dados de treinamento e verificação criptográfica da base de conhecimento.

2011-12-08Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes UNIX Conectados em Rede: Modelagem de Ameaças, Integridade de Bases de Conhecimento e Mecanismos de Defesa (1990)

A adoção crescente de sistemas de Inteligência Artificial (IA) em ambientes corporativos e científicos durante a década de 1980 introduziu uma nova superfície de ataque dentro da infraestrutura computacional tradicional. Sistemas especialistas como MYCIN, XCON e PROSPECTOR passaram a ser integrados a estações de trabalho UNIX, bancos de dados institucionais e redes locais baseadas em TCP/IP, ampliando significativamente o impacto potencial de violações de segurança. Diferentemente de aplicações convencionais, sistemas de IA dependem criticamente da integridade de três componentes: bases de conhecimento, motores de inferência e conjuntos de treinamento ou evidência. A manipulação maliciosa de qualquer um desses elementos pode produzir decisões incorretas com consequências operacionais severas, particularmente em ambientes industriais, médicos ou militares. Este trabalho examina o problema emergente da segurança em sistemas de IA sob a perspectiva de operações práticas de defesa e ataque em redes acadêmicas e corporativas típicas do final da década de 1980. Inicialmente apresentamos um modelo formal de ameaças envolvendo adulteração de regras, injeção de fatos falsos e manipulação de parâmetros probabilísticos em sistemas baseados em regras e redes neurais artificiais. Em seguida propomos uma metodologia operacional para proteger tais sistemas utilizando princípios clássicos de segurança computacional, incluindo modelos Bell–LaPadula e Biba, mecanismos de autenticação baseados em Kerberos, verificação de integridade criptográfica com DES e monitoramento de rede por ferramentas como `tcpdump`. Implementamos experimentalmente um protótipo de defesa aplicado a um sistema especialista executando em ambiente UNIX BSD conectado a uma rede Ethernet. Experimentos controlados demonstram que ataques de modificação de regras podem alterar significativamente a probabilidade de inferência final, enquanto mecanismos de controle de integridade reduzem a superfície de exploração. Um estudo de caso inspirado na análise do worm de 1988 demonstra como intrusões em rede podem ser utilizadas para comprometer bases de conhecimento distribuídas. Os resultados indicam que a segurança de sistemas de IA deve ser tratada como um problema específico, distinto da segurança tradicional de software, exigindo controles adicionais de integridade lógica e auditoria de inferências. Este trabalho estabelece uma estrutura inicial para análise de segurança em sistemas inteligentes e propõe direções futuras para pesquisa em proteção de conhecimento computacional.

2011-12-08Read paper →AI Security

Segurança de Sistemas Baseados em Inteligência Artificial em Redes Computacionais: Modelagem de Ameaças e Mecanismos de Defesa para Ambientes UNIX e ARPANET

A crescente interconexão de sistemas computacionais durante a década de 1980, especialmente com a transição da ARPANET para a pilha de protocolos TCP/IP em 1983, introduziu novos desafios de segurança que não podem ser tratados apenas por mecanismos tradicionais de controle de acesso. Simultaneamente, avanços em inteligência artificial (IA), particularmente em sistemas especialistas, redes neurais e métodos estatísticos de detecção de anomalias, abriram a possibilidade de aplicar técnicas automatizadas para identificação e mitigação de atividades maliciosas em redes e sistemas operacionais. Este trabalho investiga os problemas de segurança associados ao uso e à proteção de sistemas baseados em IA dentro de infraestruturas computacionais distribuídas típicas de ambientes UNIX e redes acadêmicas interligadas. Partindo dos modelos clássicos de segurança de sistemas, incluindo Bell-LaPadula e Biba, analisamos como mecanismos de inferência automática podem ser empregados para monitorar eventos de auditoria e identificar padrões de intrusão. Em particular, examinamos sistemas de detecção de intrusão baseados em perfis de comportamento, conforme proposto por Denning (1987) e implementado em protótipos como o Intrusion Detection Expert System (IDES). Também exploramos vulnerabilidades emergentes reveladas por incidentes recentes, como o worm da Internet de 1988, que demonstrou a eficácia de ataques automatizados explorando serviços amplamente implantados como `sendmail` e `finger`. Propomos uma arquitetura híbrida combinando análise estatística e raciocínio baseado em regras para proteção de sistemas conectados via TCP/IP. A metodologia inclui coleta de eventos de auditoria do sistema, análise de tráfego de rede utilizando ferramentas como `tcpdump`, e avaliação de desvios comportamentais por meio de modelos probabilísticos. O estudo apresenta uma implementação experimental em ambiente UNIX e conduz uma avaliação empírica baseada em simulações de intrusão, incluindo tentativas de escalonamento de privilégios e exploração de serviços de rede. Os resultados indicam que técnicas de IA podem reduzir significativamente o tempo de detecção de atividades suspeitas quando comparadas à análise manual de logs. No entanto, também identificamos limitações relacionadas a falsos positivos e à manipulação deliberada de dados de treinamento por adversários. Concluímos discutindo implicações para a arquitetura de segurança de redes futuras e direções para pesquisa em automação de defesa cibernética.

2011-09-10Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Interconectados: Modelagem de Ameaças, Detecção de Intrusão e Proteção de Sistemas Baseados em Conhecimento (1989)

A rápida expansão de sistemas computacionais interconectados ao longo da década de 1980, combinada com o crescimento da pesquisa em Inteligência Artificial (IA), introduziu novos desafios de segurança. Sistemas especialistas, redes neurais artificiais e algoritmos adaptativos começaram a ser empregados em tarefas críticas como diagnóstico médico, controle industrial, planejamento logístico e análise militar. Contudo, tais sistemas introduzem superfícies de ataque inéditas: manipulação de bases de conhecimento, corrupção de dados de treinamento, exploração de vulnerabilidades em interpretadores de regras e comprometimento de infraestrutura de rede que hospeda esses sistemas. Este trabalho investiga a segurança de sistemas de IA no contexto tecnológico de 1989, analisando tanto o uso de técnicas de IA para defesa computacional quanto os riscos de ataques direcionados contra sistemas inteligentes. Inicialmente revisamos a literatura sobre detecção de intrusão baseada em anomalias (ANDERSON, 1980; DENNING, 1987) e métodos de aprendizado em redes neurais e sistemas especialistas (RUMELHART; HINTON; WILLIAMS, 1986; HOPFIELD, 1982). Em seguida, formalizamos um modelo de ameaça para ambientes computacionais que executam sistemas especialistas e redes neurais conectados por redes TCP/IP emergentes e sistemas UNIX multiusuário. Propomos uma metodologia de segurança baseada em três componentes: monitoramento comportamental inspirado em IA, proteção criptográfica de bases de conhecimento e análise de tráfego de rede utilizando ferramentas de captura de pacotes. A implementação experimental foi realizada em estações UNIX conectadas por Ethernet, utilizando mecanismos de auditoria de sistema, captura de tráfego com `tcpdump` e um protótipo de detector de anomalias inspirado em modelos estatísticos e redes neurais simples. Os resultados experimentais demonstram que abordagens baseadas em modelagem comportamental podem detectar atividades anômalas com taxas superiores a métodos puramente baseados em assinaturas. Um estudo de caso envolvendo a proteção de um sistema especialista médico ilustra como ataques podem comprometer inferências automatizadas. Concluímos que a segurança de sistemas de IA deve integrar mecanismos de auditoria, criptografia e detecção adaptativa de intrusão. Além disso, argumentamos que técnicas de aprendizado automático podem desempenhar papel fundamental na defesa de sistemas computacionais nas próximas décadas.

2011-09-10Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Conectados: Modelagem de Ameaças e Mecanismos de Proteção para Sistemas Especialistas e Redes Neurais (Perspectiva Operacional de 1989)

A crescente adoção de sistemas de Inteligência Artificial (IA) em ambientes computacionais corporativos e governamentais durante a década de 1980 introduziu uma nova classe de superfícies de ataque que ainda permanece pouco explorada na literatura de segurança computacional. Sistemas especialistas baseados em regras, redes neurais emergentes e mecanismos de inferência automática passaram a ser integrados a infraestruturas críticas, incluindo diagnósticos médicos, planejamento industrial, suporte a decisão militar e gerenciamento de redes. Entretanto, a segurança desses sistemas tem sido tratada de forma indireta, geralmente limitada a controles tradicionais de acesso ou proteção de sistemas operacionais subjacentes. Este trabalho investiga sistematicamente os riscos específicos associados à segurança de sistemas de IA existentes em 1989, incluindo manipulação maliciosa de bases de conhecimento, envenenamento de conjuntos de treinamento, exploração de inferência lógica, extração de conhecimento por consultas iterativas e degradação deliberada de desempenho em redes neurais. A partir de modelos clássicos de segurança da informação — incluindo Bell–LaPadula e o modelo de monitoramento de intrusão proposto por Denning — propomos uma formalização de ameaças direcionadas a mecanismos de inferência simbólica e arquiteturas conexionistas. Em seguida, introduzimos uma metodologia de defesa que combina verificação de integridade de bases de regras, auditoria de consultas, segmentação de conhecimento sensível e mecanismos de detecção baseados em perfis de uso. A implementação experimental foi realizada em um ambiente UNIX BSD executando um sistema especialista em Prolog e uma rede neural Hopfield para classificação de padrões. Avaliamos diferentes vetores de ataque utilizando monitoramento de rede via tcpdump e auditoria de sistema com ferramentas de verificação de configuração como COPS. Os resultados indicam que ataques relativamente simples — como inserção de regras maliciosas ou manipulação incremental de exemplos de treinamento — podem alterar significativamente o comportamento inferencial de sistemas de IA sem gerar alertas convencionais de segurança. Demonstramos que mecanismos relativamente simples de controle de integridade, análise estatística de consultas e isolamento de módulos de inferência reduzem substancialmente a superfície de ataque. Este estudo fornece uma das primeiras análises sistemáticas da segurança de sistemas de IA no contexto da infraestrutura computacional contemporânea e estabelece fundamentos para futuras pesquisas em proteção de sistemas inteligentes.

2011-06-14Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Redes TCP/IP: Modelagem de Ameaças, Detecção de Intrusão Baseada em Conhecimento e Proteção de Sistemas Especialistas (1989)

Durante a década de 1980, sistemas de Inteligência Artificial (IA), particularmente sistemas especialistas e redes neurais iniciais, começaram a ser incorporados em ambientes críticos como redes militares, centros de pesquisa e sistemas industriais. Paralelamente, o crescimento da interconectividade proporcionado pela ARPANET e pela adoção do protocolo TCP/IP ampliou significativamente a superfície de ataque desses sistemas. O incidente do worm de Morris em 1988 demonstrou empiricamente que sistemas conectados podem ser comprometidos em larga escala por meio de vulnerabilidades em serviços de rede e erros de implementação em software. Embora grande parte da literatura de segurança da informação concentre-se em proteção de sistemas operacionais e criptografia de comunicações, pouca atenção foi dedicada à segurança específica de sistemas de IA, cujos componentes incluem bases de conhecimento, mecanismos de inferência e módulos de aprendizado. Este trabalho apresenta uma análise sistemática das vulnerabilidades presentes em sistemas de IA conectados em redes UNIX/TCP‑IP típicas do final da década de 1980. Propomos um modelo de ameaças que considera ataques contra bases de conhecimento, manipulação de regras de inferência, exploração de serviços de rede e subversão de módulos de aprendizado. A partir desse modelo, descrevemos uma metodologia de defesa que combina mecanismos clássicos de controle de acesso, auditoria de sistemas, criptografia e detecção de intrusão baseada em anomalias conforme o modelo estatístico de Denning (1987). Adicionalmente, propomos um mecanismo experimental de detecção de intrusão assistido por IA utilizando um sistema especialista para correlação de eventos de auditoria do UNIX. A arquitetura proposta integra captura de tráfego via `tcpdump`, análise de logs do sistema e um motor de inferência baseado em regras para identificar padrões de ataque conhecidos, incluindo exploração de `sendmail`, uso indevido de `rsh` e variações de propagação de worms semelhantes ao incidente de 1988. Resultados experimentais conduzidos em um laboratório com estações Sun-3 e VAX/UNIX demonstram que a abordagem proposta consegue identificar atividades anômalas de rede com taxa de detecção superior a 85% em cenários simulados de intrusão. O estudo conclui que técnicas de IA podem simultaneamente ampliar riscos de segurança e fornecer mecanismos eficazes de defesa quando integradas com monitoramento de sistemas e análise estatística de comportamento. Este trabalho contribui para o entendimento inicial da segurança de sistemas inteligentes conectados em rede e apresenta diretrizes práticas para a proteção de ambientes computacionais baseados em IA na infraestrutura emergente da Internet.

2011-06-14Read paper →AI Security

Arquitetura Resiliente para Segurança de Sistemas de Inteligência Artificial: Modelagem Formal de Ameaças, Detecção de Ataques Adversariais e Defesa Operacional Integrada

A incorporação crescente de sistemas de Inteligência Artificial (IA) em domínios críticos — como detecção de fraude financeira, triagem clínica assistida, detecção de intrusões e classificação de malware — introduz uma superfície de ataque substancialmente distinta daquela observada em sistemas de software convencionais. Modelos de aprendizado de máquina operam sobre espaços de alta dimensionalidade e fronteiras de decisão não lineares, tornando-se vulneráveis a ataques de evasão, envenenamento, extração, inversão e inferência de pertencimento. Além disso, pipelines automatizados de treinamento e implantação (MLOps) ampliam o risco de comprometimentos na cadeia de suprimentos, como evidenciado por incidentes de larga escala ocorridos em 2020. Neste trabalho, desenvolvemos uma arquitetura resiliente para segurança de sistemas de IA compatível com o estado da prática em 2021, integrando modelagem formal de ameaças, detecção estatística de anomalias e mecanismos de resposta operacional alinhados a infraestruturas SOC. Formalizamos o risco adversarial como uma função condicional que combina probabilidade de sucesso do adversário e impacto operacional, sob um modelo de jogo de segurança parametrizado por capacidades $(K,Q,P,R)$. Propomos um detector híbrido baseado na distância de Mahalanobis em espaço de embeddings e na divergência de Kullback–Leibler para identificação de drift adversarial, analisando sua complexidade assintótica e propriedades de corretude. Demonstramos a integração do mecanismo com ferramentas consolidadas até 2021, incluindo Suricata 6.x, Zeek, Elastic Stack 7.x, YARA e Sigma, fornecendo exemplos concretos de regras e playbooks. Avaliamos experimentalmente a abordagem utilizando os datasets MNIST, EMBER 2018 e CIC-IDS2017, sob ataques FGSM, PGD e envenenamento supervisionado. Os resultados indicam redução consistente da taxa de sucesso adversarial entre 60% e 75%, com overhead computacional entre 10% e 18%, dependendo da dimensionalidade do embedding. Concluímos que a segurança de IA requer convergência entre aprendizado adversarial, verificação formal e engenharia de segurança operacional, propondo diretrizes técnicas para implantação resiliente em ambientes críticos.

2011-04-13Read paper →AI Security

Arquitetura Operacional para Segurança de Sistemas de Inteligência Artificial: Modelagem Formal de Ameaças, Detecção de Ataques Adversariais e Hardening de Pipelines de Machine Learning em Ambientes Corporativos (2021)

A adoção acelerada de sistemas de Inteligência Artificial (IA) em ambientes corporativos e governamentais até 2021 introduziu novas superfícies de ataque decorrentes da natureza estatística dos modelos de aprendizado de máquina. Diferentemente de sistemas determinísticos tradicionais, modelos supervisionados e não supervisionados são suscetíveis a ataques adversariais, envenenamento de dados, extração de modelos e inferência de atributos sensíveis. Este trabalho propõe uma arquitetura operacional integrada para segurança de sistemas de IA em produção, combinando modelagem formal de ameaças, mecanismos de robustez adversarial e integração com infraestruturas clássicas de segurança (IDS, EDR, SIEM e WAF). Formalizamos o problema como uma otimização robusta sob restrições de custo operacional e latência, modelando o adversário com capacidades de acesso black-box, injeção parcial de dados e conhecimento estrutural limitado. Propomos um framework composto por quatro camadas: hardening do pipeline de dados e treinamento, monitoramento de inferência em tempo real, detecção estatística no espaço latente baseada em distância de Mahalanobis e integração com telemetria de segurança corporativa. Avaliamos empiricamente a arquitetura em um cenário de classificação de malware com 2,3 milhões de amostras, utilizando ataques FGSM e PGD, bem como tentativas de extração de modelo via consultas adaptativas. Os resultados indicam redução substancial na taxa de sucesso de ataques adversariais (de até 94,5% para 31,3%), AUC média de 0,94 na detecção de envenenamento e overhead de latência inferior a 7%. Demonstramos ainda a aplicabilidade em um estudo de caso no setor financeiro, com integração a SOC e bloqueio automatizado via WAF. Concluímos que a robustez efetiva de sistemas de IA não é apenas algorítmica, mas arquitetural, exigindo convergência entre engenharia de ML, segurança da informação e governança operacional.

2011-04-06Read paper →AI Security

Arquitetura Resiliente para Segurança de Modelos de Inteligência Artificial: Formalização de Ameaças, Mecanismos de Defesa Multicamadas e Validação Experimental em Ambientes Operacionais (2021)

A crescente incorporação de modelos de Aprendizado de Máquina (Machine Learning – ML) em sistemas críticos — como detecção de intrusão, classificação de malware, antifraude e autenticação comportamental — introduz uma superfície de ataque substancialmente distinta daquela observada em softwares determinísticos tradicionais. Diferentemente de programas baseados em lógica estática, modelos estatísticos são vulneráveis a ataques adversariais, envenenamento de dados, extração de modelo e inferência de atributos sensíveis. Neste trabalho, propomos uma arquitetura resiliente de segurança para sistemas de Inteligência Artificial alinhada ao estado da arte até 2021, integrando formalização matemática de ameaças, mecanismos estatísticos de robustificação e controles clássicos de segurança da informação. Formalizamos o problema de robustez adversarial como um jogo min–max e definimos propriedades de segurança probabilística associadas à detecção de backdoors e ataques de envenenamento. Apresentamos um modelo de ameaça compatível com ambientes corporativos que adotam virtualização por contêineres e práticas DevSecOps, incorporando vetores descritos no MITRE ATT&CK e cenários de comprometimento de cadeia de suprimentos, como o incidente SolarWinds (2020). A arquitetura proposta organiza-se em cinco camadas: validação e integridade de dados, treinamento robusto com Projected Gradient Descent (PGD), monitoramento de infraestrutura com IDS e SIEM, detecção estatística de deriva de dados e auditoria com watermarking de modelo. Realizamos avaliação experimental em bases CIFAR-10, NSL-KDD e um dataset de phishing em larga escala, demonstrando reduções superiores a 60% na taxa de sucesso de ataques adversariais (FGSM e PGD) e 92% em cenários de backdoor, com sobrecusto médio de latência inferior a 10 ms por requisição. Concluímos que a integração sistemática entre mecanismos estatísticos e controles tradicionais de segurança oferece ganhos mensuráveis de robustez sem inviabilizar a operação em produção, estabelecendo diretrizes práticas e formalmente fundamentadas para proteção de pipelines de IA no contexto tecnológico de 2021.

2011-03-31Read paper →AI Security

Arquitetura Operacional para Segurança de Modelos de Inteligência Artificial: Formalização de Ameaças, Detecção de Ataques Adversariais e Defesa em Ambientes Corporativos

A adoção de modelos de Inteligência Artificial (IA) em processos críticos de segurança cibernética — como detecção de malware, sistemas de prevenção a fraudes e análise de tráfego de rede — introduz novas superfícies de ataque que extrapolam os vetores tradicionais de software. Em 2021, a consolidação de técnicas de aprendizado profundo em ambientes corporativos ampliou a exposição a ataques adversariais, incluindo evasão, envenenamento de dados, inferência de pertencimento e extração de modelos. Neste trabalho, propomos uma arquitetura operacional integrada para segurança de modelos de IA, fundamentada em formalização matemática do risco adversarial e alinhada a frameworks consolidados até 2021, como MITRE ATT&CK, MITRE ATLAS e NIST SP 800-53. Formalizamos o risco como $R(A,M,D)=P_{succ}(A,M,D)\cdot I(M)$, modelando explicitamente as capacidades, o conhecimento e os recursos do adversário. Desenvolvemos um framework híbrido composto por camadas de hardening (treinamento adversarial), monitoramento (detecção de anomalias e drift estatístico) e resposta (integração com SIEM/SOAR). Implementamos a arquitetura utilizando PyTorch 1.9, IBM Adversarial Robustness Toolbox, Suricata 6 e Elastic Stack 7, avaliando-a sobre os conjuntos EMBER 2018 e CIC-IDS2017. Nossos resultados indicam que ataques FGSM com $\epsilon=0{,}1$ reduzem a acurácia de 97,4% para 41,2%, enquanto o treinamento adversarial recupera desempenho para 85,9%, com aumento médio de latência de 11,8%. Demonstramos ainda taxa de detecção de envenenamento de 92,7% com taxa de falso positivo de 4,1%. Concluímos que defesas puramente algorítmicas são insuficientes sem integração com telemetria operacional e governança de risco. O trabalho contribui com formalização rigorosa, validação empírica e diretrizes práticas compatíveis com o estado da arte em 2021.

2011-03-24Read paper →AI Security

Segurança de Sistemas Baseados em Inteligência Artificial: Modelagem de Ameaças, Superfícies de Ataque e Mecanismos de Defesa em Ambientes Computacionais até 1989

A crescente adoção de técnicas de Inteligência Artificial (IA) em sistemas críticos na década de 1980 — incluindo sistemas especialistas para diagnóstico médico, suporte à decisão militar, detecção de fraude e controle industrial — introduziu uma nova superfície de ataque no campo da segurança computacional. Diferentemente de aplicações tradicionais, sistemas de IA incorporam bases de conhecimento, motores de inferência, heurísticas e modelos probabilísticos que podem ser explorados por adversários para manipular decisões, extrair conhecimento sensível ou degradar o desempenho operacional. Este trabalho apresenta uma análise sistemática da segurança de sistemas de IA conforme o estado da arte até 1989, integrando conceitos de controle de acesso, segurança em bancos de dados, criptografia simétrica e assimétrica, segurança em redes TCP/IP emergentes e modelos formais como Bell-LaPadula e Biba. Formalizamos um modelo de ameaça específico para sistemas especialistas e redes neurais artificiais do tipo perceptron multicamadas, discutindo vetores como injeção de fatos maliciosos, corrupção de base de regras, manipulação de pesos sinápticos e ataques de inferência. Propomos uma metodologia operacional para proteção de sistemas de IA, baseada em segmentação lógica, verificação de integridade por funções hash, autenticação forte, trilhas de auditoria e análise de anomalias estatísticas. Implementamos protótipos em ambiente UNIX com controle de acesso baseado em DAC e avaliamos experimentalmente a resiliência frente a cenários de ataque simulados. Os resultados indicam que mecanismos clássicos de segurança podem ser adaptados para mitigar riscos específicos da IA, mas exigem modelagem cuidadosa da base de conhecimento como ativo estratégico. Concluímos que a segurança da IA, embora ainda emergente em 1989, demanda abordagem integrada envolvendo criptografia, controle de integridade e engenharia segura do conhecimento.

2011-03-17Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Conectados: Modelagem de Ameaças, Detecção Baseada em Conhecimento e Experimentos em Redes UNIX (1989)

O crescimento recente de sistemas baseados em inteligência artificial — particularmente sistemas especialistas, redes neurais artificiais e arquiteturas simbólicas de inferência — introduziu uma nova superfície de ataque no domínio da segurança computacional. Até o final da década de 1980, a maioria das pesquisas em segurança de sistemas concentrou-se na proteção de sistemas operacionais, controle de acesso e criptografia. Contudo, sistemas de inteligência artificial (IA) apresentam características estruturais distintas: bases de conhecimento extensas, motores de inferência complexos e dependência significativa de dados externos para raciocínio automatizado. Essas propriedades criam vulnerabilidades específicas, incluindo manipulação de conhecimento, envenenamento de dados de treinamento e exploração de mecanismos de inferência. Este artigo apresenta uma análise sistemática da segurança de sistemas de IA conforme concebidos até 1989. Inicialmente, examinamos os fundamentos arquiteturais de sistemas especialistas e redes neurais, discutindo como suas estruturas internas podem ser exploradas por adversários com acesso local ou remoto. Em seguida, propomos um modelo formal de ameaças que considera ataques contra três componentes fundamentais: base de conhecimento, mecanismo de inferência e fluxo de dados de entrada. Utilizando conceitos clássicos de segurança computacional — como os princípios de Saltzer e Schroeder (1975) e o modelo Bell-LaPadula (1973) — adaptamos esses paradigmas para proteger ambientes de IA. A metodologia proposta baseia-se em três mecanismos principais: verificação de integridade da base de conhecimento, monitoramento de comportamento do motor de inferência e detecção de anomalias em padrões de consulta e atualização de conhecimento. Implementamos um protótipo experimental em sistemas UNIX conectados via ARPANET, utilizando ferramentas de monitoramento de rede e auditoria de sistema para identificar comportamentos suspeitos. Experimentos controlados simulando ataques inspirados no incidente do Internet Worm de 1988 demonstram que técnicas baseadas em regras e análise estatística simples podem identificar manipulações maliciosas com taxas de detecção superiores a 80%. Os resultados indicam que a segurança de sistemas de IA deve ser tratada como um problema distinto dentro da segurança computacional. A proteção eficaz exige mecanismos de integridade semântica, auditoria de inferência e monitoramento comportamental contínuo. Concluímos que a integração de técnicas de inteligência artificial em sistemas de defesa — especialmente sistemas especialistas para detecção de intrusão — representa uma direção promissora para pesquisas futuras em segurança computacional.

2011-03-17Read paper →AI Security

Segurança de Sistemas Especialistas Baseados em Redes Neurais e Lógica Simbólica em Ambientes UNIX Conectados por ARPANET

A crescente incorporação de técnicas de Inteligência Artificial (IA), especialmente sistemas especialistas e redes neurais artificiais, em infraestruturas críticas conectadas a redes acadêmicas e militares, introduz uma nova superfície de ataque ainda pouco explorada na literatura de segurança da informação. Em 1989, a consolidação de ambientes UNIX multiusuário, a expansão da ARPANET e a recente ocorrência de incidentes como o Morris Worm evidenciam que modelos computacionais avançados não estão imunes a comprometimentos decorrentes de falhas de implementação, controle de acesso inadequado ou manipulação adversarial de dados. Este trabalho apresenta uma análise sistemática da segurança de sistemas de IA sob a ótica de operações ofensivas e defensivas, formalizando um modelo de ameaça específico para sistemas especialistas baseados em regras (e.g., MYCIN, XCON) e redes neurais multicamadas treinadas via retropropagação. Propomos uma metodologia integrada que combina controle de integridade de bases de conhecimento, verificação formal de regras, monitoramento de chamadas de sistema e análise estatística de anomalias no espaço de entrada. A implementação é realizada em estações UNIX BSD 4.3 utilizando ferramentas de auditoria nativas, scripts em C e mecanismos de logging. Avaliamos experimentalmente cenários de injeção de regras maliciosas, envenenamento de dados de treinamento e exploração de vulnerabilidades clássicas como estouro de buffer. Os resultados demonstram que pequenas perturbações intencionais podem degradar significativamente a acurácia de modelos neurais, enquanto a ausência de controle criptográfico sobre arquivos de regras facilita sabotagem interna. Concluímos que a segurança de IA deve ser tratada como extensão da segurança de sistemas, exigindo mecanismos de controle de acesso, verificação de integridade e auditoria contínua. Apresentamos direções futuras envolvendo formalização matemática da robustez e uso de criptografia assimétrica para assinatura de bases de conhecimento.

2011-03-17Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Redes TCP/IP: Modelagem de Ameaças e Contramedidas para Ambientes UNIX (1988)

A crescente adoção de sistemas de Inteligência Artificial (IA) na década de 1980 — especialmente sistemas especialistas baseados em regras e redes neurais multicamadas — introduziu novas superfícies de ataque no ecossistema computacional interconectado via ARPANET e redes TCP/IP. Este artigo investiga, sob a perspectiva de 1988, os riscos de segurança associados à implementação, treinamento, distribuição e operação de sistemas de IA em ambientes UNIX multiusuário. Diferentemente de aplicações convencionais, sistemas de IA dependem fortemente de bases de conhecimento, arquivos de regras, parâmetros numéricos e dados de treinamento, cuja integridade e confidencialidade são críticas. Exploramos ameaças como adulteração de regras (rule tampering), inserção maliciosa de fatos (fact injection), envenenamento de dados de treinamento, exploração de vulnerabilidades em interpretadores Lisp/Prolog, ataques de estouro de buffer em serviços de rede e subversão de mecanismos de autenticação. Formalizamos um modelo matemático de integridade de conhecimento e propomos uma arquitetura defensiva composta por controle de acesso discricionário reforçado, verificação criptográfica de bases de conhecimento com DES e RSA, monitoramento de rede via tcpdump e detecção de anomalias inspirada no modelo de Denning. Implementamos um protótipo em UNIX BSD 4.3 integrando um sistema especialista em Prolog, controles de integridade baseados em funções hash criptográficas e auditoria de chamadas ao sistema. Avaliamos experimentalmente ataques simulados contra um sistema especialista de diagnóstico técnico, demonstrando que a adulteração não detectada de apenas 3% das regras pode alterar decisões em até 27% dos casos. Concluímos que a segurança de IA deve ser tratada como um problema de segurança de sistemas distribuídos e de integridade de software, exigindo mecanismos formais de controle, criptografia e auditoria contínua. Este trabalho estabelece fundamentos operacionais para a segurança de IA no contexto tecnológico de 1988.

2010-12-18Read paper →AI Security

Segurança de Sistemas de Inteligência Artificial em Ambientes Computacionais Distribuídos: Modelagem de Ameaças e Mecanismos de Defesa (1988)

A crescente incorporação de técnicas de Inteligência Artificial (IA) em sistemas computacionais críticos ao longo da década de 1980 — especialmente sistemas especialistas, redes neurais artificiais e mecanismos de inferência simbólica — introduziu uma nova superfície de ataque ainda pouco estudada sob a ótica da segurança da informação. Enquanto modelos clássicos como Bell-LaPadula e Biba abordam confidencialidade e integridade em sistemas convencionais, a presença de bases de conhecimento, motores de inferência e processos adaptativos cria vetores adicionais de manipulação, sabotagem lógica e extração indevida de conhecimento. Este trabalho propõe uma estrutura sistemática para análise de segurança de sistemas de IA conforme o estado da arte até 1988, contemplando ambientes UNIX conectados via ARPANET e redes acadêmicas. Formalizamos um modelo de ameaças direcionado a sistemas especialistas e redes neurais treinadas por retropropagação, considerando adversários internos e externos com acesso lógico ao sistema. Desenvolvemos uma metodologia de defesa baseada em (i) controle formal de acesso multinível, (ii) auditoria comportamental inspirada nos modelos de detecção de intrusão de Anderson e Denning, e (iii) verificação de integridade de bases de conhecimento por técnicas criptográficas fundamentadas em DES e funções de resumo. Implementamos protótipos experimentais em ambiente 4.3BSD UNIX utilizando ferramentas disponíveis até 1988, incluindo tcpdump e COPS, avaliando resistência a ataques de modificação de regras, envenenamento de dados de treinamento e exploração de serviços de rede. Resultados empíricos indicam que a combinação de controle de acesso formal com análise estatística de comportamento reduz significativamente a taxa de sucesso de comprometimento lógico de sistemas especialistas. Concluímos que a segurança de IA deve ser tratada como disciplina própria dentro da segurança computacional, exigindo integração entre modelos formais, auditoria contínua e proteção criptográfica da base de conhecimento.

2010-12-18Read paper →