Research / Paper Files

Paper Files

Paper Files est une pratique personnelle d'étude continue en cybersécurité qui applique la méthode scientifique comme outil d'apprentissage. Chaque article n'est pas écrit pour une publication académique, mais comme un exercice délibéré pour affûter la hache — approfondir les connaissances sur des sujets spécifiques, organiser les idées avec rigueur et observer comment la compréhension de certains sujets évolue au fil du temps. C'est l'équivalent intellectuel d'un journal d'entraînement : chaque entrée enregistre ce qui a été étudié, comment cela a été analysé et quelles conclusions en sont ressorties.

Je recommande vivement aux professionnels de la sécurité d'adopter cette méthode. Choisissez un sujet que vous souhaitez maîtriser, recherchez des sources primaires (RFC, articles, documentation officielle), structurez votre texte avec une introduction, une méthodologie, une analyse et une conclusion, et écrivez comme si vous l'expliquiez à un collègue. L'acte d'écrire force la clarté de la pensée et révèle des lacunes de compréhension que la lecture passive ne peut pas mettre en évidence. Utilisez les articles de ce site comme exemples de format et de profondeur, et construisez votre propre collection — avec le temps, vous aurez un dépôt personnel de connaissances affinées qu'aucun cours ni certification ne pourra remplacer.

DAI & ADAI · 2026

DAI · EN

DAI: A Domain-Specific LLM with Model-Excluded Authority, Capability-Disjoint Verification, and Recomputable Receipts

DAI (Decripte Artificial Intelligence) is a proprietary domain-specific LLM within a governed autonomous defensive architecture. It is an instance of the proposed ADAI category defined in the companion framework paper. T…

Read paper →ADAI · EN

Autonomous Defensive AI: An Envelope-and-Evidence Framework for Governed LLMs Acting on Production Infrastructure

ADAI (Autonomous Defensive Artificial Intelligence) is a proposed category of governed autonomous cyber defense. The framework specifies defended perimeters, bounded effects, declared rollback and capability-disjoint ver…

Read paper →

Tous Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

15 papers

AI Security

Sécurisation des systèmes d’IA en contexte cyber en 2026 : modèle de menace, défenses multi-couches et évaluation expérimentale d’une chaîne LLM-agentique

La sécurité des systèmes d’intelligence artificielle est devenue, en 2026, un problème de cybersécurité à part entière. Les organisations déploient désormais des modèles de langage, des systèmes de génération augmentée par récupération, des agents outillés, des copilotes de code et des pipelines MLOps au cœur des processus métiers, ce qui élargit fortement la surface d’attaque. Cet article propose une étude technique et opérationnelle de la sécurité de l’IA dans un cadre cyber réaliste, en distinguant les risques propres aux données, aux modèles, aux prompts, aux outils, à la chaîne de fourniture logicielle et à l’intégration dans les environnements cloud-natifs. Nous formalisons un modèle de menace couvrant l’empoisonnement des données, l’extraction de modèle, l’inférence d’attributs, l’injection de prompt, les abus d’agents autonomes, la fuite de secrets, la désinformation automatisée et les attaques sur la chaîne RAG. À partir de cette modélisation, nous proposons une méthodologie de défense multi-couches combinant gouvernance, segmentation, filtrage sémantique, contrôle d’exécution des outils, journalisation inviolable, évaluation continue et réponses aux incidents adaptées aux systèmes d’IA. L’apport principal de ce travail est une architecture défensive concrète, mise en œuvre sur une pile représentative de 2026 : conteneurs, passerelles d’API, orchestration d’agents, observabilité eBPF, gestion des identités, stockage vectoriel et contrôles CNAPP. Nous décrivons une implémentation de référence et une campagne expérimentale comparative sur plusieurs classes d’attaques. Les résultats montrent que les mécanismes combinés réduisent significativement le taux de réussite des injections de prompt et limitent les exfiltrations de secrets, mais qu’ils n’éliminent pas totalement les risques lorsque les outils d’exécution ont des privilèges excessifs ou lorsque la provenance des données RAG est insuffisamment contrôlée. Enfin, nous discutons les implications pour les SOC, les équipes red et blue, ainsi que pour la conformité réglementaire et la gouvernance de l’IA. L’article se conclut par des recommandations opérationnelles pour industrialiser une posture de sécurité crédible face aux menaces IA de 2026.

2026-05-08Read paper →AI Security

Sécurité des systèmes d’IA en environnement cyber : formalisation des menaces, défense en profondeur et validation expérimentale d’une architecture LLM-RAG pour SOC et réponse à incident

La généralisation des systèmes d’intelligence artificielle dans les chaînes de défense cyber en 2026 a transformé la surface d’attaque des organisations. Les modèles de langage, les pipelines de génération augmentée par récupération, les agents autonomes et les services de machine learning exposent désormais des risques spécifiques qui dépassent les vulnérabilités logicielles classiques : injection de prompts, empoisonnement de corpus, exfiltration par sorties, abus d’outils, dérive comportementale, attaques adversariales sur données et modèles, compromission de modèles tiers, et violations de gouvernance. Cet article propose une étude complète de la sécurité de l’IA dans le contexte cyber, avec une formalisation du problème, un modèle de menace centré sur l’adversaire orienté objectifs, et une méthodologie défensive applicable aux SOC, aux plateformes CNAPP et aux environnements cloud natifs. Nous présentons une architecture de référence combinant segmentation des privilèges, contrôle des flux de contexte, filtrage sémantique, journalisation inviolable, garde-fous de sortie, évaluation continue et boucles de rétroaction sécurisées. L’approche est validée sur un prototype LLM-RAG utilisé pour l’assistance à l’analyse d’alertes, la triage d’incidents et la génération de playbooks. Les résultats expérimentaux montrent qu’une défense multicouche réduit de manière significative le taux de succès des attaques par prompt injection et exfiltration de contexte, tout en limitant l’impact sur la latence et la qualité opérationnelle. L’étude discute également les enjeux d’alignement entre sécurité, confidentialité, conformité et performance, ainsi que les implications de la montée des attaques assistées par IA générative. Enfin, nous proposons un ensemble de recommandations opérationnelles et de pistes de recherche pour la sécurité des modèles fondation, des agents outillés et des systèmes cyber-physiques intégrant l’IA.

2026-04-28Read paper →AI Security

Défense robuste des systèmes d’IA en entreprise : une méthodologie de sécurité hybride pour les modèles, les données, les agents et la chaîne d’approvisionnement en 2026

En 2026, la sécurité de l’IA ne se limite plus à la protection des modèles contre l’empoisonnement ou l’exfiltration des poids. Les organisations déploient désormais des systèmes composés de pipelines de données, de modèles fondation, de récupérateurs RAG, d’outils d’agentivité, d’orchestrateurs, de garde-fous et d’API tierces, ce qui élargit considérablement la surface d’attaque. Cet article propose une méthodologie de défense hybride, orientée opérationnellement, couvrant les risques liés à l’intégrité des données, à la confidentialité des prompts et des contextes, aux attaques par injection de prompts, à l’empoisonnement de corpus, à l’évasion adversariale, à l’abus d’outils par agents, à la compromission de la chaîne d’approvisionnement logicielle et à l’exposition involontaire de secrets via les sorties des modèles. Nous formalisons le problème à l’aide d’un modèle de menace centré sur les actifs IA critiques et les frontières de confiance, puis présentons une architecture de défense combinant segmentation des privilèges, validation sémantique, détection d’anomalies, contrôle d’exécution des outils, journalisation immuable, évaluation continue et durcissement du cycle de vie ML/LLM. La méthode est illustrée par une implémentation basée sur des composants disponibles en 2026, incluant des scanners de dépendances, des politiques d’outillage, des contrôles d’accès, des tests d’injection de prompts et des gardes de sortie. Une évaluation expérimentale, fondée sur des scénarios réalistes d’entreprise, montre que l’approche réduit significativement l’exposition aux attaques de type prompt injection et data exfiltration tout en maintenant un niveau acceptable de précision fonctionnelle et de latence. Une étude de cas sur un assistant interne connecté à des documents sensibles et à des outils d’automatisation démontre l’efficacité d’un modèle de défense en profondeur, mais aussi les limites persistantes face aux attaques adaptatives et à la complexité des chaînes d’agents. L’article conclut en soulignant que la sécurité de l’IA en 2026 doit être considérée comme une discipline cyber à part entière, intégrant gouvernance, ingénierie sécurisée, red teaming continu et observabilité profonde.

2026-04-23Read paper →AI Security

Sécurisation des systèmes d’IA en cybersécurité en 2026 : modèle de menace, architecture défensive, évaluation expérimentale et étude de cas sur les attaques par empoisonnement, évasion et exfiltration

Ce papier propose une analyse complète de la sécurité des systèmes d’intelligence artificielle appliqués à la cybersécurité, dans le contexte technologique de 2026. Alors que les organisations déploient des modèles de fondation, des agents IA, des copilotes SOC et des pipelines MLOps à grande échelle, la surface d’attaque s’élargit bien au-delà des vulnérabilités logicielles classiques. Nous structurons cette surface autour de trois classes d’attaques dominantes : l’empoisonnement des données et des modèles, l’évasion lors de l’inférence, et l’extraction d’information via les interfaces conversationnelles, les outils connectés et les intégrations RAG. Le travail formalise un modèle de menace qui tient compte des chaînes d’approvisionnement des modèles, des dépendances vectorielles, des garde-fous d’alignement, des agents outillés et des contraintes de conformité imposées par les cadres de gouvernance de l’IA et les régulations sectorielles. Nous proposons une méthodologie défensive en couches combinant contrôle de provenance, filtrage sémantique, évaluation de robustesse, sandboxing d’agents, journalisation orientée forensique, détection d’empoisonnement statistique et surveillance continue des dérives. Une implémentation réaliste est présentée autour d’un socle open source intégrant Python, PyTorch, LangChain, FAISS, MLflow, OpenTelemetry, eBPF, Sigma et des contrôles de sécurité inspirés des architectures zero trust et CNAPP. L’évaluation expérimentale compare plusieurs scénarios d’attaque et de défense sur des corpus textuels et des charges d’agent outillé, en mesurant précision, taux de réussite d’attaque, rappel des filtres, surcharge opérationnelle et coût de latence. Enfin, une étude de cas illustre l’exploitation d’un assistant SOC connecté à des sources internes et externes, montrant comment une combinaison d’injections indirectes, d’artefacts empoisonnés et de permissions excessives peut conduire à la divulgation de secrets ou à des actions non autorisées. Les résultats soulignent qu’une sécurité efficace de l’IA en cybersécurité ne peut pas reposer uniquement sur des filtres de contenu, mais requiert une ingénierie de confiance complète, mesurable et auditée en continu.

2026-04-19Read paper →AI Security

Titre: Architecture intégrée de défense pour les systèmes basés sur l’intelligence artificielle : modélisation formelle des menaces, détection des attaques adversariales et surveillance opérationnelle dans des environnements de production

Titre: Architecture intégrée de défense pour les systèmes basés sur l’intelligence artificielle : modélisation formelle des menaces, détection des attaques adversariales et surveillance opérationnelle dans des environnements de production Résumé: L’adoption de systèmes basés sur l’apprentissage automatique dans les environnements d’entreprise a transformé les modèles d’intelligence artificielle en composants critiques de la prise de décision opérationnelle. Ces systèmes sont désormais utilisés pour la détection de fraude, la classification de logiciels malveillants, le tri médical assisté par l’image, les systèmes de recommandation et l’analyse comportementale sur les plateformes numériques. Toutefois, contrairement aux logiciels traditionnels, les modèles d’apprentissage sont des fonctions paramétriques entraînées à partir de données, ce qui introduit des surfaces d’attaque supplémentaires associées à la manipulation des entrées, à la contamination du processus d’entraînement et à l’exploitation des interfaces d’inférence. La littérature récente documente de multiples classes d’attaques contre les systèmes d’apprentissage automatique, notamment les exemples adversariaux, l’empoisonnement des données, l’extraction de modèle et l’inférence d’appartenance. Parallèlement, l’intégration de ces systèmes à des pipelines DevOps et à des infrastructures basées sur des conteneurs introduit des risques supplémentaires liés à la chaîne d’approvisionnement logicielle et aux modèles. Ce travail propose une architecture intégrée de défense pour les systèmes d’intelligence artificielle déployés en production, combinant la modélisation formelle des menaces, des mécanismes statistiques de détection d’anomalies, la vérification cryptographique de l’intégrité et une surveillance opérationnelle continue. Nous formalisons le concept de risque adversarial agrégé comme une fonction de probabilités conditionnelles associées à différentes classes d’attaques sous un modèle d’adversaire paramétré. Ensuite, nous introduisons un détecteur hybride fondé sur la distance de Mahalanobis et l’algorithme Isolation Forest appliqué à des représentations latentes du modèle. En complément, nous proposons un mécanisme de vérification d’intégrité combinant hachage cryptographique, signature numérique et tests comportementaux basés sur la divergence de la distribution de sortie. L’architecture est intégrée à un pipeline opérationnel basé sur Kubernetes, avec une télémétrie corrélée à des techniques décrites dans des cadres tels que MITRE ATT&CK et MITRE ATLAS. Les évaluations expérimentales dans des scénarios contrôlés indiquent une augmentation constante de la robustesse empirique face aux attaques d’évasion et une amélioration de la détection des modifications non autorisées dans les artefacts de modèle. L’analyse met également en évidence des impacts modérés sur la latence lorsque les mécanismes de défense sont correctement dimensionnés. Les résultats suggèrent que des approches combinant contrôles cryptographiques, analyse statistique et surveillance opérationnelle offrent une voie pragmatiquement viable pour renforcer la sécurité des systèmes d’intelligence artificielle déployés en production.

2008-07-15Read paper →AI Security

TITRE : Architecture opérationnelle pour la sécurité des systèmes d’intelligence artificielle : modélisation des menaces, Defense in Depth et évaluation empirique dans des environnements critiques

TITRE : Architecture opérationnelle pour la sécurité des systèmes d’intelligence artificielle : modélisation des menaces, Defense in Depth et évaluation empirique dans des environnements critiques RÉSUMÉ : La rapide intégration des systèmes d’intelligence artificielle (IA) dans les infrastructures critiques a introduit de nouvelles classes de vulnérabilités qui ne sont pas entièrement prises en compte par les modèles traditionnels de sécurité de l’information. Contrairement aux logiciels déterministes, les modèles de machine learning dépendent fortement des données d’entraînement et des distributions statistiques, créant des surfaces d’attaque associées à la manipulation des données, à l’exploitation des interfaces d’inférence et à la compromission de la chaîne d’approvisionnement des données. Ce travail propose une architecture opérationnelle pour la protection des systèmes d’IA fondée sur les principes de Defense in Depth, intégrant une modélisation formelle des menaces, des mécanismes statistiques de détection de la manipulation des données et des contrôles opérationnels intégrés aux centres des opérations de sécurité (SOC). Dans un premier temps, nous formalisons un modèle mathématique afin de caractériser des propriétés de sécurité souhaitables dans les pipelines d’apprentissage supervisé, notamment l’intégrité statistique des données et la confidentialité paramétrique du modèle. Ensuite, nous introduisons des mécanismes de détection du poisoning des données basés sur la divergence de Kullback–Leibler et l’analyse d’influence des échantillons, combinés à des stratégies adaptatives de limitation du taux de requêtes afin d’atténuer les attaques d’extraction de modèles. L’architecture proposée intègre des contrôles de sécurité tout au long du cycle de vie des modèles d’IA, y compris l’ingestion des données, l’entraînement, le packaging et le déploiement dans des environnements orchestrés. L’implémentation expérimentale utilise une pile technologique contemporaine composée de Kubernetes, PyTorch, MLflow, Suricata et d’une intégration avec un SIEM d’entreprise. Nous évaluons empiriquement l’approche dans un environnement de laboratoire représentatif d’une infrastructure critique, en utilisant des ensembles de données publics de sécurité et des scénarios adversariaux contrôlés. Les résultats indiquent une réduction significative de l’efficacité des attaques adversariales et d’extraction de modèles, avec un impact opérationnel modéré en termes de latence et de consommation de ressources de calcul. Une étude de cas dans un scénario de détection antifraude démontre la viabilité de l’architecture dans des contextes opérationnels réels. Nous discutons également des implications pour la gouvernance de l’IA et de l’alignement avec des cadres normatifs émergents, tels que le NIST AI Risk Management Framework. Les résultats suggèrent que des mécanismes statistiques combinés à des contrôles opérationnels traditionnels constituent une stratégie efficace pour réduire les risques associés à l’adoption croissante de l’IA dans les environnements critiques.

2008-07-08Read paper →AI Security

TITRE : Une Architecture Intégrée de Sécurité pour les Systèmes d’Intelligence Artificielle : Modélisation Formelle des Menaces, Détection des Attaques Adversariales et Durcissement Opérationnel dans les Environnements d’Entreprise

TITRE : Une Architecture Intégrée de Sécurité pour les Systèmes d’Intelligence Artificielle : Modélisation Formelle des Menaces, Détection des Attaques Adversariales et Durcissement Opérationnel dans les Environnements d’Entreprise RÉSUMÉ : L’incorporation rapide des systèmes d’Intelligence Artificielle (IA) dans les infrastructures critiques d’entreprise a introduit une nouvelle classe de risques de sécurité qui transcende les modèles traditionnels de défense cybernétique. Les modèles d’apprentissage profond, les services d’inférence exposés via API et, plus récemment, les Large Language Models (LLMs) ont commencé à intégrer des pipelines opérationnels responsables de décisions sensibles, notamment la détection de fraude, la classification automatisée et la réponse aux incidents. Cependant, des recherches récentes démontrent que de tels systèmes présentent des vulnérabilités structurelles, notamment les attaques adversariales, l’extraction de modèle, l’inférence d’appartenance et l’empoisonnement des données. De plus, l’écosystème opérationnel qui soutient les applications d’IA demeure exposé aux menaces traditionnelles d’infrastructure, élargissant ainsi la surface d’attaque. Dans ce travail, nous proposons une architecture intégrée de sécurité pour les systèmes d’IA qui combine la modélisation formelle des menaces, des mécanismes de détection des attaques adversariales et des pratiques de hardening opérationnel adaptées aux environnements d’entreprise. Premièrement, nous développons un modèle de menace unifié qui intègre les taxonomies MITRE ATT&CK et MITRE ATLAS, permettant de cartographier les vecteurs d’attaque spécifiques à l’apprentissage automatique au sein de cadres consolidés de défense cybernétique. Ensuite, nous formalisons le problème de robustesse adversariale sous une perspective d’optimisation min–max et introduisons un mécanisme de détection basé sur l’entropie de sortie et l’estimation de la dimension intrinsèque locale afin d’identifier les entrées potentiellement adversariales en temps d’inférence. L’architecture proposée intègre également la surveillance du drift statistique, la validation de l’intégrité du pipeline de données et l’intégration avec des plateformes SIEM pour la réponse opérationnelle. L’implémentation a été réalisée à l’aide de PyTorch, Suricata, Elastic Stack et d’une infrastructure Kubernetes, reflétant des pratiques largement adoptées dans les environnements d’entreprise jusqu’en 2023. L’évaluation expérimentale a été menée dans des scénarios de vision par ordinateur et de détection d’intrusion à l’aide des jeux de données CIFAR‑10 et UNSW‑NB15. Les résultats indiquent une amélioration substantielle de la robustesse face aux attaques FGSM et PGD, ainsi qu’une réduction significative du temps moyen de réponse opérationnelle dans les centres d’opérations de sécurité (SOC). Ces résultats suggèrent que les approches isolées de robustesse adversariale sont insuffisantes et que la sécurité de l’IA doit être traitée comme un problème systémique intégrant des méthodes mathématiques, l’ingénierie logicielle sécurisée et la surveillance continue de l’infrastructure.

2008-07-01Read paper →AI Security

TITRE : Architecture Formelle pour la Sécurité des Systèmes d’Intelligence Artificielle : Modélisation des Menaces, Vérification Adversariale et Mitigation Robuste avec Garanties Quantifiables

TITRE : Architecture Formelle pour la Sécurité des Systèmes d’Intelligence Artificielle : Modélisation des Menaces, Vérification Adversariale et Mitigation Robuste avec Garanties Quantifiables RÉSUMÉ : L’intégration croissante des systèmes d’Intelligence Artificielle (IA) dans les infrastructures critiques, les services financiers, les plateformes numériques et les environnements industriels a introduit une nouvelle surface d’attaque dont la complexité dépasse les paradigmes traditionnels de la sécurité informatique. Les modèles d’apprentissage profond sont vulnérables aux attaques adversariales, à l’empoisonnement des données, à l’extraction de modèles et à l’inférence d’attributs sensibles, compromettant la confidentialité, l’intégrité et la disponibilité. Dans ce travail, nous proposons une architecture formelle intégrée pour la sécurité de l’IA qui combine la modélisation mathématique des menaces, la vérification adversariale automatisée et des mécanismes de mitigation robuste avec des garanties quantifiables. Notre méthodologie unifie trois composantes : (i) un modèle formel d’adversaire paramétré par budget computationnel et capacité d’accès, (ii) un mécanisme de détection d’anomalies fondé sur une divergence statistique adaptative, et (iii) un module de robustesse certifiée utilisant une optimisation convexe relaxée. Nous avons implémenté un prototype dans des environnements PyTorch et TensorFlow, en l’évaluant sur les ensembles CIFAR-10, ImageNet-subset et UNSW-NB15. Sous des attaques PGD avec $\epsilon = 8/255$, notre méthode a porté l’exactitude robuste de 32,4 % (baseline) à 61,7 %, avec un écart-type de 1,8 %. Dans des scénarios d’empoisonnement avec 10 % de données corrompues, nous avons réduit l’impact sur l’erreur de généralisation de 47 %. Nous avons également démontré une réduction de 63 % du taux de succès des attaques d’extraction de modèle. L’analyse de complexité indique une surcharge moyenne de 18 % du temps d’inférence, tout en maintenant la viabilité opérationnelle. Nos résultats montrent que l’intégration systématique de la vérification formelle et de la mitigation fondée statistiquement constitue une avancée substantielle dans l’ingénierie de la sécurité de l’IA, en fournissant des garanties mesurables alignées sur les directives du NIST AI Risk Management Framework.

2007-08-09Read paper →AI Security

TITRE: Architecture formelle pour la sécurité des systèmes d’intelligence artificielle : un modèle unifié de défense contre les attaques adversariales, l’empoisonnement et l’extraction de modèles

TITRE: Architecture formelle pour la sécurité des systèmes d’intelligence artificielle : un modèle unifié de défense contre les attaques adversariales, l’empoisonnement et l’extraction de modèles RÉSUMÉ: L’intégration croissante des systèmes d’Intelligence Artificielle (IA) dans les infrastructures critiques, les services financiers, les plateformes de santé et les environnements industriels a considérablement élargi la surface d’attaque cybernétique. Les modèles d’apprentissage automatique (ML) et d’apprentissage profond (DL) introduisent des vulnérabilités spécifiques, notamment les attaques adversariales, l’empoisonnement des données et l’extraction de modèles, qui ne sont pas correctement atténuées par les mécanismes traditionnels de sécurité de l’information. Dans ce travail, nous proposons une architecture formelle unifiée pour la sécurité de l’IA, intégrant des mécanismes de robustesse statistique, de détection d’anomalies en temps d’exécution et des garanties cryptographiques. Notre méthodologie combine (i) une régularisation adversariale adaptative, (ii) une détection probabiliste fondée sur la divergence des distributions et (iii) des mécanismes de preuve d’intégrité utilisant des fonctions de hachage authentifiées et la vérification à distance. Nous formalisons le problème sous un modèle de menace paramétrique et démontrons que notre approche réduit le taux de réussite des attaques adversariales de 78,4 % à 12,7 % dans des scénarios en boîte blanche et de 64,2 % à 18,9 % dans des scénarios en boîte noire. Dans le cas d’attaques par empoisonnement avec un taux de contamination de 10 %, nous observons une réduction de l’impact sur la précision de 22,5 % à 4,3 %. La surcharge computationnelle moyenne a été de 11,6 % en inférence et de 18,2 % en entraînement. Nous avons évalué le système sur trois ensembles de données largement utilisés (CIFAR-10, ImageNet-Subset et UNSW-NB15) et l’avons comparé à des défenses de référence, notamment l’adversarial training classique et des mécanismes basés sur une détection statistique isolée. Les résultats démontrent une supériorité statistiquement significative (p < 0,01) en matière de robustesse et de stabilité. Nous concluons que la sécurité de l’IA doit être traitée comme une discipline formelle dotée de propriétés vérifiables, et non comme une extension ad hoc de la sécurité traditionnelle.

2007-08-02Read paper →AI Security

TITRE : Architecture formellement vérifiable pour la sécurité des modèles d’apprentissage automatique face aux attaques adaptatives : un cadre intégré de robustesse, de surveillance et de garanties cryptographiques

TITRE : Architecture formellement vérifiable pour la sécurité des modèles d’apprentissage automatique face aux attaques adaptatives : un cadre intégré de robustesse, de surveillance et de garanties cryptographiques RÉSUMÉ : L’intégration croissante de modèles d’apprentissage automatique (ML) dans les infrastructures critiques a introduit une nouvelle surface d’attaque dans l’écosystème de la cybersécurité. Les attaques adversariales, l’empoisonnement de données, l’extraction de modèles et l’inférence d’attributs ont démontré la fragilité des systèmes fondés sur l’intelligence artificielle, avec des impacts documentés dans les secteurs financier, de la santé et de la défense. Dans ce travail, nous proposons une architecture intégrée et formellement fondée pour la sécurité des modèles de ML face à des adversaires adaptatifs, combinant une robustesse adversariale certifiée, la détection en temps réel des écarts comportementaux et des garanties cryptographiques d’intégrité et de confidentialité. Notre méthodologie articule trois composants principaux : (i) un entraînement robuste avec régularisation de Lipschitz et certification probabiliste ; (ii) une surveillance en ligne fondée sur la modélisation statistique des distributions latentes et la détection d’anomalies via des tests séquentiels ; et (iii) un encapsulage cryptographique avec attestation à distance et calcul confidentiel. Nous formalisons le modèle de menace avec des capacités alignées sur MITRE ATT&CK (T1565, T1190, T1027) et définissons des propriétés de sécurité mesurables. Nous évaluons l’architecture sur trois jeux de données (CIFAR-10, UNSW-NB15 et MIMIC-III) ainsi que sur deux scénarios réels de détection d’intrusion. Par rapport à des références de robustesse adversariale (PGD-training) et à une détection isolée, notre cadre a réduit le taux de succès des attaques adversariales de 78,4 % à 21,7 %, détecté 93,2 % des attaques d’empoisonnement avec un taux de faux positifs de 3,8 %, et maintenu un overhead informatique moyen de 11,6 %. Nous démontrons que l’intégration systématique de mécanismes formels et opérationnels apporte des gains substantiels en résilience systémique, établissant des lignes directrices concrètes pour le développement sécurisé de systèmes d’IA dans des environnements à haut risque.

2007-07-26Read paper →AI Security