Research / Paper Files

Paper Files

Paper Files sind eine persönliche Praxis des kontinuierlichen Studiums in der Cybersecurity, die die wissenschaftliche Methode als Lernwerkzeug anwendet. Jeder Artikel wird nicht für eine akademische Veröffentlichung geschrieben, sondern als bewusste Übung, um die Axt zu schärfen — Wissen zu bestimmten Themen zu vertiefen, Ideen mit Strenge zu strukturieren und zu beobachten, wie sich das Verständnis bestimmter Themen im Laufe der Zeit entwickelt. Es ist das intellektuelle Äquivalent eines Trainingsjournals: Jeder Eintrag hält fest, was studiert wurde, wie es analysiert wurde und welche Schlussfolgerungen entstanden sind.

Ich empfehle Security-Profis dringend, diese Methode anzuwenden. Wählen Sie ein Thema, das Sie meistern möchten, recherchieren Sie Primärquellen (RFCs, Papers, offizielle Dokumentation), strukturieren Sie Ihren Text mit Einleitung, Methodik, Analyse und Schlussfolgerung und schreiben Sie so, als würden Sie es einem Kollegen erklären. Der Akt des Schreibens erzwingt Klarheit des Denkens und legt Lücken im Verständnis offen, die passives Lesen nicht aufdecken kann. Nutzen Sie die Artikel auf dieser Website als Beispiele für Format und Tiefe und bauen Sie Ihre eigene Sammlung auf — mit der Zeit werden Sie ein persönliches Repository verfeinerten Wissens haben, das kein Kurs und keine Zertifizierung ersetzen kann.

DAI & ADAI · 2026

DAI · EN

DAI: A Domain-Specific LLM with Model-Excluded Authority, Capability-Disjoint Verification, and Recomputable Receipts

DAI (Decripte Artificial Intelligence) is a proprietary domain-specific LLM within a governed autonomous defensive architecture. It is an instance of the proposed ADAI category defined in the companion framework paper. T…

Read paper →ADAI · EN

Autonomous Defensive AI: An Envelope-and-Evidence Framework for Governed LLMs Acting on Production Infrastructure

ADAI (Autonomous Defensive Artificial Intelligence) is a proposed category of governed autonomous cyber defense. The framework specifies defended perimeters, bounded effects, declared rollback and capability-disjoint ver…

Read paper →

Alle Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

13 papers

AI Security

Angriff und Verteidigung von KI-Systemen in der Cybersecurity: Ein praxisorientiertes Rahmenwerk für Modell-, Daten- und Agentensicherheit im Jahr 2026

Die Verbreitung von KI-Systemen in sicherheitskritischen Umgebungen hat bis 2026 eine neue Angriffsfläche geschaffen, die weit über klassische IT- und Cloud-Risiken hinausgeht. Moderne Sicherheitsarchitekturen setzen LLMs, multimodale Modelle, RAG-Pipelines, autonome Agenten und KI-gestützte Entscheidungsunterstützung in SOC, SecOps, DevSecOps und GRC ein. Dadurch entstehen Bedrohungen auf mehreren Ebenen: Datenvergiftung im Training und in der Retrieval-Schicht, Prompt-Injection gegen Assistenz- und Agentensysteme, Modell-Exfiltration durch Query-Angriffe, adversariale Beispiele gegen visuelle und textuelle Modelle, Tool-Missbrauch in agentischen Workflows sowie Governance- und Compliance-Lücken durch unkontrollierte Modellnutzung. Diese Arbeit untersucht „AI Security“ als eigenständige Disziplin innerhalb der Cybersecurity und formalisiert den Schutz von KI-Systemen entlang der Dimensionen Vertraulichkeit, Integrität, Verfügbarkeit und Missbrauchsprävention. Auf Basis des Bedrohungsmodells werden technische Schutzmaßnahmen für Daten, Modelle, Inferenzpfade, Orchestrierung und Betriebsprozesse vorgeschlagen, einschließlich Isolationsmechanismen, Kontext-Härtung, output-gating, policy enforcement, supply-chain-Prüfungen, Telemetrie auf eBPF-Basis und red-team-getriebene Evaluationsverfahren. Die Methodik kombiniert statische und dynamische Kontrollen mit messbaren Robustheitsmetriken, etwa Attack Success Rate, Retrieval Poisoning Impact, Model Extraction Efficiency und Safety Regression Rate. Ergänzend wird eine Referenzimplementierung für eine sichere LLM-basierte SOC-Assistentenarchitektur vorgestellt, die Zero-Trust-Prinzipien, fein granularen Werkzeugzugriff und auditierbare Entscheidungspfade integriert. Die experimentelle Bewertung zeigt, dass eine mehrschichtige Verteidigung insbesondere gegen Prompt-Injection, Datenexfiltration und unautorisierte Tool-Aufrufe deutlich wirksamer ist als isolierte Einzellösungen. Eine Fallstudie aus dem Bereich Security Operations illustriert, wie KI-Sicherheitskontrollen in produktiven Umgebungen operationalisiert werden können, ohne die Nutzbarkeit der Systeme zu verlieren. Abschließend werden offene Forschungsfragen diskutiert, darunter robuste Agenten-Governance, standardisierte Benchmarks für RAG-Sicherheit und die Absicherung von KI-Systemen in post-quantenfähigen, regulatorisch getriebenen Unternehmensarchitekturen.

2026-05-03Read paper →AI Security

Security von KI-Systemen in der Cyberabwehr 2026: Bedrohungsmodell, Schutzarchitekturen und empirische Bewertung von LLM-, RAG- und MLOps-Härtung

Die Sicherheitslage rund um künstliche Intelligenz hat sich bis 2026 von einem Nischenthema zu einer Kernfrage moderner Cyberabwehr entwickelt. Unternehmen integrieren große Sprachmodelle, Retrieval-Augmented Generation, agentische Orchestrierung und klassische Machine-Learning-Pipelines zunehmend in SOC-, IR- und Governance-Prozesse. Dadurch entstehen neue Angriffsflächen, die sich nicht mit traditionellen Applikations- oder Cloud-Sicherheitsmaßnahmen allein beherrschen lassen. Diese Arbeit analysiert AI Security als eigenständigen Bereich der Cybersecurity und verbindet Bedrohungsmodellierung, formale Problemdefinition, Schutzarchitekturen und experimentelle Evaluation. Im Fokus stehen Prompt-Injection, indirekte Prompt-Injection, Datenvergiftung, Modell-Extraktion, Membership Inference, Supply-Chain-Angriffe auf Modelle und Abhängigkeiten, Missbrauch von Tool-Calling, Agentenentgleisung sowie Leckagen durch RAG-Quellen und Telemetrie. Darüber hinaus werden organisatorische Risiken aus AI-Governance, Zugriffssteuerung, Logging, Evaluationsdisziplin und Incident Response betrachtet. Methodisch wird ein mehrschichtiges Verteidigungsmodell vorgestellt, das sich auf Trust Boundaries, Policy Enforcement, Content- and Context-Filtering, isolierte Ausführungsumgebungen, eBPF-gestützte Beobachtbarkeit, signierte Artefakte, Secret Hygiene und kontinuierliche Red-Teaming-Evaluation stützt. Die Arbeit formalisiert die Schutzwirkung als Funktion aus Angriffsfläche, Entdeckbarkeit und Blast Radius und leitet daraus praktische Sicherheitskontrollen für LLM-Integrationen ab. In einer experimentellen Bewertung werden realistische Angriffsszenarien gegen ein RAG-gestütztes Ticketing- und Wissenssystem untersucht. Die Ergebnisse zeigen, dass eine Kombination aus Input- und Output-Filtering, Retrieval-Segmentierung, least-privilege Tool-Access, Policy-as-Code und telemetry-based detection die Erfolgsrate mehrerer Angriffsvektoren deutlich senkt, ohne die Nutzbarkeit signifikant zu beeinträchtigen. Eine Fallstudie aus dem Umfeld eines SOC-Assistenten illustriert, wie promptbasierte Angriffe, Datenexfiltration und unkontrollierte Aktionen agentischer Systeme in der Praxis zusammenwirken können. Abschließend werden Grenzen, Governance-Aspekte und Forschungsbedarfe im Kontext von Zero Trust, CNAPP, Post-Quantum-Krypto und AI-Regulierung für 2026 diskutiert.

2026-04-21Read paper →AI Security

TITEL: Integrierte Verteidigungsarchitektur für auf künstlicher Intelligenz basierende Systeme: Formale Modellierung von Bedrohungen, Erkennung adversarialer Angriffe und operatives Monitoring in Produktionsumgebungen

TITEL: Integrierte Verteidigungsarchitektur für auf künstlicher Intelligenz basierende Systeme: Formale Modellierung von Bedrohungen, Erkennung adversarialer Angriffe und operatives Monitoring in Produktionsumgebungen ABSTRACT: Die Einführung von auf maschinellem Lernen basierenden Systemen in Unternehmensumgebungen hat Modelle der künstlichen Intelligenz zu kritischen Komponenten der operativen Entscheidungsfindung gemacht. Diese Systeme werden inzwischen in der Betrugserkennung, Malware-Klassifikation, bildgestützten medizinischen Triage, Empfehlungssystemen und Verhaltensanalyse auf digitalen Plattformen eingesetzt. Im Gegensatz zu herkömmlicher Software sind Lernmodelle parametrische Funktionen, die aus Daten trainiert werden; dadurch entstehen zusätzliche Angriffsflächen im Zusammenhang mit der Manipulation von Eingaben, der Kontaminierung des Trainingsprozesses und der Ausnutzung von Inferenzschnittstellen. Die jüngere Literatur dokumentiert mehrere Angriffsklassen gegen Systeme des maschinellen Lernens, darunter adversariale Beispiele, Datenvergiftung, Modellauslesung und Mitgliederinferenz. Parallel dazu führt die Integration dieser Systeme in DevOps-Pipelines und containerbasierte Infrastrukturen zu zusätzlichen Risiken im Zusammenhang mit der Software- und Modelllieferkette. Diese Arbeit schlägt eine integrierte Verteidigungsarchitektur für in Produktion eingesetzte Systeme der künstlichen Intelligenz vor, die formale Bedrohungsmodellierung, statistische Mechanismen zur Anomalieerkennung, kryptografische Integritätsprüfung und kontinuierliches operatives Monitoring kombiniert. Wir formalisieren das Konzept des aggregierten adversarialen Risikos als Funktion bedingter Wahrscheinlichkeiten, die mit verschiedenen Angriffsklassen unter einem parametrisierten Angreifermodell verknüpft sind. Anschließend führen wir einen hybriden Detektor ein, der auf der Mahalanobis-Distanz und dem Isolation-Forest-Algorithmus basiert und auf latente Repräsentationen des Modells angewendet wird. Ergänzend schlagen wir einen Integritätsprüfmechanismus vor, der kryptografisches Hashing, digitale Signaturen und verhaltensbasierte Tests auf Grundlage von Ausgabedivergenzen kombiniert. Die Architektur ist in eine auf Kubernetes basierende operative Pipeline integriert, mit Telemetrie, die mit in Frameworks wie MITRE ATT&CK und MITRE ATLAS beschriebenen Techniken korreliert wird. Experimentelle Bewertungen in kontrollierten Szenarien deuten auf eine konsistente Zunahme der empirischen Robustheit gegenüber Evasion-Angriffen sowie auf eine verbesserte Erkennung unautorisierter Änderungen an Modellartefakten hin. Die Analyse zeigt außerdem moderate Latenzauswirkungen, wenn die Verteidigungsmechanismen angemessen dimensioniert werden. Die Ergebnisse legen nahe, dass Ansätze, die kryptografische Kontrollen, statistische Analyse und operatives Monitoring kombinieren, einen pragmatisch praktikablen Weg bieten, die Sicherheit in Produktionsumgebungen eingesetzter Systeme der künstlichen Intelligenz zu erhöhen.

2008-07-15Read paper →AI Security

TITEL: Betriebsarchitektur für die Sicherheit von Systemen der Künstlichen Intelligenz: Bedrohungsmodellierung, Defense in Depth und empirische Bewertung in kritischen Umgebungen

TITEL: Betriebsarchitektur für die Sicherheit von Systemen der Künstlichen Intelligenz: Bedrohungsmodellierung, Defense in Depth und empirische Bewertung in kritischen Umgebungen ABSTRACT: Die rasche Integration von Systemen der Künstlichen Intelligenz (KI) in kritische Infrastrukturen hat neue Klassen von Schwachstellen eingeführt, die von traditionellen Modellen der Informationssicherheit nicht vollständig erfasst werden. Anders als deterministische Software hängen Machine-Learning-Modelle stark von Trainingsdaten und statistischen Verteilungen ab, wodurch Angriffsflächen entstehen, die mit Datenmanipulation, der Ausnutzung von Inferenzschnittstellen und der Kompromittierung der Datenlieferkette verbunden sind. Diese Arbeit schlägt eine Betriebsarchitektur zum Schutz von KI-Systemen vor, die auf den Prinzipien von Defense in Depth basiert und formale Bedrohungsmodellierung, statistische Mechanismen zur Erkennung von Datenmanipulation sowie operative Kontrollen integriert, die in Security Operations Centers (SOC) eingebunden sind. Zunächst formalisieren wir ein mathematisches Modell zur Charakterisierung gewünschter Sicherheitseigenschaften in überwachten Lernpipelines, einschließlich statistischer Datenintegrität und parametrisierter Modellvertraulichkeit. Anschließend führen wir Mechanismen zur Erkennung von Datenvergiftung ein, die auf der Kullback-Leibler-Divergenz und der Einflussanalyse von Stichproben basieren, kombiniert mit Strategien zur adaptiven Begrenzung von Abfragen, um Modellextraktionsangriffe zu mitigieren. Die vorgeschlagene Architektur integriert Sicherheitskontrollen in den gesamten Lebenszyklus von KI-Modellen, einschließlich Datenaufnahme, Training, Verpackung und Bereitstellung in orchestrierten Umgebungen. Die experimentelle Implementierung nutzt einen zeitgemäßen Technologie-Stack aus Kubernetes, PyTorch, MLflow, Suricata und einer Integration mit einem unternehmensweiten SIEM. Wir bewerten den Ansatz empirisch in einer Laborumgebung, die kritische Infrastruktur repräsentiert, unter Verwendung öffentlicher Sicherheitsdatensätze und kontrollierter adversarialer Szenarien. Die Ergebnisse zeigen eine signifikante Reduktion der Wirksamkeit adversarialer Angriffe und von Modellextraktion, bei moderaten betrieblichen Auswirkungen hinsichtlich Latenz und Verbrauch von Rechenressourcen. Eine Fallstudie in einem Szenario zur Betrugserkennung demonstriert die Durchführbarkeit der Architektur in realen operativen Kontexten. Darüber hinaus diskutieren wir Implikationen für die KI-Governance und die Ausrichtung an entstehenden normativen Rahmenwerken wie dem NIST AI Risk Management Framework. Die Ergebnisse legen nahe, dass statistische Mechanismen in Kombination mit traditionellen operativen Kontrollen eine wirksame Strategie darstellen, um Risiken zu reduzieren, die mit der zunehmenden Einführung von KI in kritischen Umgebungen verbunden sind.

2008-07-08Read paper →AI Security

TITEL: Eine integrierte Sicherheitsarchitektur für Systeme der Künstlichen Intelligenz: Formale Bedrohungsmodellierung, Erkennung adversarialer Angriffe und operatives Hardening in Unternehmensumgebungen

TITEL: Eine integrierte Sicherheitsarchitektur für Systeme der Künstlichen Intelligenz: Formale Bedrohungsmodellierung, Erkennung adversarialer Angriffe und operatives Hardening in Unternehmensumgebungen ABSTRAKT: Die rasche Integration von Systemen der Künstlichen Intelligenz (KI) in kritische Unternehmensinfrastrukturen hat eine neue Klasse von Sicherheitsrisiken eingeführt, die über traditionelle Modelle der Cybersicherheit hinausgeht. Deep-Learning-Modelle, über APIs exponierte Inferenzdienste und, in jüngerer Zeit, Large Language Models (LLMs) sind zunehmend in operative Pipelines eingebunden, die für sensible Entscheidungen verantwortlich sind, darunter Betrugserkennung, automatisierte Klassifikation und Incident Response. Aktuelle Forschungsergebnisse zeigen jedoch, dass solche Systeme strukturelle Schwachstellen aufweisen, einschließlich adversarialer Angriffe, Modell-Extraktion, Membership Inference und Datenvergiftung. Darüber hinaus bleibt das operative Ökosystem, das KI-Anwendungen trägt, traditionellen Infrastrukturbedrohungen ausgesetzt, wodurch die Angriffsfläche vergrößert wird. In dieser Arbeit schlagen wir eine integrierte Sicherheitsarchitektur für KI-Systeme vor, die formale Bedrohungsmodellierung, Mechanismen zur Erkennung adversarialer Angriffe und Operational-Hardening-Praktiken für Unternehmensumgebungen kombiniert. Zunächst entwickeln wir ein einheitliches Bedrohungsmodell, das die Taxonomien MITRE ATT&CK und MITRE ATLAS integriert und es ermöglicht, spezifische Angriffsvektoren des Machine Learning innerhalb etablierter Cybersicherheits-Frameworks zu verorten. Anschließend formalisieren wir das Problem der adversarialen Robustheit aus einer min–max-Optimierungsperspektive und führen einen Erkennungsmechanismus ein, der auf Output-Entropie und der Schätzung der lokalen intrinsischen Dimensionalität basiert, um potenziell adversariale Eingaben zur Inferenzzeit zu identifizieren. Die vorgeschlagene Architektur umfasst außerdem die Überwachung statistischen Drift, die Validierung der Integrität von Datenpipelines und die Integration mit SIEM-Plattformen für die operative Reaktion. Die Implementierung erfolgte unter Verwendung von PyTorch, Suricata, Elastic Stack und Kubernetes-Infrastruktur und spiegelt weit verbreitete Praktiken in Unternehmensumgebungen bis 2023 wider. Die experimentelle Evaluation wurde in Szenarien der Computer Vision und der Intrusion Detection unter Verwendung der Datensätze CIFAR‑10 und UNSW‑NB15 durchgeführt. Die Ergebnisse weisen eine deutliche Verbesserung der Robustheit gegenüber FGSM- und PGD-Angriffen sowie eine signifikante Reduktion der mittleren operativen Reaktionszeit in Security Operation Centers (SOC) auf. Die Resultate legen nahe, dass isolierte Ansätze zur adversarialen Robustheit unzureichend sind und dass KI-Sicherheit als ein systemisches Problem behandelt werden muss, das mathematische Methoden, sichere Softwareentwicklung und kontinuierliches Infrastrukturmonitoring integriert.

2008-07-01Read paper →AI Security

Titel: Formale Architektur für die Sicherheit von Systemen der Künstlichen Intelligenz: Bedrohungsmodellierung, adversariale Verifikation und robuste Mitigation mit quantifizierbaren Garantien

Titel: Formale Architektur für die Sicherheit von Systemen der Künstlichen Intelligenz: Bedrohungsmodellierung, adversariale Verifikation und robuste Mitigation mit quantifizierbaren Garantien Abstract: Die zunehmende Integration von Systemen der Künstlichen Intelligenz (KI) in kritische Infrastrukturen, Finanzdienstleistungen, digitale Plattformen und industrielle Umgebungen hat eine neue Angriffsfläche eingeführt, deren Komplexität die traditionellen Paradigmen der Computersicherheit übersteigt. Deep-Learning-Modelle sind anfällig für adversariale Angriffe, Datenvergiftung, Modellextraktion und Attributinferenz sensibler Merkmale, wodurch Vertraulichkeit, Integrität und Verfügbarkeit beeinträchtigt werden. In dieser Arbeit schlagen wir eine integrierte formale Architektur für die Sicherheit von KI vor, die mathematische Bedrohungsmodellierung, automatisierte adversariale Verifikation und robuste Mitigationsmechanismen mit quantifizierbaren Garantien kombiniert. Unsere Methodik vereint drei Komponenten: (i) ein formales, parametrisiertes Angreifermodell basierend auf rechnerischem Budget und Zugriffskapazität, (ii) einen auf adaptiver statistischer Divergenz basierenden Anomalieerkennungsmechanismus und (iii) ein Modul für zertifizierte Robustheit unter Verwendung relaxierter konvexer Optimierung. Wir implementierten einen Prototyp in PyTorch- und TensorFlow-Umgebungen und evaluierten ihn auf den Datensätzen CIFAR-10, ImageNet-subset und UNSW-NB15. Unter PGD-Angriffen mit ε = 8/255 erhöhte unsere Methode die robuste Genauigkeit von 32,4 % (Baseline) auf 61,7 %, bei einer Standardabweichung von 1,8 %. In Vergiftungszenarien mit 10 % kompromittierten Daten reduzierten wir die Auswirkung auf den Generalisierungsfehler um 47 %. Zudem zeigten wir eine Reduktion der Erfolgsrate von Modellextraktionsangriffen um 63 %. Die Komplexitätsanalyse weist einen durchschnittlichen Overhead von 18 % in der Inferenzzeit aus, bei gleichzeitiger Wahrung der operativen Einsetzbarkeit. Unsere Ergebnisse belegen, dass die systematische Integration formaler Verifikation und statistisch fundierter Mitigation einen substantiellen Fortschritt in der Engineering-Praxis der KI-Sicherheit darstellt und messbare Garantien liefert, die mit den Leitlinien des NIST AI Risk Management Framework in Einklang stehen.

2007-08-09Read paper →AI Security

TITEL: Formale Architektur für die Sicherheit von Künstliche-Intelligenz-Systemen: Ein einheitliches Abwehrmodell gegen adversarielle Angriffe, Vergiftung und Modellextraktion

TITEL: Formale Architektur für die Sicherheit von Künstliche-Intelligenz-Systemen: Ein einheitliches Abwehrmodell gegen adversarielle Angriffe, Vergiftung und Modellextraktion ABSTRACT: Die zunehmende Integration von Systemen der Künstlichen Intelligenz (KI) in kritische Infrastrukturen, Finanzdienstleistungen, Gesundheitsplattformen und industrielle Umgebungen hat die Cyberangriffsfläche erheblich vergrößert. Modelle des maschinellen Lernens (ML) und des Deep Learning (DL) führen spezifische Schwachstellen ein, darunter adversarielle Angriffe, Datenvergiftung und Modellextraktion, die durch traditionelle Mechanismen der Informationssicherheit nicht angemessen mitigiert werden. In dieser Arbeit schlagen wir eine einheitliche formale Architektur für die Sicherheit von KI vor, die Mechanismen statistischer Robustheit, Anomalieerkennung zur Laufzeit und kryptographische Garantien integriert. Unsere Methodik kombiniert (i) adaptive adversarielle Regularisierung, (ii) probabilistische Detektion auf Basis von Verteilungsdivergenzen und (iii) Integritätsnachweismechanismen unter Verwendung authentifizierter Hash-Funktionen und Remote-Verifikation. Wir formalisieren das Problem unter einem parametrischen Bedrohungsmodell und zeigen, dass unser Ansatz die Erfolgsrate adversarieller Angriffe von 78,4 % auf 12,7 % in White-Box-Szenarien und von 64,2 % auf 18,9 % in Black-Box-Szenarien reduziert. Bei Vergiftungsangriffen mit einer Kontaminationsrate von 10 % beobachten wir eine Verringerung der Auswirkung auf die Genauigkeit von 22,5 % auf 4,3 %. Der durchschnittliche Rechenaufwand betrug 11,6 % bei der Inferenz und 18,2 % beim Training. Wir bewerteten das System anhand von drei weit verbreiteten Datensätzen (CIFAR-10, ImageNet-Subset und UNSW-NB15) und verglichen es mit Referenzabwehrmechanismen, einschließlich klassischem adversarial training und isolierten statistischen Detektionsverfahren. Die Ergebnisse zeigen eine statistisch signifikante Überlegenheit (p < 0,01) hinsichtlich Robustheit und Stabilität. Wir schließen daraus, dass die Sicherheit von KI als formale Disziplin mit überprüfbaren Eigenschaften behandelt werden muss und nicht als ad-hoc-Erweiterung der traditionellen Sicherheit.

2007-08-02Read paper →AI Security

TITEL: Formal verifizierbare Architektur für die Sicherheit von Machine-Learning-Modellen unter adaptiven Angriffen: Ein integriertes Framework aus Robustheit, Überwachung und kryptografischen Garantien

TITEL: Formal verifizierbare Architektur für die Sicherheit von Machine-Learning-Modellen unter adaptiven Angriffen: Ein integriertes Framework aus Robustheit, Überwachung und kryptografischen Garantien ABSTRACT: Die zunehmende Integration von Machine-Learning-(ML)-Modellen in kritische Infrastrukturen hat eine neue Angriffsfläche im Cybersecurity-Ökosystem geschaffen. Adversarial Attacks, Datenvergiftung, Model Extraction und Attributinferenz haben die Fragilität KI-basierter Systeme demonstriert, mit dokumentierten Auswirkungen in den Finanz-, Gesundheits- und Verteidigungssektoren. In dieser Arbeit schlagen wir eine integrierte und formal fundierte Architektur für die Sicherheit von ML-Modellen gegenüber adaptiven Gegnern vor, die zertifizierte adversariale Robustheit, die Erkennung von Verhaltensabweichungen zur Laufzeit und kryptografische Garantien für Integrität und Vertraulichkeit kombiniert. Unsere Methodik artikuliert drei Hauptkomponenten: (i) robustes Training mit Lipschitz-Regularisierung und probabilistischer Zertifizierung; (ii) Online-Überwachung auf Basis der statistischen Modellierung latenter Verteilungen und Anomalieerkennung mittels sequentieller Tests; und (iii) kryptografische Kapselung mit Remote Attestation und Confidential Computing. Wir formalisieren das Bedrohungsmodell mit Fähigkeiten, die an MITRE ATT&CK (T1565, T1190, T1027) ausgerichtet sind, und definieren messbare Sicherheitsproperties. Wir evaluieren die Architektur anhand von drei Datensätzen (CIFAR-10, UNSW-NB15 und MIMIC-III) sowie zwei realen Intrusion-Detection-Szenarien. Im Vergleich zu Baselines für adversariale Robustheit (PGD-Training) und isolierte Detektion reduzierte unser Framework die Erfolgsrate adversarialer Angriffe von 78,4 % auf 21,7 %, erkannte 93,2 % der Vergiftungsangriffe bei einer False-Positive-Rate von 3,8 % und hielt einen mittleren Rechen-Overhead von 11,6 % aufrecht. Wir zeigen, dass die systematische Integration formaler und operativer Mechanismen substanzielle Gewinne an systemischer Resilienz bietet und konkrete Leitlinien für die sichere Entwicklung von KI-Systemen in Hochrisikoumgebungen etabliert.

2007-07-26Read paper →AI Security