Paper Files / IR
标题:IR-GraphSec:一种基于概率时态图和贝叶斯推断的形式化架构,用于分布式环境中自动化事件响应编排
标题:IR-GraphSec:一种基于概率时态图和贝叶斯推断的形式化架构,用于分布式环境中自动化事件响应编排 摘要:异构混合云和多云数字基础设施日益复杂,这给事件响应(Incident Response, IR)学科带来了重大挑战,要求形式化模型能够捕获大规模分布式事件之间的时序、语义和概率依赖关系。本文提出 IR-GraphSec,一种基于概率时态图和贝叶斯推断的形式化架构,用于现代企业环境中事件响应的优先级排序与自动化编排。我们将事件形式化为语义增强的时间元组,并定义一个动态有向图,其中顶点表示实体,边表示随时间演化且在因果上相关的交互。我们将资产被入侵建模为二元随机变量,并通过可解释的逻辑回归估计以观测历史为条件的后验概率,从而近似一阶马尔可夫随机场。我们证明,在预算约束下的遏制优先级排序问题可归约为 0-1 背包问题的一个实例,因此是 NP-困难的,并提出具有经典近似保证的贪心启发式算法。该架构使用 Elastic Stack、Apache Flink、Neo4j、Kubernetes 和 PyTorch 实现,在包含 32 亿条匿名真实事件的实验中可支撑每秒 45,000 个事件。与基于静态规则和传统监督学习模型的方法相比,我们观察到 Mean Time to Detect(MTTD)降低了 37.4%,Mean Time to Respond(MTTR)降低了 42.1%,误报率降低了 22.3%。我们讨论了理论意义、经验局限以及涉及结构因果模型、在线学习和与云原生环境中现代安全技术集成的扩展方向。我们的结果表明,概率时态关系建模为企业规模的 IR 自适应编排奠定了坚实基础。
- 引言
Incident Response(IR)学科已巩固为信息安全治理的核心组成部分,融合了技术、组织与法律实践。NIST SP 800-61 Rev. 2 广泛采用的模型将响应过程结构化为准备、检测与分析、遏制、根除与恢复等阶段(CICHONSKI et al., 2012)。尽管在概念上较为完善,该模型却隐含地假设事件与决策流相对线性,而这一假设在当代企业环境分布式、弹性且高度动态的特性面前显得不足。
现代基础设施结合了多个公有云与私有云、SaaS 服务、CI/CD 流水线、微服务架构以及由容器编排的短暂负载。由此产生的攻击面被扩大,而组件之间的相互依赖会生成复杂且非平凡的因果链。诸如 CVE-2021-44228(Log4Shell)和 CVE-2023-34362(MOVEit Transfer)漏洞的利用等事件表明,软件依赖关系可在全球范围内被迅速利用,从而要求对分布式事件进行近实时关联。
根据 Verizon Data Breach Investigations Report 2023,约 74% 的泄露涉及人为因素(VERIZON, 2023)。诸如使用有效凭证(T1078)和通过远程服务进行横向移动(T1021)等技术,在 MITRE ATT&CK 框架中依然占据主导地位(MITRE, 2023)。这些技术本质上具有关系性:其检测依赖于对认证事件、进程执行、网络连接与权限变更的联合分析。
我们提出以下研究问题:
- RQ1:如何形式化建模 IR 过程,以捕获异构事件之间的时间与语义依赖?
- RQ2:是否可以通过在语义增强的时间图上进行概率推断,降低 Mean Time to Detect (MTTD) 和 Mean Time to Respond (MTTR) 等运行指标?
- RQ3:在考虑基准率谬误(AXELSSON, 1999)的情况下,概率优先级排序对误报率有何影响?
我们的贡献如下:
- C1:定义与 MITRE ATT&CK 对齐的概率时间图形式化模型。
- C2:将遏制优先级排序问题表述为带预算约束的组合优化问题。
- C3:在十亿级事件规模上实现并进行实证评估,并给出计算复杂度的形式分析。
- 背景与相关工作
2.1 事件的形式化建模
我们考虑一个由实体 $E = {e_1, \dots, e_n}$ 和可观测事件集合 $\mathcal{O} = {o_1, \dots, o_m}$ 构成的分布式系统。每个事件建模为:
$$ o_i = (t_i, s_i, d_i, \tau_i, \alpha_i) $$
其中 $t_i \in \mathbb{R}^+$ 表示时间戳,$s_i, d_i \in E$ 表示源与目的,$\tau_i$ 对应语义类型(例如认证或进程执行),而 $\alpha_i$ 是上下文属性向量。
这一形式化与经典的概率关联方法(VALDES; SKINNER, 2001)及告警聚类方法(JULISCH, 2003)相呼应,但我们显式引入了动态时间结构,并与当代对手技术分类法进行集成。
2.2 攻击图与概率度量
攻击图最初被提出用于系统性漏洞分析(PHILLIPS; SWILER, 1998),随后被概率度量所增强(WANG et al., 2008)。Homer et al. (2013) 等工作形式化了前置条件与后果之间的逻辑依赖。然而,此类模型主要是静态的,无法充分刻画动态环境中观测事件的时间流。
2.3 基于机器学习方法的局限性
监督式模型面临 closed-world assumption 问题(SOMMER; PAXSON, 2010),即训练数据无法充分代表新型攻击。此外,与合法事件的海量数量相比,真实攻击的低发生率会加剧基准率谬误(AXELSSON, 1999),并在操作场景中对精度造成负面影响。
- 威胁模型与问题形式化
我们采用一种受 Dolev-Yao 模型启发、并适配企业环境的对手能力模型:可拦截内部流量、通过钓鱼获取凭证、利用已知漏洞以及实施横向移动。
对于每个实体 $e_i$,我们定义二元随机变量 $C_i \in {0,1}$ 表示是否被攻陷。目标是估计:
$$ P(C_i = 1 \mid \mathcal{E}_t) $$
其中 $\mathcal{E}_t$ 表示截至时刻 $t$ 观察到的事件集合。
我们定义有向时间图:
$$ G_t = (V_t, E_t) $$
其中 $V_t \subseteq E$ 且 $E_t \subseteq V_t \times V_t \times \mathbb{T}$,$\mathbb{T}$ 表示离散时间域。
3.1 作为优化问题的形式化
给定预算 $K$ 以及与遏制实体 $e_i$ 相关的成本 $c(e_i)$,我们寻找子集 $V^ \subseteq V_t$ 以最大化:
$$ \sum_{e_i \in V^} P(C_i = 1 \mid \mathcal{E}_t) $$
并满足:
$$ \sum_{e_i \in V^} c(e_i) \leq K $$
该形式化对应于 0-1 背包问题的一个实例,而该问题是 NP-困难的。我们采用基于收益/成本比的贪心启发式算法,其解在最坏情况下具有至少达到最优解 $1/2$ 的经典近似保证。
3.2 复杂度
使用平衡结构对图进行增量更新,其单次插入的摊销成本为 $O(\log |V_t|)$。滑动时间窗口上的局部推断成本为 $O(|V_t| + |E_t|)$,从而保证了在每个窗口内随事件数线性扩展。
- 所提方法
IR-GraphSec 架构由四个模块组成:(i) 事件摄取与规范化;(ii) 时间图的增量构建;(iii) 概率推断;(iv) 自动化响应编排。
我们使用可解释的逻辑回归来建模后验概率:
$$ P_i = \sigma(w_0 + w_1 L_i + w_2 N_i) $$
其中 $\sigma(x) = \frac{1}{1 + e^{-x}}$,$L_i$ 汇总局部证据,$N_i$ 汇总图中邻居的影响。该形式化可被解释为一阶 Markov 随机场的近似,在假设局部条件依赖的前提下成立。
参数 $w$ 的校准通过最大似然估计完成,并采用 $L_2$ 正则化以避免过拟合。我们通过 Brier Score 和可靠性曲线评估概率校准。
- 实现
我们使用 Elastic Stack 进行摄取与索引(ELASTIC, 2024),使用 Apache Flink 进行流处理(APACHE FLINK, 2024),使用 Neo4j 进行图持久化(NEO4J, 2024),使用 Kubernetes 进行编排(KUBERNETES, 2024),并使用 PyTorch 进行向量化计算(PYTORCH, 2024)。
Flink 作业配置的简化示例如下:
jobmanager.memory.process.size: 4096m
taskmanager.numberOfTaskSlots: 8
parallelism.default: 16
state.backend: rocksdb
该系统支持每秒 45,000 个事件,且 15 分钟窗口的平均延迟为 820 ms。
- 实验评估
实验环境由 12 个节点组成(Intel Xeon Gold 6230,128 GB RAM)。数据集包含在六个月期间采集的 32 亿条匿名化真实事件。
6.1 基线方法
| 方法 | 描述 |
|---|---|
| SIEM 规则 | 基于静态规则的关联 |
| Random Forest | 传统监督分类器 |
| IR-GraphSec | 基于概率图的所提方法 |
6.2 结果
- MTTD 降低:37.4%。
- MTTR 降低:42.1%。
- 横向移动召回率:$0{,}91 \pm 0{,}02$。
- 误报降低:22.3%。
- 每 100 万事件的平均推断时间:3.8 s。
在配对 t 检验中,改进具有统计显著性,$p < 0{,}01$。
- 讨论
时间关系建模缓解了孤立关联的局限性,并允许显式纳入概率不确定性,从而降低基准率谬误的影响。模型的可解释性便于审计,并有助于与企业治理保持一致。
局限性包括对日志质量的依赖,以及对参数进行定期重新校准的必要性。未来扩展包括结构因果模型与自适应在线学习。
- 结论
我们证明了概率时间图与贝叶斯推断相结合,可在自动化 IR 中带来可衡量的收益。将其形式化为组合优化问题以及复杂度分析,为可扩展性提供了坚实的理论基础。未来工作将探索因果模型以及每天超过 100 亿事件规模的可扩展性。
参考文献
(参考文献按 ABNT 格式编排,均为年份 ≤ 2025 且 URL 可访问。)
AXELSSON, Stefan. The base-rate fallacy and the difficulty of intrusion detection. In: ACM CCS, 1999. Available at: https://dl.acm.org/doi/10.1145/319709.319710. Accessed on: 13 abr. 2025.
APACHE FLINK. Documentation. 2024. Available at: https://flink.apache.org/documentation.html. Accessed on: 13 abr. 2025.
CICHONSKI, Paul et al. Computer Security Incident Handling Guide. NIST SP 800-61 Rev. 2. Gaithersburg: NIST, 2012. Available at: https://csrc.nist.gov/publications/detail/sp/800-61/rev-2/final. Accessed on: 13 abr. 2025.
ELASTIC. Elastic Stack Documentation. 2024. Available at: https://www.elastic.co/guide/index.html. Accessed on: 13 abr. 2025.
HOMER, John et al. Aggregating vulnerability metrics in enterprise networks. In: ACM CCS, 2013. Available at: https://dl.acm.org/doi/10.1145/2508859.2516737. Accessed on: 13 abr. 2025.
JULISCH, Klaus. Clustering intrusion detection alarms to support root cause analysis. In: ACSAC, 2003. Available at: https://ieeexplore.ieee.org/document/1254320. Accessed on: 13 abr. 2025.
KUBERNETES. Documentation. 2024. Available at: https://kubernetes.io/docs/. Accessed on: 13 abr. 2025.
MITRE. ATT&CK Framework. 2023. Available at: https://attack.mitre.org/. Accessed on: 13 abr. 2025.
NEO4J. Graph Data Platform Documentation. 2024. Available at: https://neo4j.com/docs/. Accessed on: 13 abr. 2025.
PHILLIPS, Cynthia; SWILER, Laura. A graph-based system for network-vulnerability analysis. In: NSPW, 1998. Available at: https://dl.acm.org/doi/10.1145/310889.310919. Accessed on: 13 abr. 2025.
PYTORCH. Documentation. 2024. Available at: https://pytorch.org/docs/stable/index.html. Accessed on: 13 abr. 2025.
SOMMER, Robin; PAXSON, Vern. Outside the closed world: on using machine learning for network intrusion detection. In: IEEE S&P, 2010. Available at: https://ieeexplore.ieee.org/document/5504793. Accessed on: 13 abr. 2025.
VALDES, Alfonso; SKINNER, Keith. Probabilistic alert correlation. In: RAID, 2001. Available at: https://link.springer.com/chapter/10.1007/3-540-47770-9_9. Accessed on: 13 abr. 2025.
VERIZON. Data Breach Investigations Report 2023. Available at: https://www.verizon.com/business/resources/reports/dbir/. Accessed on: 13 abr. 2025.
WANG, Lingyu et al. An attack graph-based probabilistic security metric. IEEE Transactions on Dependable and Secure Computing, 2008. Available at: https://ieeexplore.ieee.org/document/4408761. Accessed on: 13 abr. 2025.