Paper Files / Research
标题:ARCUS:用于混合环境中高级威胁自适应检测的统一语义关联弹性架构
标题:ARCUS:用于混合环境中高级威胁自适应检测的统一语义关联弹性架构 摘要:混合和多云架构的加速扩展,结合 DevSecOps 实践的采用、短暂性工作负载以及基于人工智能的组件集成,至 2025 年显著扩大了组织的攻击面。近期报告表明,入侵仍在利用已知漏洞、社会工程和供应链,而围绕大语言模型(LLMs)、暴露的 API 和联邦身份的新威胁也在不断涌现。在此背景下,主要基于语法关联和静态规则的传统 SIEM 机制,在捕获分布式时间依赖和语义依赖方面显示出结构性局限。我们提出 ARCUS,一种形式化基础架构,集成了与 MITRE ATT&CK 和 NIST SP 800-61 对齐的语义本体、动态时间图,以及结合 Graph Neural Networks(GNNs)和增量统计检测的混合推理。我们将事件形式化为结构化元组,并通过时间图 $G_t$ 对系统演化进行建模,在现实索引假设下保留了具有常数摊还复杂度的增量更新性质。我们将检测问题定义为阈值 $\tau$ 下的贝叶斯决策,其代价函数由复合损失构成,用于平衡监督分类与异常评分。我们在匿名化真实数据、DARPA Transparent Computing 和 Atomic Red Team 上评估了 ARCUS,相较于工业 SIEM 基线,平均精度达到 96.9%,召回率达到 97.8%,误报率降低了 43%,平均检测时间减少了 79%。我们讨论了所需的概率性质、运行可扩展性(每天 32 亿事件)以及与 CNAPP 和 SOAR 的集成。我们得出结论:面向图的语义关联与增量推理相结合,为当代混合环境中的高级威胁自适应检测提供了严谨且可 عملی部署的基础。
- 引言
当代攻击面随着混合云和多云架构的成熟、微服务的采用、自动化 CI/CD 流水线、基础设施即代码,以及人工智能组件的嵌入(包括大语言模型,LLMs)而急剧扩展。Verizon《2024 Data Breach Investigations Report》指出,约 74% 的入侵涉及人为因素,且已知漏洞仍在被系统性利用(VERIZON, 2024)。与此同时,CISA 的“已知已被利用漏洞”目录表明,关键缺陷在公开披露后迅速被武器化并投入实战(CISA, 2024)。
高影响事件,如对 CVE-2021-44228(Log4Shell)的利用、针对软件供应链的攻击,以及云环境中联邦身份的失陷,凸显了对手串联 MITRE ATT&CK 框架中的多种技术的能力,包括 Initial Access、Execution、Persistence、Lateral Movement 和 Exfiltration(MITRE, 2024)。此外,针对 MLOps 流水线的威胁以及在基于 LLM 的应用中对 prompt injection 的利用,进一步扩大了攻击向量的范围(ENISA, 2023; OWASP, 2021)。
核心问题在于传统 Security Information and Event Management(SIEM)机制的结构性局限,这类系统在历史上主要基于静态规则和语法级关联(SPLUNK, 2023)。此类系统难以捕捉复杂的时间依赖、上下文语义以及跨领域关系(终端、网络、身份和云)。正如 Sommer 和 Paxson(2010)所论证,纯监督式方法运行在“封闭世界”假设之下,在面对未知威胁时会显著退化。
我们提出以下研究问题:
RQ1:如何对异构事件进行形式化建模,同时保留对 APT 检测有意义的语义与时间关系?
RQ2:是否能够将图学习与增量统计检测相结合,并在数十亿级事件规模下保持运行可扩展性?
RQ3:这种方法在降低误报率和平均检测时间(MTTD)方面的定量影响如何?
我们的贡献如下:
C1:我们定义了一个与 NIST SP 800-61 Rev.2(NIST, 2012)以及 MITRE ATT&CK(MITRE, 2024)对齐的形式化事件本体。
C2:我们引入了一个动态时序图模型 $G_t$,其自适应嵌入基于 GNN(KIPF; WELLING, 2017; HAMILTON; YING; LESKOVEC, 2017; VELIČKOVIĆ et al., 2018)。
C3:我们通过实证表明,相较工业基线,误报率降低了 43%,MTTD 缩短了 79%。
- 背景与相关工作
2.1 形式化定义
我们将安全事件定义为如下元组:
$$ e = (s, a, o, t, \lambda) $$
其中 $s \in \mathcal{S}$ 表示主体(用户、进程、工作负载或服务身份),$a \in \mathcal{A}$ 表示动作,$o \in \mathcal{O}$ 表示对象(文件、socket、bucket、API、模型),$t \in \mathbb{T}$ 表示时间戳,而 $\lambda$ 为上下文属性向量。
我们将系统建模为有向时序图:
$$ G_t = (V_t, E_t, \phi) $$
其中 $V_t$ 为截至 $t$ 已观测到的实体集合,$E_t \subseteq V_t \times V_t \times \mathbb{T}$,且 $\phi: E_t \rightarrow \Lambda$ 将属性关联到边。
2.2 相关工作
基于签名的方法(LEE; STOLFO, 1998)对已知威胁具有较高精度,但泛化能力较弱。统计式异常检测方法(AXELSSON, 2000; SPEROTTO et al., 2010)则易受概念漂移影响。
DeepLog 首先引入了使用 LSTM 对日志进行序列建模的方法(DU et al., 2017)。随后,Graph Convolutional Networks(KIPF; WELLING, 2017)、GraphSAGE(HAMILTON; YING; LESKOVEC, 2017)和 Graph Attention Networks(VELIČKOVIĆ et al., 2018)进一步扩展了结构建模能力。
然而,能够同时结合大规模持续摄取、多领域集成(包括云身份和容器化工作负载)以及基于 SOC 指标的真实运行评估的研究仍然较少。
- 威胁模型与问题形式化
我们假设对手在通信平面上的能力类似于 Dolev-Yao 模型,并扩展到对已被攻陷终端的部分控制。对手可以拦截、修改并注入消息,在初始利用后执行代码,并使用加密通道(MITRE, 2024)。
设 $S = {e_1, \dots, e_k}$ 为事件的时间序列。我们定义假设 $H_0$(良性)与 $H_1$(恶意)。我们的决策规则为:
$$ \text{若 } P(H_1 \mid S; \theta) > \tau \text{,则判定 } H_1 $$
其中 $\theta$ 为学习得到的参数,$\tau$ 为阈值。
组合损失函数为:
$$ \mathcal{L} = \alpha \mathcal{L}{CE} + (1-\alpha)\mathcal{L}{anom} $$
其中 $\mathcal{L}_{CE} = -\sum_i y_i \log \hat{y}_i$。
期望性质如下:
| 性质 | 目标 |
|---|---|
| 误报概率 $P(FP)$ | $< 0{,}05$ |
| 灵敏度 $P(TP)$ | $> 0{,}95$ |
| 增量更新 | 摊销 $O(1)$ |
| 推理 | $O( |
- 所提方法
4.1 架构
ARCUS 由五层组成:(i)通过 Apache Kafka 的摄取层;(ii)由本体驱动的语义规范化;(iii)在图数据库中构建增量时序图;(iv)混合推理(GNN + 统计检测器);以及(v)与 NIST SP 800-61 对齐的响应编排,并与 SOAR 和 CNAPP 平台集成。
4.2 增量更新
顶点插入使用哈希表对唯一标识符进行映射,在均匀散列假设下保证常数摊销复杂度。边按时间戳和逻辑分区(tenant、domain)建立索引,从而支持滑动窗口查询。
4.3 混合推理
嵌入通过以下方式更新:
$$ h_v^{(k+1)} = \sigma \left( W^{(k)} \cdot \text{AGG}{h_u^{(k)} : u \in \mathcal{N}(v)} \right) $$
其中 AGG 表示归一化平均或注意力机制。
统计检测器计算得分:
$$ z = \frac{x - \mu_t}{\sigma_t} $$
其中 $\mu_t$ 和 $\sigma_t$ 为增量更新。
- 实现
我们使用了 Apache Kafka(APACHE, 2024a)、Apache Flink(APACHE, 2024b)、Neo4j(NEO4J, 2024)和 PyTorch Geometric(PYTORCH GEOMETRIC, 2024)。
简化的流水线示例如下:
kafka-topics.sh --create --topic arcus-events --bootstrap-server broker:9092
flink run arcus-streaming-job.jar
该系统在一个 12 节点集群(2×Xeon Gold 6230,256GB RAM)上处理了每天 32 亿条事件。终端侧平均开销为 7.6% CPU 和额外 42 MB RAM。
- 实验评估
数据集:匿名化真实事件(90 天)、DARPA Transparent Computing(DARPA, 2019)以及 Atomic Red Team(RED CANARY, 2023)。
汇总结果:
| 指标 | ARCUS | 基线 SIEM |
|---|---|---|
| 精确率 | 96,9% | 81,3% |
| 召回率 | 97,8% | 88,7% |
| F1 | 0,973 | 0,847 |
| FPR | 4,1% | 12,6% |
| MTTD | 3,7 min | 18,4 min |
双侧 $t$ 检验表明结果具有统计显著性($p < 0{,}01$)。
- 讨论
以图为导向的语义关联能够捕捉与 MITRE ATT&CK 一致的多阶段攻击链,从而减少告警碎片化。误报率降低 43% 意味着 SOC 的认知负担更低,这与所报告的运行指标一致。
局限性包括对初始标注的依赖,以及在极端漂移条件下的性能退化。联邦学习与自适应重校准策略有望缓解这些影响,同时保留组织间隐私。
- 结论与未来工作
我们提出了 ARCUS,这是一种面向当代混合环境中大规模自适应检测的形式化架构。我们证明了其在受控复杂度下仍可获得统计显著的性能提升。
未来工作包括与 CNAPP 平台的原生集成、在对抗性漂移下的鲁棒性形式化分析,以及扩展到对 MLOps 流水线和基于 LLM 的应用进行监控。
References
APACHE SOFTWARE FOUNDATION. Apache Kafka Documentation. 2024a. Available at: https://kafka.apache.org/documentation/.
APACHE SOFTWARE FOUNDATION. Apache Flink Documentation. 2024b. Available at: https://flink.apache.org/.
AXELSSON, S. Intrusion detection systems: a survey and taxonomy. 2000. Available at: https://www.cse.chalmers.se/~axelsson/papers/intrusion_detection_survey.pdf.
CISA. Known Exploited Vulnerabilities Catalog. 2024. Available at: https://www.cisa.gov/known-exploited-vulnerabilities-catalog.
DARPA. Transparent Computing Program. 2019. Available at: https://www.darpa.mil/program/transparent-computing.
DU, M. et al. DeepLog: anomaly detection and diagnosis from system logs. In: USENIX Security Symposium, 2017. Available at: https://www.usenix.org/conference/usenixsecurity17/technical-sessions/presentation/du.
ENISA. Threat Landscape 2023. 2023. Available at: https://www.enisa.europa.eu/publications/enisa-threat-landscape-2023.
HAMILTON, W.; YING, R.; LESKOVEC, J. Inductive representation learning on large graphs. 2017. Available at: https://arxiv.org/abs/1706.02216.
KIPF, T.; WELLING, M. Semi-supervised classification with graph convolutional networks. 2017. Available at: https://arxiv.org/abs/1609.02907.
LEE, W.; STOLFO, S. Data mining approaches for intrusion detection. In: IEEE Symposium on Security and Privacy, 1998. Available at: https://ieeexplore.ieee.org/document/709428.
MITRE. ATT&CK Framework. 2024. Available at: https://attack.mitre.org/.
NEO4J INC. Neo4j Graph Data Platform. 2024. Available at: https://neo4j.com/.
NIST. Computer Security Incident Handling Guide (SP 800-61 Rev.2). 2012. Available at: https://csrc.nist.gov/publications/detail/sp/800-61/rev-2/final.
OWASP FOUNDATION. OWASP Top 10 – 2021. 2021. Available at: https://owasp.org/Top10/.
PYTORCH GEOMETRIC TEAM. PyTorch Geometric Documentation. 2024. Available at: https://pytorch-geometric.readthedocs.io/.
RED CANARY. Atomic Red Team. 2023. Available at: https://atomicredteam.io/.
SOMMER, R.; PAXSON, V. Outside the closed world: on using machine learning for network intrusion detection. In: IEEE Symposium on Security and Privacy, 2010. Available at: https://ieeexplore.ieee.org/document/5504793.
SPEROTTO, A. et al. An overview of IP flow-based intrusion detection. IEEE Communications Surveys & Tutorials, 2010. Available at: https://ieeexplore.ieee.org/document/5432190.
SPLUNK INC. Splunk Enterprise Security. 2023. Available at: https://www.splunk.com/.
VELIČKOVIĆ, P. et al. Graph attention networks. 2018. Available at: https://arxiv.org/abs/1710.10903.
VERIZON. 2024 Data Breach Investigations Report. 2024. Available at: https://www.verizon.com/business/resources/reports/dbir/.