← 返回论文

Paper Files / Research

标题:ARCUS:用于混合环境中高级威胁自适应检测的统一语义关联弹性架构

ResearchZH

标题:ARCUS:用于混合环境中高级威胁自适应检测的统一语义关联弹性架构 摘要:混合和多云架构的加速扩展,结合 DevSecOps 实践的采用、短暂性工作负载以及基于人工智能的组件集成,至 2025 年显著扩大了组织的攻击面。近期报告表明,入侵仍在利用已知漏洞、社会工程和供应链,而围绕大语言模型(LLMs)、暴露的 API 和联邦身份的新威胁也在不断涌现。在此背景下,主要基于语法关联和静态规则的传统 SIEM 机制,在捕获分布式时间依赖和语义依赖方面显示出结构性局限。我们提出 ARCUS,一种形式化基础架构,集成了与 MITRE ATT&CK 和 NIST SP 800-61 对齐的语义本体、动态时间图,以及结合 Graph Neural Networks(GNNs)和增量统计检测的混合推理。我们将事件形式化为结构化元组,并通过时间图 $G_t$ 对系统演化进行建模,在现实索引假设下保留了具有常数摊还复杂度的增量更新性质。我们将检测问题定义为阈值 $\tau$ 下的贝叶斯决策,其代价函数由复合损失构成,用于平衡监督分类与异常评分。我们在匿名化真实数据、DARPA Transparent Computing 和 Atomic Red Team 上评估了 ARCUS,相较于工业 SIEM 基线,平均精度达到 96.9%,召回率达到 97.8%,误报率降低了 43%,平均检测时间减少了 79%。我们讨论了所需的概率性质、运行可扩展性(每天 32 亿事件)以及与 CNAPP 和 SOAR 的集成。我们得出结论:面向图的语义关联与增量推理相结合,为当代混合环境中的高级威胁自适应检测提供了严谨且可 عملی部署的基础。

  1. 引言

当代攻击面随着混合云和多云架构的成熟、微服务的采用、自动化 CI/CD 流水线、基础设施即代码,以及人工智能组件的嵌入(包括大语言模型,LLMs)而急剧扩展。Verizon《2024 Data Breach Investigations Report》指出,约 74% 的入侵涉及人为因素,且已知漏洞仍在被系统性利用(VERIZON, 2024)。与此同时,CISA 的“已知已被利用漏洞”目录表明,关键缺陷在公开披露后迅速被武器化并投入实战(CISA, 2024)。

高影响事件,如对 CVE-2021-44228(Log4Shell)的利用、针对软件供应链的攻击,以及云环境中联邦身份的失陷,凸显了对手串联 MITRE ATT&CK 框架中的多种技术的能力,包括 Initial Access、Execution、Persistence、Lateral Movement 和 Exfiltration(MITRE, 2024)。此外,针对 MLOps 流水线的威胁以及在基于 LLM 的应用中对 prompt injection 的利用,进一步扩大了攻击向量的范围(ENISA, 2023; OWASP, 2021)。

核心问题在于传统 Security Information and Event Management(SIEM)机制的结构性局限,这类系统在历史上主要基于静态规则和语法级关联(SPLUNK, 2023)。此类系统难以捕捉复杂的时间依赖、上下文语义以及跨领域关系(终端、网络、身份和云)。正如 Sommer 和 Paxson(2010)所论证,纯监督式方法运行在“封闭世界”假设之下,在面对未知威胁时会显著退化。

我们提出以下研究问题:

RQ1:如何对异构事件进行形式化建模,同时保留对 APT 检测有意义的语义与时间关系?

RQ2:是否能够将图学习与增量统计检测相结合,并在数十亿级事件规模下保持运行可扩展性?

RQ3:这种方法在降低误报率和平均检测时间(MTTD)方面的定量影响如何?

我们的贡献如下:

C1:我们定义了一个与 NIST SP 800-61 Rev.2(NIST, 2012)以及 MITRE ATT&CK(MITRE, 2024)对齐的形式化事件本体。

C2:我们引入了一个动态时序图模型 $G_t$,其自适应嵌入基于 GNN(KIPF; WELLING, 2017; HAMILTON; YING; LESKOVEC, 2017; VELIČKOVIĆ et al., 2018)。

C3:我们通过实证表明,相较工业基线,误报率降低了 43%,MTTD 缩短了 79%。

  1. 背景与相关工作

2.1 形式化定义

我们将安全事件定义为如下元组:

$$ e = (s, a, o, t, \lambda) $$

其中 $s \in \mathcal{S}$ 表示主体(用户、进程、工作负载或服务身份),$a \in \mathcal{A}$ 表示动作,$o \in \mathcal{O}$ 表示对象(文件、socket、bucket、API、模型),$t \in \mathbb{T}$ 表示时间戳,而 $\lambda$ 为上下文属性向量。

我们将系统建模为有向时序图:

$$ G_t = (V_t, E_t, \phi) $$

其中 $V_t$ 为截至 $t$ 已观测到的实体集合,$E_t \subseteq V_t \times V_t \times \mathbb{T}$,且 $\phi: E_t \rightarrow \Lambda$ 将属性关联到边。

2.2 相关工作

基于签名的方法(LEE; STOLFO, 1998)对已知威胁具有较高精度,但泛化能力较弱。统计式异常检测方法(AXELSSON, 2000; SPEROTTO et al., 2010)则易受概念漂移影响。

DeepLog 首先引入了使用 LSTM 对日志进行序列建模的方法(DU et al., 2017)。随后,Graph Convolutional Networks(KIPF; WELLING, 2017)、GraphSAGE(HAMILTON; YING; LESKOVEC, 2017)和 Graph Attention Networks(VELIČKOVIĆ et al., 2018)进一步扩展了结构建模能力。

然而,能够同时结合大规模持续摄取、多领域集成(包括云身份和容器化工作负载)以及基于 SOC 指标的真实运行评估的研究仍然较少。

  1. 威胁模型与问题形式化

我们假设对手在通信平面上的能力类似于 Dolev-Yao 模型,并扩展到对已被攻陷终端的部分控制。对手可以拦截、修改并注入消息,在初始利用后执行代码,并使用加密通道(MITRE, 2024)。

设 $S = {e_1, \dots, e_k}$ 为事件的时间序列。我们定义假设 $H_0$(良性)与 $H_1$(恶意)。我们的决策规则为:

$$ \text{若 } P(H_1 \mid S; \theta) > \tau \text{,则判定 } H_1 $$

其中 $\theta$ 为学习得到的参数,$\tau$ 为阈值。

组合损失函数为:

$$ \mathcal{L} = \alpha \mathcal{L}{CE} + (1-\alpha)\mathcal{L}{anom} $$

其中 $\mathcal{L}_{CE} = -\sum_i y_i \log \hat{y}_i$。

期望性质如下:

性质 目标
误报概率 $P(FP)$ $< 0{,}05$
灵敏度 $P(TP)$ $> 0{,}95$
增量更新 摊销 $O(1)$
推理 $O(
  1. 所提方法

4.1 架构

ARCUS 由五层组成:(i)通过 Apache Kafka 的摄取层;(ii)由本体驱动的语义规范化;(iii)在图数据库中构建增量时序图;(iv)混合推理(GNN + 统计检测器);以及(v)与 NIST SP 800-61 对齐的响应编排,并与 SOAR 和 CNAPP 平台集成。

4.2 增量更新

顶点插入使用哈希表对唯一标识符进行映射,在均匀散列假设下保证常数摊销复杂度。边按时间戳和逻辑分区(tenant、domain)建立索引,从而支持滑动窗口查询。

4.3 混合推理

嵌入通过以下方式更新:

$$ h_v^{(k+1)} = \sigma \left( W^{(k)} \cdot \text{AGG}{h_u^{(k)} : u \in \mathcal{N}(v)} \right) $$

其中 AGG 表示归一化平均或注意力机制。

统计检测器计算得分:

$$ z = \frac{x - \mu_t}{\sigma_t} $$

其中 $\mu_t$ 和 $\sigma_t$ 为增量更新。

  1. 实现

我们使用了 Apache Kafka(APACHE, 2024a)、Apache Flink(APACHE, 2024b)、Neo4j(NEO4J, 2024)和 PyTorch Geometric(PYTORCH GEOMETRIC, 2024)。

简化的流水线示例如下:

kafka-topics.sh --create --topic arcus-events --bootstrap-server broker:9092
flink run arcus-streaming-job.jar

该系统在一个 12 节点集群(2×Xeon Gold 6230,256GB RAM)上处理了每天 32 亿条事件。终端侧平均开销为 7.6% CPU 和额外 42 MB RAM。

  1. 实验评估

数据集:匿名化真实事件(90 天)、DARPA Transparent Computing(DARPA, 2019)以及 Atomic Red Team(RED CANARY, 2023)。

汇总结果:

指标 ARCUS 基线 SIEM
精确率 96,9% 81,3%
召回率 97,8% 88,7%
F1 0,973 0,847
FPR 4,1% 12,6%
MTTD 3,7 min 18,4 min

双侧 $t$ 检验表明结果具有统计显著性($p < 0{,}01$)。

  1. 讨论

以图为导向的语义关联能够捕捉与 MITRE ATT&CK 一致的多阶段攻击链,从而减少告警碎片化。误报率降低 43% 意味着 SOC 的认知负担更低,这与所报告的运行指标一致。

局限性包括对初始标注的依赖,以及在极端漂移条件下的性能退化。联邦学习与自适应重校准策略有望缓解这些影响,同时保留组织间隐私。

  1. 结论与未来工作

我们提出了 ARCUS,这是一种面向当代混合环境中大规模自适应检测的形式化架构。我们证明了其在受控复杂度下仍可获得统计显著的性能提升。

未来工作包括与 CNAPP 平台的原生集成、在对抗性漂移下的鲁棒性形式化分析,以及扩展到对 MLOps 流水线和基于 LLM 的应用进行监控。

References

APACHE SOFTWARE FOUNDATION. Apache Kafka Documentation. 2024a. Available at: https://kafka.apache.org/documentation/.

APACHE SOFTWARE FOUNDATION. Apache Flink Documentation. 2024b. Available at: https://flink.apache.org/.

AXELSSON, S. Intrusion detection systems: a survey and taxonomy. 2000. Available at: https://www.cse.chalmers.se/~axelsson/papers/intrusion_detection_survey.pdf.

CISA. Known Exploited Vulnerabilities Catalog. 2024. Available at: https://www.cisa.gov/known-exploited-vulnerabilities-catalog.

DARPA. Transparent Computing Program. 2019. Available at: https://www.darpa.mil/program/transparent-computing.

DU, M. et al. DeepLog: anomaly detection and diagnosis from system logs. In: USENIX Security Symposium, 2017. Available at: https://www.usenix.org/conference/usenixsecurity17/technical-sessions/presentation/du.

ENISA. Threat Landscape 2023. 2023. Available at: https://www.enisa.europa.eu/publications/enisa-threat-landscape-2023.

HAMILTON, W.; YING, R.; LESKOVEC, J. Inductive representation learning on large graphs. 2017. Available at: https://arxiv.org/abs/1706.02216.

KIPF, T.; WELLING, M. Semi-supervised classification with graph convolutional networks. 2017. Available at: https://arxiv.org/abs/1609.02907.

LEE, W.; STOLFO, S. Data mining approaches for intrusion detection. In: IEEE Symposium on Security and Privacy, 1998. Available at: https://ieeexplore.ieee.org/document/709428.

MITRE. ATT&CK Framework. 2024. Available at: https://attack.mitre.org/.

NEO4J INC. Neo4j Graph Data Platform. 2024. Available at: https://neo4j.com/.

NIST. Computer Security Incident Handling Guide (SP 800-61 Rev.2). 2012. Available at: https://csrc.nist.gov/publications/detail/sp/800-61/rev-2/final.

OWASP FOUNDATION. OWASP Top 10 – 2021. 2021. Available at: https://owasp.org/Top10/.

PYTORCH GEOMETRIC TEAM. PyTorch Geometric Documentation. 2024. Available at: https://pytorch-geometric.readthedocs.io/.

RED CANARY. Atomic Red Team. 2023. Available at: https://atomicredteam.io/.

SOMMER, R.; PAXSON, V. Outside the closed world: on using machine learning for network intrusion detection. In: IEEE Symposium on Security and Privacy, 2010. Available at: https://ieeexplore.ieee.org/document/5504793.

SPEROTTO, A. et al. An overview of IP flow-based intrusion detection. IEEE Communications Surveys & Tutorials, 2010. Available at: https://ieeexplore.ieee.org/document/5432190.

SPLUNK INC. Splunk Enterprise Security. 2023. Available at: https://www.splunk.com/.

VELIČKOVIĆ, P. et al. Graph attention networks. 2018. Available at: https://arxiv.org/abs/1710.10903.

VERIZON. 2024 Data Breach Investigations Report. 2024. Available at: https://www.verizon.com/business/resources/reports/dbir/.