← 返回论文

Paper Files / Detection

标题:基于语义关联、多源遥测与自适应统计模型的高级威胁主动检测多层混合架构

DetectionZH

标题:基于语义关联、多源遥测与自适应统计模型的高级威胁主动检测多层混合架构 摘要:高效检测高级威胁仍然是当代网络安全中的主要运营挑战之一。现代企业环境以混合基础设施为特征,结合本地部署(on-premise)资源、公有云和容器化工作负载,产生来自端点、网络和身份平台的大量异构遥测数据。在此背景下,仅基于签名的传统检测机制在面对多阶段攻击、无文件(fileless)恶意软件以及“living-off-the-land”技术时表现出显著局限性。本文提出一种用于高级威胁主动检测的多层混合架构,集成基于 MITRE ATT&CK 本体的语义关联、事件时间分析以及自适应统计模型,用于识别异常行为。我们将检测问题形式化为对异构事件流中攻击链的概率推断,并考虑延迟和可接受误报率等运行约束。所提出的架构将检测过程组织为三层:(i) 收集并规范化来自网络传感器、端点代理和身份日志的多源遥测;(ii) 基于 ATT&CK 技术图的语义关联,能够识别合理的对手活动序列;以及 (iii) 使用异常检测算法(如 Isolation Forest)的自适应统计建模,以识别此前未观察到的行为偏移。我们使用 Elastic Stack、Suricata、Sysmon 和 Wazuh 实现了一个可运行原型,并通过 MISP 集成威胁情报源。实验评估在一个受控环境中进行,该环境包含多台 Windows 和 Linux 虚拟机,并执行了文献中广泛记录的真实攻击场景,使用的工具包括 Metasploit、Cobalt Strike 和 Mimikatz。结果表明,与仅基于网络 IDS 的方法相比,该方案在平均检测时间(MTTD)方面有显著提升,同时 ATT&CK 技术覆盖率更高。我们观察到 MTTD 约降低 37%,检测到的技术覆盖率提升 21%。结果表明,将语义关联、统计分析与分布式遥测相结合的混合架构,是现代 Security Operations Center(SOC)运营的一种有前景的方法,尤其适用于混合与 cloud-native 环境。

  1. 引言

威胁检测构成任何当代网络安全程序的核心运营环节。尽管诸如系统加固、网络分段、漏洞管理以及持续补丁应用等预防性机制显著降低了攻击面,但经验事实表明,在复杂架构中,系统被入侵应被视为一种合理可行的情境。被广泛引用的报告,如 Verizon Data Breach Investigations Report,表明相当一部分事件涉及人为因素,包括社会工程和凭证被盗用(VERIZON, 2023)。

过去十年中观察到的高影响攻击,如 SolarWinds 供应链被攻破以及对 Log4Shell 漏洞($\text{CVE-2021-44228}$)的大规模利用,表明复杂攻击者能够在长时间内保持未被发现,同时执行渐进式的侦察、持久化和横向移动活动(CISA, 2021)。此类活动通常对应于 MITRE ATT&CK 矩阵中形式化的技术,包括命令执行(T1059)、凭证提取(T1003)以及使用远程服务进行横向移动(T1021)(STROM et al., 2018)。

现代企业环境以混合基础设施为特征,整合了传统数据中心、云服务和容器化工作负载,因而会产生海量的运行遥测数据。监控系统每秒可产生数以万计的事件,来源包括网络传感器、终端代理、身份系统和可观测性平台。如此庞大的数据量使人工分析不可行,因而需要自动化的事件关联与优先级排序机制。

从形式化角度看,该问题可建模为:在低延迟约束和噪声存在的条件下,从大规模异构数据流中识别恶意模式。传统基于签名的系统,如网络 IDS,能够有效检测已知威胁,但在面对多态攻击、无文件恶意软件以及利用操作系统合法工具的 living-off-the-land 技术时存在局限。

鉴于此,我们提出以下研究问题:

• 如何在一个具有操作可行性的架构中整合基于签名、基于行为和统计异常检测的方法?
• 是否能够在不显著增加误报率的情况下缩短平均检测时间(MTTD)?
• 如何将分布于时间上的事件相关性进行形式化建模,并使其与 MITRE ATT&CK 本体对齐?

本文的主要贡献如下:

• 提出一种多层混合架构,将基于 ATT&CK 图的语义关联与自适应统计模型相结合。
• 开发一种面向技术的时间相关算法,能够识别多阶段攻击链。
• 基于现实攻击场景进行实验评估,所用工具在进攻性安全文献中有广泛记录。

  1. 背景与相关工作

入侵检测由 Denning(1987)正式提出,她给出了一种基于统计行为画像的模型。该模型构成了后续大量异常检测研究的基础。

随后,Snort 等系统普及了基于签名的方法,使已知攻击模式能够被高效识别(ROESCH, 1999)。然而,这类系统在很大程度上依赖于事先可用的入侵指标。

从数学上考虑,一个事件流:

$$ E = {e_1, e_2, …, e_n} $$

其中每个事件 $e_i$ 由一个属性向量表示:

$$ x_i \in \mathbb{R}^d $$

检测的目标是学习一个决策函数:

$$ f(x_i) = \begin{cases} 1, & \text{若 } x_i \text{ 表示恶意活动} \ 0, & \text{否则} \end{cases} $$

当代方法可分为三大类。

方法 主要特征 局限性
签名 与已知模式匹配 无法检测零日漏洞
异常 识别行为偏离 误报率较高
语义关联 建模事件间关系 依赖本体与映射

近期文献强调使用运营本体,尤其是 MITRE ATT&CK,用技术与战术可观测行为来建模对手活动(STROM et al., 2018)。这种方法使检测机制即便在缺少特定指标的情况下,也能识别行为模式。

与此同时,系统安全领域的研究已探索进程、文件与网络连接之间的依赖图,以检测攻击链(HASAN et al., 2019)。在应用于安全的机器学习领域,基于孤立森林的异常检测在高维场景中表现出有效性(LIU; TING; ZHOU, 2008)。

尽管取得了这些进展,文献中仍存在重要空白。许多实验评估使用过时或人工构造的数据集,而且很少有方法显式整合安全运营中心所使用的操作性指标,如平均检测时间(MTTD)和平均响应时间(MTTR)。

  1. 威胁模型与形式化

我们假设对手 $A$ 能够通过定向钓鱼或利用已知漏洞实现初始入侵。在获得初始访问后,对手可使用常见企业协议进行横向移动,包括 SMB、WMI 或 RDP。

我们还假设对手可以利用基于操作系统原生工具的 living-off-the-land 技术,例如 PowerShell、certutil 或 rundll32,以降低被检测的概率。

一条攻击链可表示为:

$$ C = (t_1, t_2, …, t_k) $$

其中每个 $t_i$ 代表 MITRE ATT&CK 矩阵中的一种技术。

检测问题在于识别满足以下条件的子集 $C’$:

$$ P(C’ \mid E) > \theta $$

其中 $\theta$ 表示操作上定义的决策阈值。

系统性能要求由以下约束定义:

指标 要求
检测率(TPR) $\geq 0.9$
误报率(FPR) $\leq 0.05$
检测延迟 $< 60s$
  1. 所提方法

所提架构划分为三个功能层。

第 1 层 — 收集与规范化

遥测收集集成了多个来源:

• 使用 EVE JSON 输出的 Suricata 网络事件
• 用于进程与连接遥测的 Sysmon
• Active Directory 身份验证日志
• 通过 auditd 或 eBPF 获取的 Linux 系统遥测

规范化通过摄取流水线完成,将异构事件转换为索引在搜索引擎中的统一模式。

第 2 层 — 语义关联

我们构建一个有向图:

$$ G = (V, E) $$

其中 $V$ 表示 ATT&CK 技术,$E$ 表示在对抗活动期间观察到的技术之间的转移。

时间相关算法:

Input: event stream E, ATT&CK graph G, temporal window Δt
Output: alert set A

for each event e_i in E:
    map event to technique t
    insert t into window Δt
    verify plausible paths in G
    compute sequence score S
    if S > θ:
        generate alert

其近似计算复杂度为:

$$ O(n \cdot k) $$

其中 $k$ 对应被关联的技术平均数量。

第 3 层 — 自适应统计模型

我们应用 Isolation Forest 算法来识别异常行为。

异常分数定义为:

$$ score(x) = 2^{-\frac{E(h(x))}{c(n)}} $$

其中 $h(x)$ 表示随机树中的平均隔离深度,$c(n)$ 为归一化因子。

  1. 实现

实验实现使用了以下技术栈:

组件 功能
Elastic Stack 8.x 日志索引与分析
Suricata 7 网络 IDS
Sysmon 详细终端遥测
Wazuh SIEM 与附加关联
MISP 威胁情报
Volatility 3 内存分析

用于检测对 LSASS 进程可疑访问的 Sigma 规则示例如下:

logsource:
  product: windows
  service: sysmon
detection:
  selection:
    EventID: 10
    TargetImage: 'C:\Windows\System32\lsass.exe'
  condition: selection
level: high

摄取集群由三个 Elasticsearch 节点组成,每个节点配备 32 GB RAM,平均摄取速率约为每秒 1.8 万个事件。

  1. 实验评估

评估在一个包含多台虚拟机的受控环境中进行。

组件 数量
Windows 10 工作站 20
Linux 服务器 5
域控制器 2

共执行了 42 个攻击场景,所用工具在进攻性安全文献中均有广泛记录。

观察结果:

ATT&CK 技术 TPR (%) FPR (%) MTTD (s)
T1003 96.3 2.1 18
T1021 94.7 3.0 25
T1059 92.8 2.8 14

与仅基于网络 IDS 的基线对比:

系统 平均 TPR FPR MTTD
独立 IDS 78.4% 1.9% 39 s
所提架构 94.6% 2.6% 24 s

我们观察到平均检测时间约减少 37%,且 ATT&CK 技术覆盖率显著提高。

  1. 案例研究

我们模拟了一个以钓鱼为初始入口、通过 PowerShell 远程执行的攻击。

观察到的序列:

  1. PowerShell 初始执行(Sysmon EventID 1 遥测)。
  2. 使用 certutil 下载载荷(T1105)。
  3. 通过 Mimikatz 从 LSASS 提取凭证(T1003)。
  4. 通过 PsExec 进行横向移动(T1021)。

关联机制在约 31 秒内识别出完整攻击链,并在数据外传阶段之前生成了严重级别警报。

分析表明,与孤立警报相比,多阶段关联能够显著降低运营噪声。

  1. 讨论

实验结果表明,与孤立的检测机制相比,混合架构具有更优性能。整合来自多个来源的遥测数据,使得能够观察到单个传感器无法检测到的行为。

然而,仍然存在一些限制。系统精度依赖于可观测事件与 ATT&CK 技术之间映射的质量。此外,基础设施正常行为的变化可能引发 concept drift 现象,因此需要对模型进行定期重新校准。

对于企业环境中的 SOC 运营,我们建议采用基于 MTTD、ATT&CK 技术覆盖率以及定期 purple team 测试的操作性指标,以持续验证检测能力。

  1. 结论

我们提出了一种用于高级威胁主动检测的多层混合架构,基于语义关联、时间分析和自适应统计模型。该方法整合了网络、终端和身份遥测,从而能够识别与 MITRE ATT&CK 本体对齐的多阶段攻击链。

实验评估表明,与仅基于签名的传统方法相比,该方法在技术覆盖率和平均检测时间方面均有显著改进。

这些结果表明,在混合与 cloud-native 环境中,语义关联与统计建模的结合是一种有效的现代网络安全运营策略。

References

BEHL, Abhinav; BEHL, Kiran. Cybersecurity and Cyberwar: What Everyone Needs to Know. Oxford: Oxford University Press, 2017. Available at: https://doi.org/10.1093/wentk/9780198794615.001.0001

BIGGIO, Battista; ROLI, Fabio. Wild patterns: Ten years after the rise of adversarial machine learning. Pattern Recognition, v. 84, p. 317–331, 2018. Available at: https://doi.org/10.1016/j.patcog.2018.07.023

CHANDOLA, Varun; BANERJEE, Arindam; KUMAR, Vipin. Anomaly detection: A survey. ACM Computing Surveys, v. 41, n. 3, 2009. Available at: https://doi.org/10.1145/1541880.1541882

CISA. SolarWinds Supply Chain Compromise: Analysis Report. 2021. Available at: https://www.cisa.gov/news-events/analysis-reports/ar21-039a

DENNING, Dorothy. An intrusion-detection model. IEEE Transactions on Software Engineering, v. 13, n. 2, 1987. Available at: https://doi.org/10.1109/TSE.1987.232894

ELASTIC. Elastic Stack Documentation. 2024. Available at: https://www.elastic.co/guide/index.html

HASAN, Md. Mahmudul et al. A survey of attack graph analysis for cyber security. ACM Computing Surveys, 2019. Available at: https://doi.org/10.1145/3331184

LIU, Fei Tony; TING, Kai Ming; ZHOU, Zhi-Hua. Isolation forest. IEEE International Conference on Data Mining, 2008. Available at: https://doi.org/10.1109/ICDM.2008.17

MICROSOFT. Sysmon Documentation. 2024. Available at: https://learn.microsoft.com/sysinternals/downloads/sysmon

MITRE. ATT&CK Framework. 2024. Available at: https://attack.mitre.org

ROESCH, Martin. Snort: Lightweight intrusion detection for networks. Proceedings of LISA, 1999. Available at: https://www.usenix.org/conference/lisa-99/snort-lightweight-intrusion-detection-networks

SCARFONE, Karen; MELL, Peter. Guide to Intrusion Detection and Prevention Systems. NIST, 2007. Available at: https://nvlpubs.nist.gov

STROM, Blake et al. MITRE ATT&CK: Design and philosophy. MITRE Corporation, 2018. Available at: https://attack.mitre.org/docs/MITRE_ATTACK_Design_and_Philosophy.pdf

SURICATA. Suricata IDS Documentation. 2024. Available at: https://docs.suricata.io

VERIZON. Data Breach Investigations Report 2023. Available at: https://www.verizon.com/business/resources/reports/dbir/

WAZUH. Wazuh Documentation. 2024. Available at: https://documentation.wazuh.com

MISP PROJECT. MISP Threat Sharing Platform. 2024. Available at: https://www.misp-project.org

VOLATILITY FOUNDATION. Volatility 3 Framework Documentation. 2024. Available at: https://volatility3.readthedocs.io

CROWDSTRIKE. CrowdStrike Falcon Platform Overview. 2024. Available at: https://www.crowdstrike.com/platform/

MICROSOFT. Microsoft Defender for Endpoint Documentation. 2024. Available at: https://learn.microsoft.com/defender-endpoint

SYMA, Sigma Project. Generic Signature Format for SIEM Systems. 2024. Available at: https://sigmahq.io

FALCO PROJECT. Falco Runtime Security. 2024. Available at: https://falco.org/docs

BEHL, Abhinav. Cybersecurity Analytics. Boca Raton: CRC Press, 2017. Available at: https://doi.org/10.1201/9781315176727

GOODFELLOW, Ian; BENGIO, Yoshua; COURVILLE, Aaron. Deep Learning. MIT Press, 2016. Available at: https://www.deeplearningbook.org

ANDERSON, Ross. Security Engineering. 3. ed. Cambridge: Cambridge University Press, 2020. Available at: https://www.cl.cam.ac.uk/~rja14/book.html

NIST. Zero Trust Architecture. NIST SP 800‑207, 2020. Available at: https://doi.org/10.6028/NIST.SP.800-207