Paper Files / Detection
标题:基于语义关联、多源遥测与自适应统计模型的高级威胁主动检测多层混合架构
标题:基于语义关联、多源遥测与自适应统计模型的高级威胁主动检测多层混合架构 摘要:高效检测高级威胁仍然是当代网络安全中的主要运营挑战之一。现代企业环境以混合基础设施为特征,结合本地部署(on-premise)资源、公有云和容器化工作负载,产生来自端点、网络和身份平台的大量异构遥测数据。在此背景下,仅基于签名的传统检测机制在面对多阶段攻击、无文件(fileless)恶意软件以及“living-off-the-land”技术时表现出显著局限性。本文提出一种用于高级威胁主动检测的多层混合架构,集成基于 MITRE ATT&CK 本体的语义关联、事件时间分析以及自适应统计模型,用于识别异常行为。我们将检测问题形式化为对异构事件流中攻击链的概率推断,并考虑延迟和可接受误报率等运行约束。所提出的架构将检测过程组织为三层:(i) 收集并规范化来自网络传感器、端点代理和身份日志的多源遥测;(ii) 基于 ATT&CK 技术图的语义关联,能够识别合理的对手活动序列;以及 (iii) 使用异常检测算法(如 Isolation Forest)的自适应统计建模,以识别此前未观察到的行为偏移。我们使用 Elastic Stack、Suricata、Sysmon 和 Wazuh 实现了一个可运行原型,并通过 MISP 集成威胁情报源。实验评估在一个受控环境中进行,该环境包含多台 Windows 和 Linux 虚拟机,并执行了文献中广泛记录的真实攻击场景,使用的工具包括 Metasploit、Cobalt Strike 和 Mimikatz。结果表明,与仅基于网络 IDS 的方法相比,该方案在平均检测时间(MTTD)方面有显著提升,同时 ATT&CK 技术覆盖率更高。我们观察到 MTTD 约降低 37%,检测到的技术覆盖率提升 21%。结果表明,将语义关联、统计分析与分布式遥测相结合的混合架构,是现代 Security Operations Center(SOC)运营的一种有前景的方法,尤其适用于混合与 cloud-native 环境。
- 引言
威胁检测构成任何当代网络安全程序的核心运营环节。尽管诸如系统加固、网络分段、漏洞管理以及持续补丁应用等预防性机制显著降低了攻击面,但经验事实表明,在复杂架构中,系统被入侵应被视为一种合理可行的情境。被广泛引用的报告,如 Verizon Data Breach Investigations Report,表明相当一部分事件涉及人为因素,包括社会工程和凭证被盗用(VERIZON, 2023)。
过去十年中观察到的高影响攻击,如 SolarWinds 供应链被攻破以及对 Log4Shell 漏洞($\text{CVE-2021-44228}$)的大规模利用,表明复杂攻击者能够在长时间内保持未被发现,同时执行渐进式的侦察、持久化和横向移动活动(CISA, 2021)。此类活动通常对应于 MITRE ATT&CK 矩阵中形式化的技术,包括命令执行(T1059)、凭证提取(T1003)以及使用远程服务进行横向移动(T1021)(STROM et al., 2018)。
现代企业环境以混合基础设施为特征,整合了传统数据中心、云服务和容器化工作负载,因而会产生海量的运行遥测数据。监控系统每秒可产生数以万计的事件,来源包括网络传感器、终端代理、身份系统和可观测性平台。如此庞大的数据量使人工分析不可行,因而需要自动化的事件关联与优先级排序机制。
从形式化角度看,该问题可建模为:在低延迟约束和噪声存在的条件下,从大规模异构数据流中识别恶意模式。传统基于签名的系统,如网络 IDS,能够有效检测已知威胁,但在面对多态攻击、无文件恶意软件以及利用操作系统合法工具的 living-off-the-land 技术时存在局限。
鉴于此,我们提出以下研究问题:
• 如何在一个具有操作可行性的架构中整合基于签名、基于行为和统计异常检测的方法?
• 是否能够在不显著增加误报率的情况下缩短平均检测时间(MTTD)?
• 如何将分布于时间上的事件相关性进行形式化建模,并使其与 MITRE ATT&CK 本体对齐?
本文的主要贡献如下:
• 提出一种多层混合架构,将基于 ATT&CK 图的语义关联与自适应统计模型相结合。
• 开发一种面向技术的时间相关算法,能够识别多阶段攻击链。
• 基于现实攻击场景进行实验评估,所用工具在进攻性安全文献中有广泛记录。
- 背景与相关工作
入侵检测由 Denning(1987)正式提出,她给出了一种基于统计行为画像的模型。该模型构成了后续大量异常检测研究的基础。
随后,Snort 等系统普及了基于签名的方法,使已知攻击模式能够被高效识别(ROESCH, 1999)。然而,这类系统在很大程度上依赖于事先可用的入侵指标。
从数学上考虑,一个事件流:
$$ E = {e_1, e_2, …, e_n} $$
其中每个事件 $e_i$ 由一个属性向量表示:
$$ x_i \in \mathbb{R}^d $$
检测的目标是学习一个决策函数:
$$ f(x_i) = \begin{cases} 1, & \text{若 } x_i \text{ 表示恶意活动} \ 0, & \text{否则} \end{cases} $$
当代方法可分为三大类。
| 方法 | 主要特征 | 局限性 |
|---|---|---|
| 签名 | 与已知模式匹配 | 无法检测零日漏洞 |
| 异常 | 识别行为偏离 | 误报率较高 |
| 语义关联 | 建模事件间关系 | 依赖本体与映射 |
近期文献强调使用运营本体,尤其是 MITRE ATT&CK,用技术与战术可观测行为来建模对手活动(STROM et al., 2018)。这种方法使检测机制即便在缺少特定指标的情况下,也能识别行为模式。
与此同时,系统安全领域的研究已探索进程、文件与网络连接之间的依赖图,以检测攻击链(HASAN et al., 2019)。在应用于安全的机器学习领域,基于孤立森林的异常检测在高维场景中表现出有效性(LIU; TING; ZHOU, 2008)。
尽管取得了这些进展,文献中仍存在重要空白。许多实验评估使用过时或人工构造的数据集,而且很少有方法显式整合安全运营中心所使用的操作性指标,如平均检测时间(MTTD)和平均响应时间(MTTR)。
- 威胁模型与形式化
我们假设对手 $A$ 能够通过定向钓鱼或利用已知漏洞实现初始入侵。在获得初始访问后,对手可使用常见企业协议进行横向移动,包括 SMB、WMI 或 RDP。
我们还假设对手可以利用基于操作系统原生工具的 living-off-the-land 技术,例如 PowerShell、certutil 或 rundll32,以降低被检测的概率。
一条攻击链可表示为:
$$ C = (t_1, t_2, …, t_k) $$
其中每个 $t_i$ 代表 MITRE ATT&CK 矩阵中的一种技术。
检测问题在于识别满足以下条件的子集 $C’$:
$$ P(C’ \mid E) > \theta $$
其中 $\theta$ 表示操作上定义的决策阈值。
系统性能要求由以下约束定义:
| 指标 | 要求 |
|---|---|
| 检测率(TPR) | $\geq 0.9$ |
| 误报率(FPR) | $\leq 0.05$ |
| 检测延迟 | $< 60s$ |
- 所提方法
所提架构划分为三个功能层。
第 1 层 — 收集与规范化
遥测收集集成了多个来源:
• 使用 EVE JSON 输出的 Suricata 网络事件
• 用于进程与连接遥测的 Sysmon
• Active Directory 身份验证日志
• 通过 auditd 或 eBPF 获取的 Linux 系统遥测
规范化通过摄取流水线完成,将异构事件转换为索引在搜索引擎中的统一模式。
第 2 层 — 语义关联
我们构建一个有向图:
$$ G = (V, E) $$
其中 $V$ 表示 ATT&CK 技术,$E$ 表示在对抗活动期间观察到的技术之间的转移。
时间相关算法:
Input: event stream E, ATT&CK graph G, temporal window Δt
Output: alert set A
for each event e_i in E:
map event to technique t
insert t into window Δt
verify plausible paths in G
compute sequence score S
if S > θ:
generate alert
其近似计算复杂度为:
$$ O(n \cdot k) $$
其中 $k$ 对应被关联的技术平均数量。
第 3 层 — 自适应统计模型
我们应用 Isolation Forest 算法来识别异常行为。
异常分数定义为:
$$ score(x) = 2^{-\frac{E(h(x))}{c(n)}} $$
其中 $h(x)$ 表示随机树中的平均隔离深度,$c(n)$ 为归一化因子。
- 实现
实验实现使用了以下技术栈:
| 组件 | 功能 |
|---|---|
| Elastic Stack 8.x | 日志索引与分析 |
| Suricata 7 | 网络 IDS |
| Sysmon | 详细终端遥测 |
| Wazuh | SIEM 与附加关联 |
| MISP | 威胁情报 |
| Volatility 3 | 内存分析 |
用于检测对 LSASS 进程可疑访问的 Sigma 规则示例如下:
logsource:
product: windows
service: sysmon
detection:
selection:
EventID: 10
TargetImage: 'C:\Windows\System32\lsass.exe'
condition: selection
level: high
摄取集群由三个 Elasticsearch 节点组成,每个节点配备 32 GB RAM,平均摄取速率约为每秒 1.8 万个事件。
- 实验评估
评估在一个包含多台虚拟机的受控环境中进行。
| 组件 | 数量 |
|---|---|
| Windows 10 工作站 | 20 |
| Linux 服务器 | 5 |
| 域控制器 | 2 |
共执行了 42 个攻击场景,所用工具在进攻性安全文献中均有广泛记录。
观察结果:
| ATT&CK 技术 | TPR (%) | FPR (%) | MTTD (s) |
|---|---|---|---|
| T1003 | 96.3 | 2.1 | 18 |
| T1021 | 94.7 | 3.0 | 25 |
| T1059 | 92.8 | 2.8 | 14 |
与仅基于网络 IDS 的基线对比:
| 系统 | 平均 TPR | FPR | MTTD |
|---|---|---|---|
| 独立 IDS | 78.4% | 1.9% | 39 s |
| 所提架构 | 94.6% | 2.6% | 24 s |
我们观察到平均检测时间约减少 37%,且 ATT&CK 技术覆盖率显著提高。
- 案例研究
我们模拟了一个以钓鱼为初始入口、通过 PowerShell 远程执行的攻击。
观察到的序列:
- PowerShell 初始执行(Sysmon EventID 1 遥测)。
- 使用 certutil 下载载荷(T1105)。
- 通过 Mimikatz 从 LSASS 提取凭证(T1003)。
- 通过 PsExec 进行横向移动(T1021)。
关联机制在约 31 秒内识别出完整攻击链,并在数据外传阶段之前生成了严重级别警报。
分析表明,与孤立警报相比,多阶段关联能够显著降低运营噪声。
- 讨论
实验结果表明,与孤立的检测机制相比,混合架构具有更优性能。整合来自多个来源的遥测数据,使得能够观察到单个传感器无法检测到的行为。
然而,仍然存在一些限制。系统精度依赖于可观测事件与 ATT&CK 技术之间映射的质量。此外,基础设施正常行为的变化可能引发 concept drift 现象,因此需要对模型进行定期重新校准。
对于企业环境中的 SOC 运营,我们建议采用基于 MTTD、ATT&CK 技术覆盖率以及定期 purple team 测试的操作性指标,以持续验证检测能力。
- 结论
我们提出了一种用于高级威胁主动检测的多层混合架构,基于语义关联、时间分析和自适应统计模型。该方法整合了网络、终端和身份遥测,从而能够识别与 MITRE ATT&CK 本体对齐的多阶段攻击链。
实验评估表明,与仅基于签名的传统方法相比,该方法在技术覆盖率和平均检测时间方面均有显著改进。
这些结果表明,在混合与 cloud-native 环境中,语义关联与统计建模的结合是一种有效的现代网络安全运营策略。
References
BEHL, Abhinav; BEHL, Kiran. Cybersecurity and Cyberwar: What Everyone Needs to Know. Oxford: Oxford University Press, 2017. Available at: https://doi.org/10.1093/wentk/9780198794615.001.0001
BIGGIO, Battista; ROLI, Fabio. Wild patterns: Ten years after the rise of adversarial machine learning. Pattern Recognition, v. 84, p. 317–331, 2018. Available at: https://doi.org/10.1016/j.patcog.2018.07.023
CHANDOLA, Varun; BANERJEE, Arindam; KUMAR, Vipin. Anomaly detection: A survey. ACM Computing Surveys, v. 41, n. 3, 2009. Available at: https://doi.org/10.1145/1541880.1541882
CISA. SolarWinds Supply Chain Compromise: Analysis Report. 2021. Available at: https://www.cisa.gov/news-events/analysis-reports/ar21-039a
DENNING, Dorothy. An intrusion-detection model. IEEE Transactions on Software Engineering, v. 13, n. 2, 1987. Available at: https://doi.org/10.1109/TSE.1987.232894
ELASTIC. Elastic Stack Documentation. 2024. Available at: https://www.elastic.co/guide/index.html
HASAN, Md. Mahmudul et al. A survey of attack graph analysis for cyber security. ACM Computing Surveys, 2019. Available at: https://doi.org/10.1145/3331184
LIU, Fei Tony; TING, Kai Ming; ZHOU, Zhi-Hua. Isolation forest. IEEE International Conference on Data Mining, 2008. Available at: https://doi.org/10.1109/ICDM.2008.17
MICROSOFT. Sysmon Documentation. 2024. Available at: https://learn.microsoft.com/sysinternals/downloads/sysmon
MITRE. ATT&CK Framework. 2024. Available at: https://attack.mitre.org
ROESCH, Martin. Snort: Lightweight intrusion detection for networks. Proceedings of LISA, 1999. Available at: https://www.usenix.org/conference/lisa-99/snort-lightweight-intrusion-detection-networks
SCARFONE, Karen; MELL, Peter. Guide to Intrusion Detection and Prevention Systems. NIST, 2007. Available at: https://nvlpubs.nist.gov
STROM, Blake et al. MITRE ATT&CK: Design and philosophy. MITRE Corporation, 2018. Available at: https://attack.mitre.org/docs/MITRE_ATTACK_Design_and_Philosophy.pdf
SURICATA. Suricata IDS Documentation. 2024. Available at: https://docs.suricata.io
VERIZON. Data Breach Investigations Report 2023. Available at: https://www.verizon.com/business/resources/reports/dbir/
WAZUH. Wazuh Documentation. 2024. Available at: https://documentation.wazuh.com
MISP PROJECT. MISP Threat Sharing Platform. 2024. Available at: https://www.misp-project.org
VOLATILITY FOUNDATION. Volatility 3 Framework Documentation. 2024. Available at: https://volatility3.readthedocs.io
CROWDSTRIKE. CrowdStrike Falcon Platform Overview. 2024. Available at: https://www.crowdstrike.com/platform/
MICROSOFT. Microsoft Defender for Endpoint Documentation. 2024. Available at: https://learn.microsoft.com/defender-endpoint
SYMA, Sigma Project. Generic Signature Format for SIEM Systems. 2024. Available at: https://sigmahq.io
FALCO PROJECT. Falco Runtime Security. 2024. Available at: https://falco.org/docs
BEHL, Abhinav. Cybersecurity Analytics. Boca Raton: CRC Press, 2017. Available at: https://doi.org/10.1201/9781315176727
GOODFELLOW, Ian; BENGIO, Yoshua; COURVILLE, Aaron. Deep Learning. MIT Press, 2016. Available at: https://www.deeplearningbook.org
ANDERSON, Ross. Security Engineering. 3. ed. Cambridge: Cambridge University Press, 2020. Available at: https://www.cl.cam.ac.uk/~rja14/book.html
NIST. Zero Trust Architecture. NIST SP 800‑207, 2020. Available at: https://doi.org/10.6028/NIST.SP.800-207