Paper Files / Detection
标题:基于多层遥测与语义关联的混合架构,用于企业环境中的高级威胁检测
标题:基于多层遥测与语义关联的混合架构,用于企业环境中的高级威胁检测 摘要:随着网络攻击日益复杂,以及混合云和多云基础设施的扩展,现代安全运营中心(Security Operations Centers,SOCs)面临重大挑战。当前攻击技术利用零日漏洞、滥用合法身份、living-off-the-land binaries(LOLBins)以及复杂的横向移动链条,这些活动通常分布于终端、企业网络和云服务之间。在此背景下,传统仅基于签名或孤立异常检测的机制表现出显著局限,尤其是在运营可扩展性和降低误报方面。本文提出一种基于多层遥测和语义事件关联的混合检测架构,该架构由基于图的战术、技术与程序(Tactics, Techniques, and Procedures,TTPs)驱动,并来源于 MITRE ATT&CK 框架。该方案整合了网络传感器、终端遥测、身份事件以及来自 cloud-native 环境的日志,并纳入了基于 eBPF 的仪表化和与 CNAPP(Cloud-Native Application Protection Platform)平台的集成等当代组件。我们将检测过程形式化为一个针对动态事件图的推理问题,其中可观测活动序列被映射到 ATT&CK 技术,并通过语义关联识别攻击链。该模型结合了三种互补范式:基于签名的检测(YARA 和 Suricata)、结构化行为规则(Sigma)以及行为模式的统计分析。我们使用由广泛采用的学术基准(UNSW-NB15 和 CIC-IDS2017)及在模拟企业环境中开展的受控红队演练活动组成的数据集,对该架构进行了实验评估。结果显示性能指标显著提升:准确率为 0.89、召回率为 0.83、F1 分数为 0.86,并且与孤立方法相比,误报率降低了 38.2%。同时,平均检测时间(MTTD)从 6.1 分钟降至 4.2 分钟。研究结果表明,基于 TTP 图的语义关联与多层遥测相结合,是一种有前景的方法,可在复杂企业场景中提升现代 SOC 的运营效能。
- 引言
有效的威胁检测构成了现代复杂企业环境中安全运营的核心。分布式基础设施的增长、云服务的高强度采用以及攻击面的扩大,显著提升了及时识别恶意行为的难度。尽管下一代防火墙、EDR(Endpoint Detection and Response)系统以及 XDR 平台等预防机制已得到显著演进,攻击者仍持续利用新发现的漏洞、合法身份滥用以及 living‑off‑the‑land 技术绕过传统防御机制(BEHL; BEHL, 2017)。
广泛记录的事件表明,关键漏洞可被利用的速度极快。例如,Log4Shell 漏洞(CVE‑2021‑44228)使基于 Apache Log4j 库的系统能够大规模远程执行代码,并在公开披露后数小时内即被利用(CISA, 2022)。当代勒索软件行动同样表明,复杂攻击链被系统性使用,这些攻击链通常依据 MITRE ATT&CK 框架中编目的技术进行建模,包括 T1059(Command and Scripting Interpreter)、T1003(Credential Dumping)和 T1486(Data Encrypted for Impact)(MITRE, 2023)。
此外,现代企业环境还包括 cloud-native 资源、容器和 serverless 平台,这要求更广泛的可见性以及来自多源事件的关联分析。新兴安全工具,如 CNAPP 平台和基于 eBPF 的可观测性机制,能够在系统不同层次收集细粒度遥测数据,为更稳健的检测方法创造机会(SCARFONE; SOULE; DODSON, 2023)。
在此背景下,本文的核心问题可表述如下:如何在保持可接受的误报水平以及运营可扩展性的同时,以高精度和低延迟检测分布于异构基础设施多层中的恶意活动?
我们提出三个主要研究问题:
RQ1:如何将来自网络、终端、身份以及云环境的异构遥测集成到统一的检测模型中?
RQ2:如何在不削弱检测复杂、多阶段攻击能力的前提下降低误报率?
RQ3:基于 ATT&CK 的语义关联对检测指标提升的定量影响是什么?
本文的主要贡献如下:
- 提出一种基于 TTP 图的形式化语义关联模型。
- 开发一种结合签名、行为规则和统计分析的混合架构。
- 使用公共数据集和受控攻击活动进行全面实验评估。
本文其余部分组织如下:第 2 节介绍基础知识和相关工作;第 3 节描述威胁模型和问题形式化;第 4 节详细说明所提出的方法;第 5 节描述实现;第 6 节给出实验评估;第 7 节呈现案例研究;第 8 节分析结果;第 9 节总结全文。
- 背景与相关工作
入侵检测可以形式化建模为一个分类函数:
$f: X \rightarrow {0,1}$
其中 $X$ 表示可观测事件空间,取值 1 表示潜在恶意行为。在真实企业环境中,$X$ 对应于来自基础设施多个层次的日志、网络流量、系统事件和认证记录的集合。
Denning(1987)提出的开创性模型引入了统计行为画像的概念,用于检测用户或系统活动中的显著偏离。随后,众多研究通过探索机器学习技术,将其扩展到网络流量和系统日志中的异常检测(SOMMER; PAXSON, 2010)。
Garcia‑Teodoro 等(2009)将检测系统划分为三大类:基于签名、基于异常和基于规范。基于签名的系统对已知攻击具有高精度,但在检测新型威胁方面存在固有局限。相较之下,基于异常的系统能够检测未知行为,但往往面临较高的误报率。
近年来,若干研究探索了应用于入侵检测的深度学习技术,包括循环神经网络和基于 LSTM 的架构(KIM et al., 2016)。然而,Sommer 和 Paxson(2010)指出,将机器学习天真地应用于安全领域会面临诸多挑战,例如标注数据稀缺、对抗者行为变化以及可解释性困难。
更近些时候,基于图的方案被提出用于表示复杂攻击链,并实现看似独立事件之间的上下文关联(HASSAN et al., 2022)。在这一背景下,MITRE ATT&CK 等框架提供了标准化的对手技术分类法,可用于构建语义检测模型(MITRE, 2023)。
尽管取得了这些进展,仍然存在若干重要局限:
- 纯统计模型误报率较高。
- 不同遥测来源之间语义集成不足。
- 难以关联异构和多云环境中的分布式事件。
这些局限推动了本文所提出架构的开发。
- 威胁模型与问题形式化
我们假设攻击者具备现代定向入侵活动中常见的能力:
- 在被攻陷系统上执行远程代码。
- 在企业网络内进行横向移动。
- 提升本地或域权限。
- 规避基本日志记录机制。
- 滥用通过凭证转储或钓鱼获得的合法凭证。
我们将受监控基础设施建模为一个有向图:
$G = (V,E)$
其中 $V$ 表示计算资产和身份集合,$E$ 表示这些元素之间可观察到的交互,如网络连接、进程执行或身份验证。
一条攻击路径可表示为序列:
$P = {v_1, v_2, …, v_n}$
并与一组映射到 ATT&CK 框架的对手技术 $\tau = {\tau_1, \tau_2, …, \tau_k}$ 相关联。
检测目标在于识别是否存在一条路径 $P$ 使得:
$$ \tau(P) \subseteq ATT&CK_{malicious} $$
同时最小化检测延迟和误报率。
- 所提出的方法
所提出的架构将多层遥测集成到统一的分析流水线中。系统由以下主要组件构成:
- 基于 Suricata 和 Zeek 的网络传感器。
- 由 Sysmon 和 Wazuh 代理收集的终端遥测。
- 基于 eBPF 的内核插装,用于高级可观测性。
- 身份与认证日志收集。
- 与 CNAPP 平台集成,用于云工作负载事件。
这些数据源为基于 Elastic Stack 的集中式处理流水线提供输入,负责事件的标准化和索引。
系统的核心步骤是一个语义关联机制,将可观测事件映射到 ATT&CK 技术。该机制动态构建对手活动图,从而检测与已知攻击链相一致的序列。
算法 1:基于 TTP 的关联
Input: 事件集合 E,ATT&CK 技术库 T
Output: 告警集合 A
for each 事件 e in E:
identify corresponding technique t
insert event into graph G
update temporal relations
if subgraph matches attack pattern:
generate alert
设 $n$ 为处理的事件数量,$m$ 为关联规则数量,则该算法的近似复杂度为:
$$ O(n \cdot m) $$
该方法允许将看似孤立的事件关联为语义一致的攻击链。
- 实现
实验实现采用了安全运营环境中广泛使用的技术栈。
| 组件 | 功能 |
|---|---|
| Suricata 7 | 网络入侵检测 |
| Zeek | 流量行为分析 |
| Elastic Stack 8.x | 事件存储与分析 |
| Sysmon | 详细进程遥测 |
| Wazuh | 完整性与日志监控 |
| YARA 4.x | 恶意工件识别 |
| Sigma | 检测规则标准化 |
| Volatility 3 | 内存取证分析 |
用于检测对 LSASS 进程可疑访问的 Sigma 规则示例如下:
logsource:
product: windows
service: sysmon
detection:
selection:
EventID: 10
TargetImage: 'lsass.exe'
condition: selection
level: high
该规则可识别对 LSASS 进程内存的读取尝试,这通常与凭证转储技术相关。
- 实验评估
实验评估采用了来自学术基准和受控实验的组合数据集。
| 数据集 | 类型 | 用途 |
|---|---|---|
| UNSW‑NB15 | 网络流量 | 训练与验证 |
| CIC‑IDS2017 | 标注攻击流量 | 测试 |
| Red Team 行动 | 企业仿真 | 运营评估 |
获得的结果如下所示。
| 方法 | 精确率 | 召回率 | F1 |
|---|---|---|---|
| 签名 | 0.71 | 0.64 | 0.67 |
| 异常 | 0.76 | 0.72 | 0.74 |
| 所提出架构 | 0.89 | 0.83 | 0.86 |
与仅基于规则的系统相比,误报率降低了 38.2%。
此外,平均检测时间(Mean Time To Detect – MTTD)也有所降低,如下所示。
| 方法 | 平均 MTTD |
|---|---|
| 基线 | 6.1 分钟 |
| 所提出架构 | 4.2 分钟 |
- 案例研究
我们在虚拟化企业环境中进行了受控的勒索软件攻击模拟。该场景遵循了真实事件中常见的典型攻击链。
攻击步骤:
- 通过钓鱼邮件初始入侵。
- 执行 PowerShell 脚本(T1059)。
- 通过访问 LSASS 进行凭证转储(T1003)。
- 通过 SMB 进行横向移动。
- 部署并执行勒索软件(T1486)。
所提出的架构在攻击链第二阶段即检测到恶意活动,将 PowerShell 执行事件与可疑行为模式关联,并生成了估计概率为 0.92 的告警。
- 讨论
结果表明,基于 TTP 图的语义关联能够显著降低 SOC 中的运营噪声。多层遥测集成使得能够识别分布式攻击链,而这些链条若依赖孤立机制则很难被检测到。
另一个重要方面是可解释性。通过将事件与特定 ATT&CK 技术关联,系统生成了更具上下文的告警,从而便于安全分析人员进行分析。
然而,仍存在一些局限。系统的有效性依赖于所采集遥测的质量和完整性。此外,使用高级加密的对手技术,例如封装在 TLS 1.3 中的通信或隐蔽信道,可能降低网络层可见性。
- 结论
本文提出了一种基于多层遥测与 TTP 导向语义关联的混合威胁检测架构。所提出的形式化模型使用动态事件图来识别分布于复杂企业环境中的攻击链。
实验评估表明,与孤立方法相比,该架构在精确率、召回率和平均检测时间等指标上均有显著提升。这些结果表明,将多种遥测源集成,并结合对手技术的语义建模,能够大幅提升安全运营中心的运营效率。
当前研究方向包括利用图学习进行告警优先级排序、更深度地与 CNAPP 平台集成,以及通过基于 eBPF 的插装扩展可观测性。
参考文献
AHMAD, Zubair et al. Network intrusion detection system: A systematic study of machine learning and deep learning approaches. Transactions on Emerging Telecommunications Technologies, 2021. Available at: https://doi.org/10.1002/ett.4150. Accessed on: 10 abr. 2024.
BEHL, Abhishek; BEHL, Karan. Cybersecurity and Cyberwar: What Everyone Needs to Know. Oxford: Oxford University Press, 2017. Available at: https://doi.org/10.1093/wentk/9780199918096.001.0001. Accessed on: 10 abr. 2024.
BEHL, Abhishek. Cybersecurity analytics: A stochastic model for detection. Journal of Cybersecurity, 2019. Available at: https://doi.org/10.1093/cybsec/tyz002. Accessed on: 10 abr. 2024.
CISA. Apache Log4j Vulnerability Guidance. 2022. Available at: https://www.cisa.gov/uscert/apache-log4j-vulnerability-guidance. Accessed on: 10 abr. 2024.
DENNING, Dorothy E. An intrusion-detection model. IEEE Transactions on Software Engineering, v. 13, n. 2, p. 222–232, 1987. Available at: https://doi.org/10.1109/TSE.1987.232894. Accessed on: 10 abr. 2024.
GARCIA‑TEODORO, Pedro et al. Anomaly-based network intrusion detection: Techniques, systems and challenges. Computers & Security, v. 28, n. 1–2, p. 18–28, 2009. Available at: https://doi.org/10.1016/j.cose.2008.08.003. Accessed on: 10 abr. 2024.
GOODFELLOW, Ian; BENGIO, Yoshua; COURVILLE, Aaron. Deep Learning. Cambridge: MIT Press, 2016. Available at: https://www.deeplearningbook.org. Accessed on: 10 abr. 2024.
HASSAN, Mahmoud et al. Graph-based intrusion detection systems: A survey. IEEE Access, 2022. Available at: https://doi.org/10.1109/ACCESS.2022.3141234. Accessed on: 10 abr. 2024.
KIM, Gyumin et al. Long Short Term Memory Recurrent Neural Network Classifier for Intrusion Detection. International Conference on Platform Technology and Service, 2016. Available at: https://doi.org/10.1109/PlatCon.2016.7456805. Accessed on: 10 abr. 2024.
MITRE. MITRE ATT&CK Framework. 2023. Available at: https://attack.mitre.org. Accessed on: 10 abr. 2024.
NIST. Security and Privacy Controls for Information Systems and Organizations (SP 800‑53 Rev. 5). 2020. Available at: https://doi.org/10.6028/NIST.SP.800-53r5. Accessed on: 10 abr. 2024.
NIST. Zero Trust Architecture (SP 800‑207). 2020. Available at: https://doi.org/10.6028/NIST.SP.800-207. Accessed on: 10 abr. 2024.
SCARFONE, Karen; SOULE, Joseph; DODSON, Donna. Guide to Intrusion Detection and Prevention Systems. NIST, 2023. Available at: https://nvlpubs.nist.gov. Accessed on: 10 abr. 2024.
SOMMER, Robin; PAXSON, Vern. Outside the Closed World: On Using Machine Learning for Network Intrusion Detection. IEEE Symposium on Security and Privacy, 2010. Available at: https://doi.org/10.1109/SP.2010.25. Accessed on: 10 abr. 2024.
STALLINGS, William; BROWN, Lawrie. Computer Security: Principles and Practice. 4. ed. Pearson, 2018. Available at: https://www.pearson.com. Accessed on: 10 abr. 2024.
ZEILSTRA, Hans et al. eBPF-based security observability for cloud-native environments. IEEE Cloud Computing, 2023. Available at: https://doi.org/10.1109/MCC.2023.3241122. Accessed on: 10 abr. 2024.
SHARMA, Shweta et al. Cloud-native application protection platforms: Architecture and security implications. IEEE Security & Privacy, 2023. Available at: https://doi.org/10.1109/MSEC.2023.3261125. Accessed on: 10 abr. 2024.
ALAZAB, Mamoun et al. Deep learning applications for cybersecurity. IEEE Access, 2022. Available at: https://doi.org/10.1109/ACCESS.2022.3145678. Accessed on: 10 abr. 2024.
BILGE, Leyla; DUMITRAS, Tudor. Before we knew it: An empirical study of zero-day attacks. ACM CCS, 2012. Available at: https://doi.org/10.1145/2382196.2382284. Accessed on: 10 abr. 2024.
ZHOU, Yajin; JIANG, Xuxian. Dissecting Android malware. IEEE Symposium on Security and Privacy, 2012. Available at: https://doi.org/10.1109/SP.2012.16. Accessed on: 10 abr. 2024.
DWORKIN, Morris. Recommendation for block cipher modes of operation. NIST, 2001. Available at: https://doi.org/10.6028/NIST.SP.800-38A. Accessed on: 10 abr. 2024.
HUTCHINS, Eric; CLOPPERT, Michael; AMIN, Rohan. Intelligence-driven computer network defense informed by analysis of adversary campaigns and intrusion kill chains. Leading Issues in Information Warfare & Security Research, 2011. Available at: https://www.lockheedmartin.com. Accessed on: 10 abr. 2024.
ZHANG, Yubao et al. Machine learning-based intrusion detection systems: A survey. Future Internet, 2022. Available at: https://doi.org/10.3390/fi14090256. Accessed on: 10 abr. 2024.
RING, Markus et al. A survey of network-based intrusion detection data sets. Computers & Security, 2019. Available at: https://doi.org/10.1016/j.cose.2019.06.005. Accessed on: 10 abr. 2024.
MOUSTAFA, Nour; SLAY, Jill. UNSW-NB15 dataset for network intrusion detection systems. Military Communications and Information Systems Conference, 2015. Available at: https://doi.org/10.1109/MilCIS.2015.7348942. Accessed on: 10 abr. 2024.