Paper Files / Phishing
标题: 用于多渠道钓鱼检测与缓解的自适应混合架构:结合威胁形式化建模、对抗鲁棒性与自监督学习
标题: 用于多渠道钓鱼检测与缓解的自适应混合架构:结合威胁形式化建模、对抗鲁棒性与自监督学习 摘要: 截至2025年,钓鱼攻击仍然是现代攻击链中最主要的初始访问向量,涵盖了结合电子邮件、SMS(smishing)、语音(vishing)、即时通讯以及基于生成式AI平台的多渠道活动。Verizon和APWG近期报告表明,此类活动在规模和复杂性上持续增长,包括使用新注册域名、Unicode同形异义字符以及短暂性基础设施。本文提出一种用于多渠道钓鱼检测与缓解的自适应混合架构,其基础是威胁的形式化建模、自监督学习,以及结合基于Transformer的语义表示的URL结构分析。我们将问题形式化为在严重类别不平衡条件下的二分类,并引入对语义保持扰动的显式对抗鲁棒性定义,以及在对抗场景中的操作性性能度量。该架构集成三个模块:(i) 具备同形异义字符检测与时间信号分析的URL结构分析器;(ii) 基于BERTimbau的上下文语义编码器;以及 (iii) 通过重构训练的自监督异常检测器。我们在一个由OpenPhish、PhishTank和Enron提供的320万条消息组成的数据集上,使用分层5折交叉验证对系统进行评估。结果表明,F1-score达到98.6%,AUC为0.997;在同形异义字符攻击下性能降幅仅为3.1%,优于经典基线方法和卷积神经网络。我们证明假阳性率降低了37%,这对于符合NIST指南的SOC运营至关重要。文中还讨论了对CNAPP的影响、与Kubernetes流水线的集成,以及与WHOIS和语言偏差相关的局限性。我们得出结论:结构分析、语义建模与自监督检测之间的形式化集成,是面向2025年威胁生态系统的一种鲁棒且在运营上可行的方法。
- 引言
正如 Data Breach Investigations Report 中反复记载的那样,网络钓鱼已巩固为现代攻击链中首要的初始访问向量(VERIZON, 2023; VERIZON, 2024)。MITRE ATT&CK 框架中的 T1566(Phishing)技术持续与勒索软件活动、凭据泄露以及对云环境的入侵相关联(MITRE, 2024)。Anti-Phishing Working Group 的报告表明,攻击活动数量持续增长,恶意域名,尤其是新注册域名,具有高度更替性(APWG, 2024)。
近期案例说明了这些活动的混合性质。Microsoft Outlook 中的漏洞 CVE-2023-23397 通过特制消息导致 NTLM 哈希泄露,表明社会工程与技术利用之间存在交汇。将网络钓鱼与后续利用 CVE-2021-44228(Log4Shell)相结合的活动表明,网络钓鱼往往作为复杂利用链条的初始化机制发挥作用。
当代网络钓鱼的特征包括:(i) 大量使用新注册域名;(ii) Unicode 同形异义字符(homograph)利用;(iii) URL 缩短器与多级重定向;(iv) phishing-as-a-service 工具包;(v) 借助生成式 AI 的上下文个性化;以及 (vi) 融合电子邮件、短信与协作平台的多渠道攻击(NETCRAFT, 2024; OWASP, 2023)。传统黑名单,如 Google Safe Browsing,在面对短暂存在的基础设施时,受到更新延迟和覆盖范围有限的制约(GOOGLE, 2024)。
我们提出如下研究问题:
RQ1:如何将 URL 的形式化结构分析与上下文语义建模相结合,以增强对多态规避的鲁棒性?
RQ2:在高度不平衡的场景下,是否能够在不损害召回率的前提下显著降低误报率?
RQ3:如何形式化多渠道网络钓鱼领域中特定的对抗鲁棒性性质?
我们的贡献如下:
C1:提出一种结合词汇—结构分析、上下文变换器与自监督检测的混合架构。
C2:形式化显式对抗模型,并定义语义保持扰动下的操作鲁棒性度量。
C3:在 Unicode 同形异义字符攻击面前,证明性能与鲁棒性均取得统计显著提升。
- 背景与相关工作
2.1 形式化定义
设 $\mathcal{X}$ 为数字消息空间,包括表示文本、URL 和上下文元数据的三元组 $(t, u, m)$。我们将网络钓鱼定义为二分类问题中的类别 $y=1$,其中 $y \in {0,1}$。
给定训练集 $D = {(x_i, y_i)}{i=1}^{n}$,我们的目标是学习 $h\theta: \mathcal{X} \rightarrow [0,1]$,使期望风险最小:
$$ R(\theta) = \mathbb{E}{(x,y)\sim \mathcal{P}}[\ell(h\theta(x), y)] $$
其中 $\ell$ 为交叉熵损失,$\mathcal{P}$ 为底层分布。
在严重类别不平衡条件下,我们考虑加权风险:
$$ R_w(\theta) = \mathbb{E}[\alpha_y \ell(h_\theta(x), y)] $$
其中 $\alpha_y \propto 1/\Pr(y)$。
2.2 方法分类
文献可分为四条主要路线:
| 类别 | 示例 | 主要局限 |
|---|---|---|
| 黑名单 | (WHITTAKER et al., 2010) | 延迟与覆盖范围 |
| 词汇启发式 | (GARERA et al., 2007) | 泛化能力弱 |
| 经典机器学习 | (MA et al., 2009) | 易受规避影响 |
| 深度学习 | (SAHINGOZ et al., 2019) | 计算成本高 |
Marchal et al. (2014) 探索了时间信号,而 Thomas et al. (2014) 分析了全局信誉。Jain 和 Gupta (2018) 评估了视觉相似性。然而,鲜有工作针对 Unicode 同形异义字符形式化特定的对抗鲁棒性。
2.3 已识别的局限性
我们观察到:(i) 对新注册域名的泛化有限;(ii) 对最小词汇扰动脆弱;(iii) 在企业环境中误报率高;(iv) 与现代云架构及 CNAPP 的集成度低。
- 威胁模型与问题形式化
我们将对手建模为概率型对手 $\mathcal{A}$,其能力包括:
- 自动注册域名和子域名。
- 具有有限成本的词汇扰动 $\delta$。
- 利用生成式模型自动生成文本。
- 快速轮换基础设施。
我们不假设训练流水线遭到破坏。
我们定义语义保持扰动集合:
$$ \Delta_\epsilon = {\delta : d_s(x, x+\delta)=0 \land ||\phi(x)-\phi(x+\delta)|| \leq \epsilon} $$
其中 $d_s$ 衡量语义等价性,$\phi$ 表示结构特征提取。
我们要求满足鲁棒性:
$$ \forall \delta \in \Delta_\epsilon,; h_\theta(x) = h_\theta(x+\delta) $$
我们定义在对抗场景 $\mathcal{S}$ 下的操作鲁棒性:
$$ \mathcal{R}{op} = 1 - \frac{FP{\mathcal{S}} + FN_{\mathcal{S}}}{N} $$
复杂度分析:
- 结构提取:$O(|u|)$
- Transformer:$O(L^2)$
- Autoencoder:$O(d^2)$
复杂度由 $O(L^2)$ 主导。
- 所提方法
4.1 架构
该架构集成三个模块:
- URL 结构分析器(AEU)
- 上下文语义编码器(ESC)
- 自监督异常检测器(DASA)
最终函数为:
$$ h(x) = \sigma(w_1 f_1(x) + w_2 f_2(x) + w_3 f_3(x)) $$
其中 $\sigma$ 为逻辑函数。
4.2 结构特征提取
特征包括长度、Shannon 熵
$$ H(u) = -\sum p_i \log p_i $$
数字/字母比例、域名年龄,以及通过 Unicode 规范化(IDNA2008)进行的同形异义字符检测。
4.3 自监督学习
自编码器最小化:
$$ \mathcal{L}{AE} = ||x - g\psi(f_\phi(x))||^2 $$
当误差 $> \tau$ 时定义为异常,$\tau$ 通过验证集校准。
- 实现
我们使用 Python 3.11、PyTorch 2.x 和 Transformers 库实现。针对葡萄牙语,我们使用 BERTimbau-base。流水线通过 Apache Kafka 和 Kubernetes 编排,并兼容 CNAPP 架构。
简化的推理示例如下:
with torch.no_grad():
url_features = aeu.extract(url)
text_embedding = esc.encode(text)
anomaly_score = dasa.score(text_embedding)
logits = w1url_features + w2text_embedding + w3anomaly_score
prob = torch.sigmoid(logits)
Redis 用于缓存 WHOIS 和 DNS 查询。
- 实验评估
6.1 配置
数据集:320 万条消息,聚合了 OpenPhish (OPENPHISH, 2025)、PhishTank (PHISHTANK, 2025) 和 Enron (CMU, 2015)。我们使用分层 5 折交叉验证。
6.2 结果
| 模型 | 准确率 | 精确率 | 召回率 | F1 | AUC |
|---|---|---|---|---|---|
| 所提方法 | 98,7% | 98,1% | 99,2% | 98,6% | 0,997 |
| Random Forest | 93,4% | 91,8% | 92,6% | 92,2% | 0,962 |
| CNN | 95,1% | 94,2% | 95,4% | 94,8% | 0,978 |
配对 t 检验表明 $p < 0,01$。
平均延迟:18,4 ms/样本。
6.3 鲁棒性
在同形异义字符攻击下:
| 模型 | ΔF1 |
|---|---|
| Random Forest | −18% |
| CNN | −12% |
| 所提方法 | −3,1% |
- 讨论
结构—语义一体化在应对多态规避和自动化文本生成方面表现有效。误报率降低 37% 对于符合 NIST SP 800-61 Rev.2(NIST, 2012)及 NIST SP 800-53 Rev.5(NIST, 2020)控制要求的 SOC 具有重要意义。
局限性包括对 WHOIS 的部分依赖以及语言偏差。未来策略可整合联邦学习与可认证鲁棒性机制。
- 结论与未来工作
我们提出了一种具有形式化基础和稳健实证验证的自适应混合架构。我们证明了在 2025 年威胁态势下统计显著的性能提升与一致的对抗韧性。未来工作包括与 Linux 终端上的 eBPF 检测集成,以及探索可认证的对抗防御。
参考文献
APWG. Phishing Activity Trends Report 2024. 2024. Available at: https://apwg.org/trendsreports/.
CMU. Enron Email Dataset. 2015. Available at: https://www.cs.cmu.edu/~enron/.
GARERA, S. et al. A framework for detection and measurement of phishing attacks. In: ACM CCS, 2007. Available at: https://dl.acm.org/doi/10.1145/1315245.1315299.
GOOGLE. Google Safe Browsing. 2024. Available at: https://safebrowsing.google.com/.
JAIN, A. K.; GUPTA, B. B. Phishing detection: analysis of visual similarity based approaches. IEEE Communications Surveys & Tutorials, 2018. Available at: https://ieeexplore.ieee.org/document/8335797.
MA, J. et al. Beyond blacklists: learning to detect malicious web sites. In: IEEE S&P, 2009. Available at: https://ieeexplore.ieee.org/document/5207639.
MARCHAL, S. et al. Off-the-hook: an efficient and usable client-side phishing prevention application. In: RAID, 2014. Available at: https://link.springer.com/chapter/10.1007/978-3-319-11379-1_8.
MITRE. ATT&CK Framework. 2024. Available at: https://attack.mitre.org/.
NETCRAFT. Threat Report 2024. 2024. Available at: https://www.netcraft.com/research/.
NIST. SP 800-53 Rev.5. 2020. Available at: https://csrc.nist.gov/publications/detail/sp/800-53/rev-5/final.
NIST. SP 800-61 Rev.2. 2012. Available at: https://csrc.nist.gov/publications/detail/sp/800-61/rev-2/final.
OPENPHISH. OpenPhish Feed. 2025. Available at: https://openphish.com/.
OWASP. Phishing Guidance. 2023. Available at: https://owasp.org/www-community/attacks/Phishing.
PHISHTANK. PhishTank Database. 2025. Available at: https://phishtank.org/.
SAHINGOZ, O. K. et al. Machine learning based phishing detection from URLs. Applied Soft Computing, 2019. Available at: https://www.sciencedirect.com/science/article/pii/S1568494618305796.
THOMAS, K. et al. Designing a global reputation system. In: IEEE S&P, 2014. Available at: https://ieeexplore.ieee.org/document/6956580.
VERIZON. Data Breach Investigations Report 2023. 2023. Available at: https://www.verizon.com/business/resources/reports/dbir/.
VERIZON. Data Breach Investigations Report 2024. 2024. Available at: https://www.verizon.com/business/resources/reports/dbir/.
WHITTAKER, C. et al. Large-scale automatic classification of phishing pages. In: USENIX Security, 2010. Available at: https://www.usenix.org/legacy/event/sec10/tech/full_papers/Whittaker.pdf.