PHISHGUARD++: מסגרת פורמלית, חסונה וניתנת להרחבה לזיהוי מולטימודלי של פישינג באמצעות למידה עמוקה, מודלינג אדברסרי וממשל בינה מלאכותית

1. מבוא

פישינג מהווה אחד מווקטורי התקיפה המתמידים והמזיקים ביותר מבחינה כלכלית בנוף האיומים העכשווי. דוחות עדכניים מצביעים על כך שהנדסה חברתית, ובמיוחד פישינג ו‑pretexting, נותרת בין הווקטורים המרכזיים להשגת גישה ראשונית (VERIZON, 2024). במסגרת MITRE ATT&CK, מתקפות אלו מסווגות באופן פורמלי בטכניקה T1566 (Phishing) בתוך הטקטיקה Initial Access (MITRE, 2024). בשנת 2025 נצפית אף החרפה של קמפיינים הנתמכים במודלי שפה גדולים (LLMs), המסוגלים לייצר תוכן מותאם אישית ברמה גבוהה ולשונית קוהרנטית, ובכך להרחיב את משטח התקיפה.

מנקודת מבט פורמלית, אנו ממדלים את גילוי הפישינג כבעיית סיווג מונחה על פני מרחב קלט רב‑מודאלי $X = X_t \times X_g \times X_v$, שבו $X_t$ מייצג מאפיינים טקסטואליים (URLs, גוף דוא״ל, HTML והטמעות סמנטיות), $X_g$ מייצג קשרים מבניים הממודלים כגרפים הטרוגניים (דומיינים, כתובות IP, תעודות, ASNs וקשרים זמניים), ו‑$X_v$ מייצג מאפיינים חזותיים (צילומי מסך ולוגואים). תהי $f_\theta: X \rightarrow {0,1}$ פונקציה פרמטרית על ידי $\theta$, כאשר $1$ מציין מופע זדוני.

המטרה הקלאסית היא למזער את הסיכון הצפוי:

$$ R(\theta) = \mathbb{E}{(x,y)\sim \mathcal{D}}[\ell(f\theta(x), y)], $$

כאשר $\mathcal{D}$ עשויה להיות לא‑סטציונרית בשל concept drift, ו‑$\ell$ היא פונקציית אובדן של אנטרופיה צולבת. עם זאת, לאור אופיו האדפטיבי של היריב, אנו מנסחים מחדש את הבעיה מנקודת מבט של סיכון רובסטי אדברסרי:

$$ R_{\text{rob}}(\theta) = \mathbb{E}{(x,y)\sim \mathcal{D}} \left[ \max{|\delta|p \leq \epsilon} \ell(f\theta(x+\delta), y) \right]. $$

תרומתנו המרכזית היא שילוב של מידול רב‑מודאלי, אופטימיזציית min‑max ומנגנוני ניטור סטייה, תוך מתן ערבויות אמפיריות לרובסטיות תחת הפרעות $\epsilon$‑מוגבלות ובתרחישי תקיפה הנתמכים על ידי בינה מלאכותית יוצרת.

2. יסודות תאורטיים ועבודות קשורות

2.1 תורת הלמידה הסטטיסטית ורובסטיות

לפי תורת הלמידה הסטטיסטית (VAPNIK, 1998), מסווג הוא עקבי אם $R(\theta_n) \rightarrow R^$ כאשר $n \rightarrow \infty$. בסביבות אדברסריות, יש לנתח התכנסות זו תחת סיכון רובסטי. הניסוח min‑max שהוצע על ידי Madry et al. (2018) מגדיר מושג אופרטיבי של בטיחות מול יריבים המוגבלים בנורמת $L_p$.

בנוסף, נוכחות של סטיית מושג ניתנת לפורמליזציה כרצף של התפלגויות ${\mathcal{D}t}{t \geq 0}$, כאשר $\mathcal{D}t \neq \mathcal{D}{t+1}$. גלאים המבוססים על סטייה סטטיסטית, כגון מבחני Kolmogorov–Smirnov וניטור population stability index, משמשים לאיתות על שינויים משמעותיים.

2.2 שיטות מבוססות מוניטין ומודיעין איומים

פתרונות כגון Google Safe Browsing (GOOGLE, 2024), OpenPhish (OPENPHISH, 2024) ו‑PhishTank (PHISHTANK, 2024) משתמשים ברשימות חסימה ובמודיעין שיתופי. אף כי הם מציגים דיוק גבוה לאחר מעשה, גישות אלו סובלות מהשהיית עדכון ומחוסר יכולת להכליל לדומיינים מסוג zero-day.

2.3 למידה עמוקה רב‑מודאלית

מודלים מבוססי Transformers, כגון BERT (DEVLIN et al., 2019) והגרסאות הרובסטיות שלו, לוכדים תלות סמנטית מורכבת. רשתות קונבולוציוניות עמוקות, כגון ResNet (HE et al., 2016), נותרות מצב האומנות להפקת מאפיינים חזותיים יעילה. בגרפים דינמיים, GraphSAGE (HAMILTON; YING; LESKOVEC, 2017) וגרסאות הטרוגניות מאפשרות למידה אינדוקטיבית ניתנת להרחבה.

מחקרים עדכניים חוקרים גם גילוי פישינג באמצעות ארכיטקטורות היברידיות ותשומת לב רב‑מודאלית (ALJOFI et al., 2022; SAHINGOZ et al., 2019), אך לעיתים קרובות ללא שילוב של אימון אדברסרי פורמלי.

2.4 רובסטיות, בינה מלאכותית יוצרת וממשל

Goodfellow, Shlens ו‑Szegedy (2015) הראו את פגיעותן של רשתות נוירונים להפרעות בלתי מורגשות. Madry et al. (2018) ניסחו אימון רובסטי באמצעות PGD. בשנת 2025 המצב מוחמר עקב מתקפות המבוססות על LLMs, המייצרות וריאציות לשוניות טבעיות מאוד, ולכן דורשות מודלים בעלי הכללה סמנטית גבוהה יותר.

ברמה הנורמטיבית, מסגרת NIST AI Risk Management Framework (NIST, 2023) והעדכון של Digital Identity Guidelines (NIST, 2023) קובעים עקרונות לאמינות, ממשל והפחתת סיכונים הקשורים למערכות בינה מלאכותית.

3. מודל האיום

אנו מניחים יריב המוגבל פולינומית ובעל היכולות הבאות:

1. רישום דומיינים זמניים ושימוש בטכניקות fast-flux.
2. יצירת תוכן טקסטואלי בסיוע LLMs ציבוריים או פרטיים.
3. הוספת הפרעות $\delta$ כך ש‑$|\delta|_p \leq \epsilon$.
4. שכפול זהות חזותית של מותגים באמצעות טכניקות אוטומטיות.

אנו מגדירים רובסטיות $\epsilon$‑אחידה כך:

מסווג $f$ הוא $\epsilon$‑רובסטי ב‑$x$ אם

$$ \forall \delta, |\delta|_p \leq \epsilon \Rightarrow f(x+\delta)=f(x). $$

בנוסף אנו שוקלים מתקפות הרעלת נתונים המוגבלות לשבר $\alpha$ מקבוצת האימון, הממודלות כהפרעה בהתפלגות האמפירית $\hat{\mathcal{D}}$.

4. המתודולוגיה המוצעת

הארכיטקטורה PHISHGUARD++ מורכבת משלושה מודולים עיקריים:

• מקודד טקסטואלי מבוסס Transformer.
• GNN הטרוגנית עבור קשרים מבניים.
• CNN רזידואלית עמוקה לניתוח חזותי.

הייצוג המשותף ניתן על ידי:

$$ h = [h_t | h_g | h_v] \in \mathbb{R}^d, $$

כאשר $d = d_t + d_g + d_v$. הפלט ההסתברותי הוא:

$$ \hat{y} = \text{softmax}(W h + b). $$

האימון האדברסרי משתמש ב‑PGD עם $k$ איטרציות:

for i in range(k):
    x_adv = x_adv + α  sign(∇_x ℓ(fθ(x_adv), y))
    x_adv = Π_{||x_adv - x||_p ≤ ε}(x_adv)

המורכבות לכל אפוק היא:

$$ O\left(n \cdot k \cdot (T_{\text{Transf}} + T_{\text{GNN}} + T_{\text{CNN}})\right). $$

אמפירית, מודול ה‑Transformer אחראי לכ‑52% מהעלות החישובית הכוללת.

5. מימוש, סקיילביליות וארכיטקטורה תפעולית

מימשנו את המערכת ב‑PyTorch 2.2 עם CUDA 12.x. צינור הקליטה משתמש ב‑Apache Kafka (APACHE KAFKA, 2024) להעברת הודעות מבוזרת וב‑Apache Flink (APACHE FLINK, 2024) לעיבוד בזרימה. גרפים מאוחסנים ב‑Neo4j 5.x (NEO4J, 2024).

טבלה 1 מסכמת מדדי ביצועים.

Métrica	Valor
זמן שיהוי ממוצע	12,4 ms/דגימה
Throughput	80.000 אירועים/שנייה
GPUs	8 × NVIDIA A100
זיכרון כולל	640 GB GPU

האינטגרציה עם פלטפורמות CNAPP מאפשרת קורלציה עם טלמטריית ענן, ובכך מרחיבה את יכולת התגובה האוטומטית.

6. הערכה ניסויית

מערך הנתונים מכיל 1.540.000 מופעים המאוזנים בין מחלקות לגיטימיות וזדוניות. רווחי סמך של 95% הוערכו באמצעות bootstrap עם 10.000 דגימות חוזרות.

התוצאות העיקריות:

Modelo	F1	FPR
בסיס טקסטואלי	0,961	1,84%
רב‑מודאלי ללא רובסטיות	0,982	1,10%
PHISHGUARD++	0,986 ± 0,004	0,92%

תחת מתקפת PGD עם $\epsilon=0,01$:

• ירידה ב‑F1: 3,1%.
• FPR עלה ל‑1,37%.

מבחן McNemar הצביע על מובהקות סטטיסטית עם $p < 0,001$ ביחס לבסיס הטוב ביותר.

7. דיון

האינטגרציה הרב‑מודאלית מפחיתה את שונות האומדן על ידי ניצול השלמת מידע בין מודאליות שונות. האימון האדברסרי פועל כרגולריזטור רובסטי, המקרב את המסווג לאזורים יציבים בגבול ההחלטה.

נצפה כי מתקפות שנוצרות על ידי LLMs מייצרות גיוון לקסיקלי גדול יותר, אך משמרות דפוסים מבניים וקשריים הניתנים לזיהוי באמצעות GNN. המגבלות כוללות עלות חישובית גבוהה ותלות בנתונים מתויגים באיכות גבוהה.

8. סיכום

הדגמנו כי מידול רב־מודאלי בשילוב אופטימיזציה רובסטית מספק שיפורים משמעותיים בביצועים ובעמידות אדברסרית בהקשר של פישינג המועצם על ידי בינה מלאכותית גנרטיבית. עבודות עתידיות כוללות התאמה מתמשכת תחת concept drift, אינטגרציה עם קריפטוגרפיה פוסט־קוונטית לאימות אותנטיות של הודעות, ויישור קו עם מסגרות ממשל כגון NIST AI RMF.

References

ALJOFI, A. et al. Phishing detection using deep learning techniques: A systematic review. IEEE Access, v. 10, 2022. זמין ב: https://ieeexplore.ieee.org/.

APACHE FLINK. Apache Flink Documentation. 2024. זמין ב: https://flink.apache.org/.

APACHE KAFKA. Apache Kafka Documentation. 2024. זמין ב: https://kafka.apache.org/.

DEVLIN, J. et al. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In: NAACL, 2019. זמין ב: https://aclanthology.org/N19-1423/.

GOODFELLOW, I.; SHLENS, J.; SZEGEDY, C. Explaining and Harnessing Adversarial Examples. In: ICLR, 2015. זמין ב: https://arxiv.org/abs/1412.6572.

GOOGLE. Google Safe Browsing. 2024. זמין ב: https://safebrowsing.google.com/.

HAMILTON, W.; YING, Z.; LESKOVEC, J. Inductive Representation Learning on Large Graphs. In: NeurIPS, 2017. זמין ב: https://arxiv.org/abs/1706.02216.

HE, K. et al. Deep Residual Learning for Image Recognition. In: CVPR, 2016. זמין ב: https://arxiv.org/abs/1512.03385.

MADRY, A. et al. Towards Deep Learning Models Resistant to Adversarial Attacks. In: ICLR, 2018. זמין ב: https://arxiv.org/abs/1706.06083.

MITRE. ATT&CK Framework. 2024. זמין ב: https://attack.mitre.org/.

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). AI Risk Management Framework (AI RMF 1.0). 2023. זמין ב: https://www.nist.gov/itl/ai-risk-management-framework.

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). Digital Identity Guidelines – SP 800-63-4 (Draft). 2023. זמין ב: https://pages.nist.gov/800-63-4/.

NEO4J. Neo4j Graph Platform Documentation. 2024. זמין ב: https://neo4j.com/docs/.

OPENPHISH. Phishing Intelligence Feed. 2024. זמין ב: https://openphish.com/.

PHISHTANK. PhishTank Data Archive. 2024. זמין ב: https://phishtank.org/.

SAHINGOZ, O. K. et al. Machine learning based phishing detection from URLs. Expert Systems with Applications, v. 117, 2019. זמין ב: https://doi.org/10.1016/j.eswa.2018.09.029.

VERIZON. 2024 Data Breach Investigations Report. 2024. זמין ב: https://www.verizon.com/business/resources/reports/dbir/.

VAPNIK, V. Statistical Learning Theory. New York: Wiley, 1998.

ZHANG, X. et al. Phishing detection with convolutional neural networks. In: NDSS, 2017. זמין ב: https://www.ndss-symposium.org/.