Research / Paper Files

Paper Files

Paper Files הם תרגול אישי של לימוד מתמשך ב-cybersecurity שמיישם את השיטה המדעית ככלי למידה. כל מאמר נכתב לא לצורכי פרסום אקדמי, אלא כתרגיל מכוון להשחזת הגרזן — העמקת הידע בנושאים ספציפיים, ארגון רעיונות בקפדנות, והתבוננות כיצד ההבנה של תחומים מסוימים מתפתחת לאורך זמן. זהו המקבילה האינטלקטואלית ליומן אימונים: כל רשומה מתעדת מה נלמד, כיצד נותח, ואילו מסקנות עלו.

אני ממליץ בחום שאנשי אבטחה יאמצו שיטה זו. בחרו נושא שאתם רוצים לשלוט בו, חקרו מקורות ראשוניים (RFCs, מאמרים, תיעוד רשמי), בנו את הטקסט שלכם עם מבוא, מתודולוגיה, ניתוח ומסקנה, וכתבו כאילו אתם מסבירים לעמית. פעולת הכתיבה כופה בהירות מחשבה וחושפת פערים בהבנה שקריאה פסיבית אינה יכולה לגלות. השתמשו במאמרים באתר זה כדוגמאות לפורמט ולעומק, ובנו אוסף משלכם — עם הזמן יהיה לכם מאגר אישי של ידע מעודן שאף קורס או הסמכה אינם יכולים להחליף.

DAI & ADAI · 2026

DAI · EN

DAI: A Domain-Specific LLM with Model-Excluded Authority, Capability-Disjoint Verification, and Recomputable Receipts

DAI (Decripte Artificial Intelligence) is a proprietary domain-specific LLM within a governed autonomous defensive architecture. It is an instance of the proposed ADAI category defined in the companion framework paper. T…

Read paper →ADAI · EN

Autonomous Defensive AI: An Envelope-and-Evidence Framework for Governed LLMs Acting on Production Infrastructure

ADAI (Autonomous Defensive Artificial Intelligence) is a proposed category of governed autonomous cyber defense. The framework specifies defended perimeters, bounded effects, declared rollback and capability-disjoint ver…

Read paper →

הכל Detection DFIR AppSec DevSecOps AI Security IAM Cloud Containers IR Crypto Research Phishing Secrets

11 papers

AI Security

כותרת: ארכיטקטורת הגנה משולבת למערכות מבוססות בינה מלאכותית: מידול פורמלי של איומים, גילוי התקפות אדברסריאליות וניטור תפעולי בסביבות ייצור

כותרת: ארכיטקטורת הגנה משולבת למערכות מבוססות בינה מלאכותית: מידול פורמלי של איומים, גילוי התקפות אדברסריאליות וניטור תפעולי בסביבות ייצור תקציר: האימוץ של מערכות מבוססות למידת מכונה בסביבות ארגוניות הפך מודלים של בינה מלאכותית לרכיבים קריטיים בקבלת החלטות תפעוליות. מערכות אלו החלו לפעול בזיהוי הונאה, סיווג תוכנות זדוניות, מיון רפואי מסייע-תמונה, מערכות המלצה וניתוח התנהגותי בפלטפורמות דיגיטליות. עם זאת, בניגוד לתוכנות מסורתיות, מודלי למידה הם פונקציות פרמטריות המאומנות מנתונים, ובכך נחשפים משטחי תקיפה נוספים הקשורים למניפולציה של קלטים, לזיהום תהליך האימון ולניצול ממשקי הסקה. הספרות העדכנית מתעדת מספר מחלקות של התקפות נגד מערכות למידת מכונה, כולל דוגמאות אדברסריאליות, הרעלת נתונים, חילוץ מודל והסקת חברות. במקביל, שילובן של מערכות אלו בשרשראות DevOps ובתשתיות מבוססות קונטיינרים מייצר סיכונים נוספים הקשורים לשרשרת האספקה של תוכנה ומודלים. עבודה זו מציעה ארכיטקטורת הגנה משולבת למערכות בינה מלאכותית המוטמעות בייצור, המשלבת מידול פורמלי של איומים, מנגנונים סטטיסטיים לגילוי אנומליות, אימות קריפטוגרפי של שלמות וניטור תפעולי מתמשך. אנו מנסחים פורמלית את מושג הסיכון האדברסרי המצטבר כפונקציה של הסתברויות מותנות הקשורות למחלקות שונות של התקפות תחת מודל יריב פרמטרי. לאחר מכן, אנו מציגים גלאי היברידי המבוסס על מרחק מהלנוביס ועל האלגוריתם Isolation Forest, המיושם על ייצוגים לטנטיים של המודל. בנוסף, אנו מציעים מנגנון אימות שלמות המשלב hashing קריפטוגרפי, חתימה דיגיטלית ובדיקות התנהגותיות המבוססות על סטיית התפלגות הפלט. הארכיטקטורה משולבת ב-pipeline תפעולי המבוסס על Kubernetes, עם טלמטריה המתואמת לטכניקות המתוארות במסגרות כגון MITRE ATT&CK ו-MITRE ATLAS. הערכות ניסיוניות בתרחישים מבוקרים מצביעות על עלייה עקבית בחוסן האמפירי נגד התקפות התחמקות ושיפור בגילוי שינויים בלתי מורשים באובייקטי מודל. הניתוח גם מדגים השפעות מתונות על השהיה כאשר מנגנוני ההגנה ממדדים כראוי. התוצאות מצביעות על כך שגישות המשלבות בקרות קריפטוגרפיות, ניתוח סטטיסטי וניטור תפעולי מציעות דרך ישימה מבחינה מעשית להגברת האבטחה של מערכות בינה מלאכותית המוטמעות בייצור.

2008-07-15Read paper →AI Security

כותרת: ארכיטקטורה תפעולית לאבטחת מערכות בינה מלאכותית: מידול איומים, Defense in Depth והערכה אמפירית בסביבות קריטיות

כותרת: ארכיטקטורה תפעולית לאבטחת מערכות בינה מלאכותית: מידול איומים, Defense in Depth והערכה אמפירית בסביבות קריטיות תקציר: כותרת: ארכיטקטורה תפעולית לאבטחת מערכות בינה מלאכותית: מידול איומים, Defense in Depth והערכה אמפירית בסביבות קריטיות תקציר: כותרת: ארכיטקטורה תפעולית לאבטחת מערכות בינה מלאכותית: מידול איומים, Defense in Depth והערכה אמפירית בסביבות קריטיות תקציר: האימוץ המהיר של מערכות בינה מלאכותית (IA) בתשתיות קריטיות הציג מחלקות חדשות של פגיעויות שאינן נלכדות במלואן על ידי מודלים מסורתיים של אבטחת מידע. בניגוד לתוכנה דטרמיניסטית, מודלי machine learning תלויים באופן ניכר בנתוני אימון ובהתפלגויות סטטיסטיות, ובכך יוצרים משטחי תקיפה הקשורים למניפולציה של נתונים, לניצול ממשקי הסקה ולפגיעה בשרשרת האספקה של הנתונים. עבודה זו מציעה ארכיטקטורה תפעולית להגנת מערכות IA המבוססת על עקרונות defense in depth, המשלבת מידול פורמלי של איומים, מנגנונים סטטיסטיים לזיהוי מניפולציה בנתונים ובקרות תפעוליות המשולבות עם מרכזי תפעול אבטחה (SOC). תחילה, אנו מנסחים מודל מתמטי לאפיון תכונות אבטחה רצויות בצינורות למידה מונחית, כולל שלמות סטטיסטית של הנתונים וסודיות פרמטרית של המודל. לאחר מכן, אנו מציגים מנגנוני זיהוי של poisoning של נתונים המבוססים על סטיית Kullback–Leibler ועל ניתוח השפעה של דגימות, בשילוב עם אסטרטגיות אדפטיביות להגבלת קצב שאילתות כדי למתן התקפות חילוץ מודלים. הארכיטקטורה המוצעת משלבת בקרות אבטחה לאורך כל מחזור החיים של מודלי IA, כולל בליעת נתונים, אימון, אריזה ופריסה בסביבות מתוזמרות. המימוש הניסויי עושה שימוש ב-stack טכנולוגי עכשווי הכולל Kubernetes, PyTorch, MLflow, Suricata ואינטגרציה עם SIEM ארגוני. אנו מעריכים אמפירית את הגישה בסביבת מעבדה המייצגת תשתית קריטית, תוך שימוש במערכי נתונים ציבוריים של אבטחה ובתרחישי יריב מבוקרים. התוצאות מצביעות על הפחתה משמעותית ביעילות של התקפות יריב והתקפות חילוץ מודלים, עם השפעה תפעולית מתונה במונחים של השהיה וצריכת משאבי חישוב. מחקר מקרה בתרחיש של זיהוי antifraude מדגים את ישימות הארכיטקטורה בהקשרים תפעוליים ממשיים. כמו כן, אנו דנים בהשלכות על הממשל של IA ובהתאמה למסגרות נורמטיביות מתהוות, כגון NIST AI Risk Management Framework. התוצאות מצביעות על כך שמנגנונים סטטיסטיים המשולבים עם בקרות תפעוליות מסורתיות מהווים אסטרטגיה יעילה להפחתת סיכונים הקשורים לאימוץ הגובר של IA בסביבות קריטיות.

2008-07-08Read paper →AI Security

כותרת: ארכיטקטורת אבטחה משולבת למערכות בינה מלאכותית: מידול פורמלי של איומים, גילוי התקפות אדברסריאליות והקשחה תפעולית בסביבות ארגוניות

כותרת: ארכיטקטורת אבטחה משולבת למערכות בינה מלאכותית: מידול פורמלי של איומים, גילוי התקפות אדברסריאליות והקשחה תפעולית בסביבות ארגוניות תקציר: השילוב המהיר של מערכות בינה מלאכותית (IA) בתשתיות ארגוניות קריטיות הציג מחלקה חדשה של סיכוני אבטחה החורגת ממודלים מסורתיים של הגנה סייברית. מודלים של למידה עמוקה, שירותי אינפרנס החשופים באמצעות API, ולאחרונה גם Large Language Models (LLMs), החלו להשתלב ב-pipelines תפעוליים האחראים להחלטות רגישות, כולל גילוי הונאות, סיווג אוטומטי ותגובה לאירועים. עם זאת, מחקרים עדכניים מראים כי מערכות אלו מציגות פגיעויות מבניות, כולל התקפות אדברסריאליות, חילוץ מודל, הסקת חברות (membership inference) והרעלת נתונים. נוסף על כך, האקוסיסטם התפעולי התומך ביישומי IA נותר חשוף לאיומים מסורתיים של תשתית, ובכך מרחיב את משטח התקיפה. בעבודה זו אנו מציעים ארכיטקטורת אבטחה משולבת למערכות IA המשלבת מידול פורמלי של איומים, מנגנוני גילוי של התקפות אדברסריאליות ופרקטיקות hardening תפעוליות המיועדות לסביבות ארגוניות. ראשית, פיתחנו מודל איום מאוחד המשלב את הטקסונומיות MITRE ATT&CK ו-MITRE ATLAS, ומאפשר למפות וקטורי תקיפה ספציפיים ללמידת מכונה בתוך frameworks מבוססי-כבר להגנה סייברית. לאחר מכן, ניסחנו באופן פורמלי את בעיית החוסן האדברסריאלי מנקודת מבט של אופטימיזציית min–max והצגנו מנגנון גילוי המבוסס על אנטרופיית פלט והערכת ממדיות פנימית מקומית כדי לזהות קלטים אדברסריאליים פוטנציאליים בזמן אינפרנס. הארכיטקטורה המוצעת משלבת גם ניטור של drift סטטיסטי, ולידציה של שלמות ה-pipeline של הנתונים ואינטגרציה עם פלטפורמות SIEM לצורך תגובה תפעולית. המימוש בוצע באמצעות PyTorch, Suricata, Elastic Stack ותשתית Kubernetes, המשקפים פרקטיקות הנפוצות בסביבות ארגוניות עד 2023. ההערכה הניסויית בוצעה בתרחישים של ראייה ממוחשבת וגילוי חדירה תוך שימוש במערכי הנתונים CIFAR‑10 ו-UNSW‑NB15. התוצאות מצביעות על שיפור מהותי בחוסן כנגד התקפות FGSM ו-PGD, וכן על ירידה משמעותית בזמן התגובה התפעולי הממוצע במרכזי תפעול אבטחה (SOC). הממצאים מצביעים על כך שגישות מבודדות של חוסן אדברסריאלי אינן מספקות, וכי יש להתייחס לאבטחת IA כאל בעיה מערכתית המשלבת שיטות מתמטיות, הנדסת תוכנה מאובטחת וניטור רציף של התשתית.

2008-07-01Read paper →AI Security

כותרת: ארכיטקטורה פורמלית לאבטחת מערכות בינה מלאכותית: מידול איומים, אימות יריב ומיתון חזק עם ערבויות כימותיות

כותרת: ארכיטקטורה פורמלית לאבטחת מערכות בינה מלאכותית: מידול איומים, אימות יריב ומיתון חזק עם ערבויות כימותיות תקציר: ההטמעה הגוברת של מערכות בינה מלאכותית (IA) בתשתיות קריטיות, שירותים פיננסיים, פלטפורמות דיגיטליות וסביבות תעשייתיות יצרה משטח תקיפה חדש, שמורכבותו חורגת מן הפרדיגמות המסורתיות של אבטחת מחשבים. מודלים של למידה עמוקה פגיעים להתקפות יריביות, להרעלת נתונים, לחילוץ מודלים ולהסקת תכונות רגישות, ובכך נפגעים הסודיות, השלמות והזמינות. בעבודה זו אנו מציעים ארכיטקטורה פורמלית משולבת לאבטחת IA, המשלבת מידול מתמטי של איומים, אימות יריב אוטומטי ומנגנוני מיתון חזקים עם ערבויות כימותיות. המתודולוגיה שלנו מאחדת שלושה רכיבים: (i) מודל פורמלי של יריב המותאם לפרמטרים של תקציב חישובי ויכולת גישה, (ii) מנגנון לזיהוי אנומליות המבוסס על סטייה סטטיסטית אדפטיבית, ו-(iii) מודול של חוסן מאושר באמצעות אופטימיזציה קמורה מרוככת. יישמנו אבטיפוס בסביבות PyTorch ו-TensorFlow, והערכנו אותו על קבוצות הנתונים CIFAR-10, ImageNet-subset ו-UNSW-NB15. תחת התקפות PGD עם ε = 8/255, שיטה זו העלתה את הדיוק החזק מ-32.4% (baseline) ל-61.7%, עם סטיית תקן של 1.8%. בתרחישי הרעלה עם 10% נתונים פגומים, הפחתנו את ההשפעה על שגיאת ההכללה ב-47%. כמו כן הראינו ירידה של 63% בשיעור ההצלחה של התקפות חילוץ מודל. ניתוח המורכבות מצביע על תוספת תקורה ממוצעת של 18% בזמן ההסקה, תוך שמירה על היתכנות תפעולית. תוצאותינו מדגימות כי שילוב שיטתי של אימות פורמלי ומיתון המבוסס סטטיסטית מהווה התקדמות מהותית בהנדסת אבטחת IA, ומספק ערבויות מדידות המתואמות עם הנחיות NIST AI Risk Management Framework.

2007-08-09Read paper →AI Security

כותרת: ארכיטקטורה פורמלית לאבטחת מערכות בינה מלאכותית: מודל מאוחד להגנה מפני התקפות אדברסריאליות, הרעלה וחילוץ מודלים

כותרת: ארכיטקטורה פורמלית לאבטחת מערכות בינה מלאכותית: מודל מאוחד להגנה מפני התקפות אדברסריאליות, הרעלה וחילוץ מודלים תקציר: השילוב ההולך וגובר של מערכות בינה מלאכותית (AI) בתשתיות קריטיות, בשירותים פיננסיים, בפלטפורמות בריאות ובסביבות תעשייתיות הרחיב באופן משמעותי את משטח התקיפה הסייברנטי. מודלים של למידת מכונה (ML) ולמידה עמוקה (DL) מציגים פגיעויות ייחודיות, לרבות התקפות אדברסריאליות, הרעלת נתונים וחילוץ מודלים, אשר אינן ממוזערות באופן מספק באמצעות מנגנוני אבטחת מידע מסורתיים. בעבודה זו אנו מציעים ארכיטקטורה פורמלית מאוחדת לאבטחת AI, המשלבת מנגנוני חוסן סטטיסטי, זיהוי אנומליות בזמן ריצה והבטחות קריפטוגרפיות. המתודולוגיה שלנו משלבת (i) רגולריזציה אדברסריאלית אדפטיבית, (ii) זיהוי הסתברותי המבוסס על סטיית התפלגויות, ו-(iii) מנגנוני הוכחת שלמות תוך שימוש בפונקציות hash מאומתות ובאימות מרחוק. אנו מבצעים פורמליזציה של הבעיה במסגרת מודל איום פרמטרי ומדגימים כי הגישה שלנו מפחיתה את שיעור ההצלחה של התקפות אדברסריאליות מ-78.4% ל-12.7% בתרחישי קופסה לבנה ומ-64.2% ל-18.9% בתרחישי קופסה שחורה. בהתקפות הרעלה עם שיעור זיהום של 10%, נצפתה ירידה בהשפעה על הדיוק מ-22.5% ל-4.3%. ההתקורה החישובית הממוצעת הייתה 11.6% בהסקה ו-18.2% באימון. הערכנו את המערכת בשלושה מערכי נתונים נפוצים (CIFAR-10, ImageNet-Subset ו-UNSW-NB15) והשווינו אותה מול הגנות ייחוס, כולל adversarial training קלאסי ומנגנונים המבוססים על זיהוי סטטיסטי מבודד. התוצאות מדגימות עליונות מובהקת סטטיסטית (p < 0.01) בחוסן וביציבות. אנו מסיקים כי אבטחת AI צריכה להיות מטופלת כתחום פורמלי בעל תכונות הניתנות לאימות, ולא כהרחבה אד-הוק של אבטחה מסורתית.

2007-08-02Read paper →AI Security

כותרת: ארכיטקטורה הניתנת לאימות פורמלית לאבטחת מודלי למידת מכונה תחת מתקפות אדפטיביות: מסגרת משולבת של חסינות, ניטור והבטחות קריפטוגרפיות

כותרת: ארכיטקטורה הניתנת לאימות פורמלית לאבטחת מודלי למידת מכונה תחת מתקפות אדפטיביות: מסגרת משולבת של חסינות, ניטור והבטחות קריפטוגרפיות תקציר: השילוב ההולך וגובר של מודלי למידת מכונה (ML) בתשתיות קריטיות הציג משטח תקיפה חדש באקוסיסטם של אבטחת הסייבר. מתקפות אדברסריאליות, הרעלת נתונים, חילוץ מודלים והסקת מאפיינים הוכיחו את שבריריותם של מערכות מבוססות בינה מלאכותית, עם השפעות מתועדות במגזרי הפיננסים, הבריאות והביטחון. בעבודה זו אנו מציעים ארכיטקטורה משולבת ומבוססת פורמלית לאבטחת מודלי ML תחת יריבים אדפטיביים, המשלבת חסינות אדברסריאלית מאומתת, גילוי סטיות התנהגותיות בזמן ריצה והבטחות קריפטוגרפיות לשלמות ולסודיות. המתודולוגיה שלנו מנסחת שלושה רכיבים מרכזיים: (i) אימון חסין עם רגולריזציית Lipschitz ואימות הסתברותי; (ii) ניטור מקוון המבוסס על מידול סטטיסטי של התפלגויות לטנטיות וזיהוי אנומליות באמצעות מבחנים סדרתיים; ו-(iii) עטיפה קריפטוגרפית עם אטסטציה מרוחקת ומחשוב חסוי. אנו ממסגרים פורמלית את מודל האיום עם יכולות המיושרות ל-MITRE ATT&CK (T1565, T1190, T1027) ומגדירים תכונות אבטחה מדידות. הערכנו את הארכיטקטורה בשלושה מערכי נתונים (CIFAR-10, UNSW-NB15 ו-MIMIC-III) ובשני תרחישי גילוי חדירה בעולם האמיתי. בהשוואה ל-baselines של חסינות אדברסריאלית (PGD-training) ולגילוי מבודד, המסגרת שלנו הפחיתה את שיעור ההצלחה של מתקפות אדברסריאליות מ-78.4% ל-21.7%, זיהתה 93.2% ממתקפות ההרעלה עם שיעור חיובי-שגוי של 3.8%, ושמרה על overhead חישובי ממוצע של 11.6%. אנו מראים כי אינטגרציה שיטתית של מנגנונים פורמליים ותפעוליים מספקת שיפורים מהותיים בחוסן מערכתי, ומבססת קווים מנחים קונקרטיים לפיתוח בטוח של מערכות AI בסביבות עתירות סיכון.

2007-07-26Read paper →AI Security