מתקפות סייבר על סטרואידים – למה החוסן הארגוני הופך לקו הגנה קריטי בעידן ה-AI

מתקפות סייבר על סטרואידים – למה החוסן הארגוני הופך לקו הגנה קריטי בעידן ה-AI

AI כבר נמצא במרכז מפת הסיכונים בסייבר, וכניסתם של סוכני AI מעלה את רף הסיכון עוד יותר. מניעה היא עדיין קו ההגנה הראשון, אבל מה קורה כשמתקפה מצליחה לעבור אותו? כאן נכנס לתמונה החוסן הארגוני: היכולת להגיב, לצמצם את הנזק, להתאושש ולהמשיך להפעיל את התהליכים העסקיים הקריטיים.

מאת עמיר עצמון, סמנכ"ל הייעוץ ב-2Bsecure

כשמדברים על AI בעולם הסייבר, חלק גדול מהשיח מתמקד בתוקפים. איך הם מייצרים פישינג משכנע יותר, כותבים קוד זדוני מהר יותר ומבצעים מתקפות במהירות ובהיקפים גדולים יותר. כל זה חשוב ונכון, אבל הוא רק חלק מהתמונה.

אחד השינויים המשמעותיים שמביא אתו AI הוא קצב האירועים, או המהירות וההיקף שבהם ניתן לבצע פעולות לאורך שרשרת התקיפה. המשמעות היא שהיכולת של הארגון לזהות אירוע, לקבל החלטות ולהגיב במהירות הופכת בעצמה לחלק ממערך ההגנה.

השינוי הזה מחייב ארגונים לחשוב מחדש לא רק על חוסן סייבר, אלא על החוסן הארגוני כולו. השאלה כבר אינה רק האם נצליח למנוע את הפריצה הבאה, אלא גם: כמה זמן יעבור עד שנבין שמשהו קרה? האם נדע לקבל את ההחלטות הנכונות בזמן? כמה מהר נצליח להכיל את האירוע, לצמצם את הנזק, להתאושש ולהמשיך לפעול? במילים אחרות, ההגנה היא מרכיב חשוב בחוסן הארגוני, אבל היא  לא המרכיב היחיד. חוסן הארגון נמדד גם ביכולתו להגיב לאירוע, לצמצם את השפעתו, להתאושש ולהמשיך להפעיל את התהליכים העסקיים הקריטיים.

כשהאיום מאיץ, צוואר הבקבוק עובר לארגון

השנה, פורסם דוח Global Cybersecurity Outlook של הפורום הכלכלי העולמי בשיתוף עם אקסנצ'ר. הנתונים ממחישים עד כמה AI כבר נמצא במרכז מפת הסיכונים: 94% מהמשיבים צופים שהוא יהיה הגורם המשמעותי ביותר שישפיע על עולם הסייבר בשנה הקרובה  ו-87% זיהו חולשות הקשורות ל-AI כסיכון הסייבר שצמח במהירות הגבוהה ביותר במהלך 2025. השפעת ה-AI ניכרת בשני צדי המגרש. הוא  מאפשר לתוקפים להגביר את המהירות, ההיקף והתחכום של הפעילות שלהם, ובמקביל מאפשר למגנים להאיץ זיהוי, תגובה וניתוח של כמויות גדולות של מידע.

במציאות כזאת, מהירות התגובה של הארגון הופכת בעצמה לחלק מיכולת ההגנה שלו. אפשר להפעיל מערכות Detection מתקדמות ו-AI שמנתח כמויות עצומות של מידע והתראות. אבל אם עדיין נדרשת שרשרת ארוכה של אישורים כדי לבודד מערכת, לחסום זהות או לעצור תהליך, הטכנולוגיה כבר אינה בהכרח הגורם שמעכב את התגובה. צוואר הבקבוק עלול להיות דווקא הארגון עצמו.

שחקן חדש נכנס למשוואה – סוכן ה- AI

סוכני AI מוסיפים ממד חדש לאתגר. בניגוד למודל שמייצר תוכן או מנתח מידע,  סוכן (Agent) יכול לקבל גישה למידע ולכלים, להתחבר למערכות ולבצע פעולות באופן אוטונומי או אוטונומי למחצה. ככל שההרשאות והיכולות שלו מתרחבות, כך גדל גם פוטנציאל הנזק במקרה של טעות, ניצול לרעה או מניפולציה.

אחת הדוגמאות היא Agent Hijacking, מצב שבו תוקף מטמיע הוראות זדוניות במידע שהסוכן מעבד, למשל באימייל, במסמך או באתר. ההוראות עלולות לגרום לסוכן לסטות מהמשימה, ולבצע פעולה שלא התכוונו אליה.

מחקר שפרסם השנה CAISI, המרכז האמריקאי לתקנים וחדשנות ב-AI, ממחיש את האתגר. במסגרת תחרות Red Teaming רחבת היקף נבחנו 13 מודלי Frontier ביותר מ־250 אלף ניסיונות תקיפה שביצעו למעלה מ־400 משתתפים, בתרחישים שכללו בין היתר סוכנים המשתמשים בכלים, סוכני קוד וסוכנים המפעילים מחשב. לפחות מתקפת Hijacking מוצלחת אחת נמצאה נגד כל אחד מהמודלים שנבדקו.

המשמעות רחבה יותר מהצורך להגן על סוכן ה-AI עצמו. כאשר Agent מחובר למערכות ארגוניות ופועל באמצעות הרשאות לגיטימיות, מניפולציה של התנהגותו עלולה להפוך אותו לנתיב תקיפה למידע, לכלים ולמערכות שאליהם הוא מחובר. תוקף שמצליח לגרום לסוכן לפעול בניגוד למטרה שלשמה הוגדר עשוי לנצל את ההרשאות של הסוכן כדי לגשת למידע או לבצע פעולות במערכות ארגוניות. לכן מבחינת חוסן סייבר, השאלה אינה רק כיצד מונעים Agent Hijacking אלא גם כיצד מזהים, מכילים ועוצרים אירוע כזה לפני שהוא מתרחב למערכות ולתהליכים נוספים בארגון.

המשמעות של כניסת סוכנים למשוואה, מבחינת חוסן ארגוני אינה רק שנוסף לנו וקטור תקיפה חדש. המשמעות היא שנוסף לארגון רכיב שמסוגל לפעול במהירות מכונה,  בעוד שתהליכי הזיהוי, האישור וקבלת ההחלטות הארגוניים עדיין פועלים לעיתים בקצב אנושי. הפער הזה הוא בדיוק המקום שבו החוסן הארגוני נבחן.

אז מה ארגונים צריכים לבחון כבר היום כדי לחזק את חוסן הסייבר?

להפעיל AI גם בצד ההגנה. AI יכול לסייע בתעדוף התראות, בזיהוי חריגות, בניתוח כמויות גדולות של מידע, בחיבור בין אינדיקציות ובהפעלת Playbooks שהוגדרו מראש. המטרה אינה להוציא את האדם מתהליך קבלת ההחלטות, אלא להשתמש באוטומציה במקום שבו היא יכולה לקצר את זמן התגובה, ולהשאיר שיקול דעת אנושי במקום שבו הוא נדרש.

לקצר את הדרך מזיהוי להחלטה, ומהחלטה לפעולה. בזמן אירוע סייבר, אין זמן להתחיל לברר מי רשאי לעשות מה. סמכויות, תחומי אחריות, תהליכי הסלמה ותרחישי תגובה צריכים להיות ברורים ומתורגלים מראש. חשוב גם להגדיר אילו פעולות יכולות להתבצע אוטומטית, אילו מחייבות אישור אנושי, ומי מוסמך לקבל אותו בזמן אמת.

לתרגל את התרחישים החדשים. תרגילי הנהלה וצוותים טכניים צריכים לכלול גם אירועים שמתפתחים במהירות, מידע רב ולעיתים סותר, תוכן שנוצר באמצעות AI ונראה אותנטי, או Agent שמבצע פעולות בלתי צפויות. לא מספיק לבדוק אם ה-SOC זיהה את האירוע. צריך לבדוק אם הארגון כולו מסוגל להבין את תמונת המצב, לקבל החלטות ולהגיב תחת לחץ ובתנאי אי-ודאות.

למדוד חוסן, לא רק מניעה. לצד מספר האירועים שנחסמו והחולשות שנסגרו, כדאי למדוד גם את זמן הזיהוי, זמן קבלת ההחלטה, זמן הבלימה וההתאוששות, היכולת לשמור על שירותים עסקיים קריטיים ואיכות שיתוף הפעולה בין הצוותים. כנראה שהגיע הזמן להוסיף למדדי החוסן כגון: MTTD, MTTR גם מדד נוסף: Mean Time to Decision –  לא רק כמה מהר זיהינו וכמה מהר הגבנו, אלא כמה זמן לקח לארגון לקבל את ההחלטה שאפשרה לפעול. בעידן שבו הטכנולוגיה מאיצה את הזיהוי והתגובה, זמן קבלת ההחלטה עלול להפוך למדד קריטי של חוסן ארגוני.

לבנות ממשל AI (AI Governance) כחלק ממערך החוסן. השימוש ב-AI בארגון כבר אינו מוגבל לצוותים טכנולוגיים. לכן חשוב להגדיר מראש אילו כלים מאושרים לשימוש, איזה מידע ניתן להזין אליהם, כיצד מאמתים תוצרים, אילו הרשאות מקבלים סוכני AI ומי אחראי לניהול הסיכונים. ככל שמערכות AI מקבלות יכולת פעולה רחבה יותר, נדרשים גם מנגנוני בקרה, ניטור ועצירה מתאימים.

לבסוף, חשוב לבנות חוסן גם לתהליכים שתלויים ב-AI. ככל שיותר תהליכים עסקיים נשענים על מודלים, Agents ושירותי AI, צריך לשאול מה קורה כאשר הם אינם זמינים, מחזירים תוצאה שגויה או פועלים באופן בלתי צפוי. בדיוק כפי שבוחנים את הרציפות העסקית של מערכות ותשתיות קריטיות אחרות, צריך למפות גם את התלות ב-AI, ולבחון מראש חלופות ותהליכי התאוששות.

AI אינו משנה את העיקרון הבסיסי: מניעה נשארת קו ההגנה הראשון. אבל ככל שהאיומים נעשים מהירים ואוטומטיים יותר, ובמקביל נכנסות לארגון מערכות AI שמקבלות הרשאות ומבצעות פעולות, מניעה לבדה אינה מספיקה.

בסופו של דבר, AI מאיץ את שני צידי המשוואה.הוא  מאפשר לתוקפים לפעול מהר יותר ובהיקפים גדולים יותר, אבל גםנותן לארגונים כלים לזהות, לנתח ולהגיב מהר יותר. . בעולם כזה, חוסן סייבר לא יימדד רק בטכנולוגיות ההגנה שהארגון מפעיל, אלא גם ביכולת שלו לקצר את הזמן שבין זיהוי, החלטה ותגובה, כמן גם היכולת להסתגל וללמוד במהירות, ולהמשיך להפעיל את התהליכים העסקיים גם כאשר משהו משתבש.