תוכן העניינים
הרבה נכתב על בינה מלאכותית באבטחת סייבר בשנה האחרונה. רוב המאמרים נוטים להתמקד באותם דברים – הזרקת פרומפטים, הלוצינציות, מניפולציית מודלים, דיפ-פייקים, התקפות עוינות. ולשם הבהרה, הסיכונים האלה חשובים. אך כאשר מנהלי אבטחת מידע (CISOs) מדברים על בינה מלאכותית באופן פרטי – או לפחות בכנות – הם בדרך כלל אינם מתחילים בכלל עם המודל.
עבור מנהיגי אבטחה רבים, האתגר האמיתי עם AI אינו נראה כמו מדע בדיוני. הוא מרגיש כמו משבר זהות.
ממה מנהלי אבטחת מידע באמת מודאגים
בדיון שנערך לאחרונה בקרב מנהיגי אבטחה, החששות סביב AI היו פרקטיים באופן מפתיע. השיחה לא נשלטה על ידי פחדים מ-AI "שיוצאת מכלל שליטה".
במקום זאת, ה-CISOs חזרו שוב ושוב לנושאי תפעול מוכרים: חשבונות שירות בעלי הרשאות יתר, מפתחות API נשכחים, זהויות מכונה שאף אחד לא זוכר שיצר אותן, צוותים המתנסים בכלי AI מחוץ לממשל תקין, ותהליכי עבודה שהגיעו איכשהו לייצור לפני שמישהו באמת עצר לשאול מי הבעלים שלהם.
במילים אחרות:
AI אולי מציגה יכולות חדשות – אך היא חושפת חולשות ממשל ישנות, והיא עושה זאת במהירות מכונה. האתגר אינו רק אבטחת מודלי AI. הוא הבנה כיצד AI פועלת בתוך אקו-סיסטמים קיימים של זהויות.
טשטוש זהות אדם-מכונה
מאמר אקדמי עדכני מציג מונח לאתגר המתהווה הזה: טשטוש זהות אדם-מכונה (The Human-Machine Identity Blur).
המחקר מתאר חפיפה הולכת וגוברת בין אנשים לעוזרי AI, סוכנים אוטונומיים וזהויות מכונה, ממשקי API ועומסי עבודה בענן. ככל שמערכות אלו מתחילות לפעול זו בשם זו, הגבול המסורתי בין אדם למכונה מתחיל לדהות, והזהות מפסיקה להיות משהו בינארי. היא כבר לא אנושית או מכונה. במקום זאת, היא הופכת להיות יותר כמו ספקטרום: מונעת על ידי אדם, בסיוע AI, אוטונומית חלקית, אוטומטית לחלוטין.
ובאיזשהו מקום בשרשרת זו, האחריות מתחילה להיטשטש.
אדם מול מכונה: האם זה עדיין הגיוני?
רוב תוכניות ניהול זהויות וגישה (IAM) עוצבו עבור גבולות ברורים יחסית: עובדים מצטרפים, תפקידים מוקצים, מערכות מופעלות, הרשאות נבדקות, ובסופו של דבר הגישה מוסרת.
היום, המודל הזה מתחיל להרגיש פחות פשוט. עובד יכול להאציל משימות לעוזר בינה מלאכותית אשר:
- מבצע שאילתות במערכות פנימיות
- מאחזר נתונים רגישים
- מפעיל תהליכים עסקיים
- יוצר או פורס קוד
- ניגש לממשקי API של צד שלישי
בנקודה זו, השאלה האם זהות היא "אנושית" או "מכונה" מתחילה להרגיש מיושנת. מה שבעבר היה אירוע גישה די פשוט יכול כעת לכלול מספר זהויות, מספר מערכות, הרשאות תורשתיות, ובעלות הפרושה על פני צוותים שאולי אפילו לא מבינים שהם חלק מאותה שרשרת. מבחינה טכנית, כולם היו מעורבים. מבחינה תפעולית, זה המקום שבו ארגונים רבים מתחילים לאבד בהירות.
מספרים אינם משקרים: מדוע סיכון זהות מכונה אינו עוד תיאורטי
המחקר מגבה את מה שרבים מהעוסקים בתחום כבר מרגישים. לפי המאמר, זהויות מכונה עולות כעת במספרן על זהויות אנושיות ביחס של כ-43 ל-1 בארגון הממוצע. מדאיג עוד יותר הוא שחצי מהארגונים דיווחו על אירועי אבטחה הקשורים לזהויות מכונה שנפגעו בשנה האחרונה.
מקור תמונה: Janani, K. (2025), The Human-Machine Identity Blur: A Unified Framework for Cybersecurity Risk Management in 2025, arXiv:2503.18255.
מה שחושפני עוד יותר היא הבעלות.
מקור תמונה: Janani, K. (2025), The Human-Machine Identity Blur: A Unified Framework for Cybersecurity Risk Management in 2025, arXiv:2503.18255.
האחריות על זהויות אלו לעיתים קרובות מפוצלת בין צוותי אבטחה, מפתחים, מהנדסי פלטפורמה, צוותי ענן, ולעיתים אין אף אחד ספציפי. משמעות הדבר היא שהזהויות הצומחות במהירות הרבה ביותר הן לרוב אלו שמקבלות את הניהול הכי פחות עקבי.
מניהול זהויות לממשל זהויות
במשך שנים, ניהול זהויות עסק בעיקר בשאלה אחת: למי יש גישה?
שאלה זו עדיין רלוונטית, אך בסביבות המונעות על ידי בינה מלאכותית, היא כבר לא מספרת את כל הסיפור. כיום, צוותי אבטחה נאלצים יותר ויותר לשאול שאלה מורכבת יותר: מי באמת פועל בתוך הסביבה, בשם מי, באמצעות אילו הרשאות, ועם כמה אוטונומיה?
זה משנה את האופן שבו ארגונים חושבים על אחריות, ניטור, סיכון, ואפילו על אמון עצמו. מניהול זהויות סטטי לממשל זהויות מתמשך.
בפועל, זה אומר:
- מיפוי שרשראות האצלת סמכויות אדם למכונה
- החלת עקרון הרשאות מינימליות (least privilege) על זהויות מכונה
- ניטור שינויים התנהגותיים על פני חשבונות אנושיים ולא אנושיים
- יצירת אחריות על פני מחזור חיי הזהות
במילים אחרות, השיחה מתחילה לזוז מניהול זהויות סטטי לעבר ממשל זהויות מתמשך.
מספיק דיבורי AI: השינוי הפרקטי עבור מנהלי אבטחת מידע
ארגונים שיצליחו עם בינה מלאכותית הם לאו דווקא אלה שיפרסו את כלי הבינה המלאכותית הרבים ביותר.
הם יהיו אלה שיכולים לענות, בזמן אמת:
- מי יזם פעולה זו?
- אילו זהויות היו מעורבות?
- אילו הרשאות ירשו?
- אילו מערכות הושפעו?
- איזה סיכון עסקי זה יוצר?
לרוב הארגונים כבר יש יומנים (logs), התראות, לוחות מחוונים וכלי זהות. מה שלרוב חסר להם זו היכולת לחבר את האותות הללו מהר מספיק כדי להבין מה באמת קורה – ומה דורש פעולה מיידית.
כאן AI הופכת לבעלת ערך תפעולי – לא כמנוע התראות נוסף, אלא כשכבה תומכת החלטות.
מסקנה
AI לא יצרה כאוס זהויות; היא חשפה עד כמה ממשל הזהויות היה מפוצל.
עבור מנהלי אבטחת מידע, המסקנה הפרקטית ברורה – אבטחת AI אינה רק הגנה על מודלים. זוהי ניהול הזהויות ש-AI יורשת, יוצרת ופועלת באמצעותן.
הארגונים שיכירו בשינוי זה מוקדם יתקדמו מעבר לניסויי AI לעבר חוסן תפעולי מופעל AI.
לקריאה נוספת
פוסט זה בבלוג התבסס על התובנות שהוצגו ב: Janani, Kush. “The human-machine identity blur: A unified framework for cybersecurity risk management in 2025.” arXiv preprint arXiv:2503.18255 (2025). https://doi.org/10.48550/arXiv.2503.18255