סיכון חדש לארגונים המשתמשים בסוכני בינה מלאכותית לאבטחה
3 בנובמבר 2026 · קריאה של 2 דק׳
ארגונים המאמצים סוכני בינה מלאכותית כדי להפוך את פעולות האבטחה, מערכות המידע והענן לאוטומטיות, נתקלים בסיכון המכונה מניעת שירות סוכנית, או ADoS.
המושג תואר על ידי מנהלת שיווק מוצרי בכירה ב-Infoblox, שציינה כי תקלה זו אינה מעמיסה על שרתים או מפילה חומות אש. במקום זאת, התוקף הופך את האוטומציה של ההגנה של הקורבן עצמו לנשק, מה שמונע שימוש יעיל בסוכני הבינה המלאכותית, בתשתיות עליהם הם נסמכים או בשירותים שהם אמורים להגן עליהם. לפי הפרסום, השיבוש קורה כאשר סוכנים מעמיסים על מערכות עם עודף של בקשות, פעולות או חישובים.
אחד הדגמים הוא מניעת אבטחה, שבו המגן הופך למטרה. במרכז פעולות אבטחה הנתמך על ידי בינה מלאכותית, כל התראה מפעילה שרשרת עבודה יקרה. תוקף המייצר אירועים שנראים מעניינים צורך אסימונים, מכסות של ממשקי תכנות יישומים, יכולות העשרה ותשומת לב של אנליסטים. המטרה היא להפוך את ההגנה לאטית, יקרה או מוסחתת מדי כדי למצוא את הפריצה האמיתית. בנוסף, תוקף יכול להרעיל את מקורות הידע שבהם נעזר סוכן הבינה המלאכותית, מה שגורם לו להפיק סיכומים בטוחים אך שגויים.
דגם שני הוא מניעת תשתיות, שבו פעילות הסוכן הופכת לשיבוש עצמו. סוכנים נסמכים על שירותים משותפים כגון מערכת שמות מתחם, ממשקי תכנות יישומים, משאבי ענן ונתיבי רשת. סוכן אמינות אתר שנתקע בלולאת תיקון, או קלט זדוני הגורם למתאם להפעיל עשרות סוכנים מומחים, עלולים לייצר השהיה לסירוגין, הגבלה של ממשקי תכנות יישומים ועלייה בהוצאות הענן.
דגם שלישי מתרחש כאשר מגינים מעניקים אוטונומיה רבה יותר לסוכנים שלהם כדי להדביק את מהירות התוקפים. סוכן תמיכה שאיפס אלפי סיסמאות כי לא זיהה נפילה בספק זהות עלול לעכב את ההתאוששות. תוקף יכול להוביל לבלבול זה במכוון באמצעות הזרקת הנחיה, כך שהתגובה של המגן הופכת למטען של התוקף.
חברת Infoblox ממליצה על ארבעה עקרונות: קבלת החלטות מוקדמת במקום שבו העלות נמוכה, ניטור התנהגות ולא רק אירועים, ביסוס האוטומציה על נתונים מהימנים, והגבלת האוטונומיה של הסוכנים באמצעות תקציבים, הגבלות קצב, אישורים לפעולות בעלות השפעה גבוהה וכפתור כיבוי. החברה מציינת כי אמצעים אלו אינם מחליפים ממשל בשכבות התזמור של בינה מלאכותית וזהות, אך מערכת שמות מתחם היא השכבה שדרכה עובר כמעט כל חיבור תחילה.