דו"ח מצביע על פערים אבטחתיים בשימוש בסוכני בינה מלאכותית של צד שלישי

סוכנים אלו מדלגים על נקודת הבחירה שמאפשרת לבצע סריקת מודלים, בדיקת הנחיות או קביעת מדיניות שימוש. דוגמה לכך היא Slack Code של Salesforce, שהושק באוגוסט 2026. הוא מאפשר למשתמשים לתייג סוכן קידוד לשיחה, כאשר הסוכן קורא את ההקשר, כותב קוד ופותח בקשת מיזוג. למרות ההבטחה שהסוכנים יירשו את מודל האבטחה והבקרות של Slack, עבור צוותי אבטחה מדובר בגורם אוטונומי עם גישה ל-GitHub ולתשתיות ייצור, שניהולו מבוסס רק על חברות בערוץ צ'אט.

קיימים שלושה וקטורים להשקת סוכנים: סוכנים שהורחשו בתוך פלטפורמות קיימות דרך עדכוני מוצר, סוכנים שהוגדרו על ידי הארגון באמצעות הנחיות ולוגיקה שרצים על תשתית של צד שלישי, וסוכנים שנבנו על מסגרות פתוחות בתשתית שבבעלות הארגון. שני הסוגים הראשונים מהווים את רוב האימוץ וגדלים במהירות, בעוד שהסוג השלישי הוא הקטן ביותר והוא היחיד שניתן לסרוק את מאגר הקוד שלו.

סיכוני האבטחה אינם נמצאים במודל עצמו, אלא במבנה שסביבו ובמערכת שבה הוא פועל. שאלות מפתח לאבטחה כוללות את בדיקת רישום הסוכן, הגדרת ההרשאות שירש, היכולת שלו להגיע למאגרי נתונים וסוכנים אחרים, ובדיקת התנהגותו בפועל לעומת תיאור ההנחיה שלו.

Patrick Opet, מנהל אבטחת המידע הגלובלי של JPMorgan Chase, הגדיר בשנת 2025 את שרשראות האספקה של צד שלישי כסיכון מערכתי והחיל בחינה דומה על סוכנים. הוא טוען כי סוכן צריך לקבל זהות אך ללא הרשאות כברירת מחדל. במקביל, חוקי הבינה המלאכותית של האיחוד האירופי, שנכנסים לתוקף במהלך 2026, מחייבים ארגונים לנהל רשימה של מערכות בינה מלאכותית ולמנות להן בעלים.

כדי להתמודד עם מספרים גדלים של סוכנים, פלטפורמות כמו Reco פיתחו כלים כגון Reco Graph, המחברים זהויות אנושיות ולא אנושיות, אפליקציות והרשאות לתצוגה חיה אחת, כדי לנתח את טווח ההגעה של הסוכן במקום רק את הגדרותיו.