המרכז הקריפטולוגי הלאומי מציע מתודולוגיה חדשה להערכת אבטחת מוצרים עם אינטליגנציה מלאכותית
6 בנובמבר 2026 · קריאה של 1 דק׳
המרכז הקריפטולוגי הלאומי (CCN) הציג את המדריך CCN-STIC-2011, תחת הכותרת מתודולוגיה להערכת אבטחת מוצרים - אינטליגנציה מלאכותית (ESP-IA). המדריך כולל גם שני נספחים: תבנית הצהרת אבטחה ותבנית דוח טכני להערכה.
עם פרסום זה, המטרה של CCN היא לפעול מול הסיכונים של מוצרים עם אינטליגנציה מלאכותית שאינם מכוסים על ידי הערכות מסורתיות. בצורה זו, המדריך מדגיש פגיעויות הקשורות ללמידה של מערכות אלו, לפרשנות של הנחיות, לזיכרון מידע ולביצוע פעולות.
המדריך מתייחס לאיומים כמו הימנעות מקבלת החלטות, הזרקת הנחיות, רעל, חילוץ מודלים, דליפת מידע מוגן, מיצוי משאבים ושימוש לרעה בכלים ופעולות על ידי מערכות אייג'נטיות.
בנוסף, הוא כולל שני עקרונות חיוניים: פיקוח אנושי לפני ביצוע פעולות קריטיות או בלתי הפיכות והיכולת למעקב אחר פעולות האינטליגנציה המלאכותית.
תהליך ההערכה של המוצרים מותאם לתכנים של כל מוצר. היצרן מתאר את הארכיטקטורה שלו ועונה על שאלון לגבי יכולות האינטליגנציה המלאכותית; על סמך מידע זה, מטריצה קובעת אילו מתוך 27 דרישות יש לעמוד בהן.
מעבדה מאושרת על ידי ה-CCN מאמתת כל דרישה רלוונטית ומבצעת בדיקות חדירה נוספות, בהתבסס על מדריך הבדיקות של OWASP לאינטליגנציה מלאכותית.