חוסר הסכמה בין מנהלים על מי אחראי לבעיות בינה מלאכותית

סקירה חדשה של חברת PwC חושפת חוסר הסכמה משמעותי בקרב מנהלי ארגונים לגבי השאלה מי צריך לשאת באחריות ולנהל את הבעיות העולות בעקבות השימוש בבינה מלאכותית. הממצאים מתבססים על ראיונות עם כ-4,000 מנהלי עסקים ומנהלי טכנולוגיה ב-71 מדינות, והם חושפים את המצב הנוכחי של ארגונים המנסים להתמודד עם אתגרים חדשים.

הסקירה, שפורסמה תחת השם Digital Trust Insights 2027, מציינת כי בעוד שבערך מחצית מהארגונים ישנה הבנה ברמה ההנהלתית הן לגבי היתרונות והן לגבי החסרונות של הטכנולוגיה, אין בהם תפקיד יחיד המגדיר באופן ברור את האחריות לניהול ולביטחון של סוכני בינה מלאכותית. חוסר בהירות זה יוצר פער מנהלי בארגונים רבים.

לגבי נושא האחריות הספציפית, רק שליש מהארגונים, כלומר 33 אחוז, מבינים את הצורך באחריות מוגדרת ומעסיקים אנשים בתפקידים ייעודיים כמו מנהל בינה מלאכותית בכיר או דירקטור לבינה מלאכותית. השאלה המרכזית העולה מהנתונים היא האם תפקידים טכנולוגיים אלו כוללים גם אחריות כוללת לביטחון ולמשילות של מערכות הבינה המלאכותית.

התשובות לגבי מי צריך לשאת באחריות זו מתחלקות. 29 אחוז מהמנהלים הבכירים, כולל מנכ"לים ומנהלי ביטחון וסיכונים, סבורים שהאחריות מוטלת על מנהלי מידע, מנהלי טכנולוגיה בכירים או תפקידים טכנולוגיים דומים. לעומת זאת, 17 אחוז מהנשאלים סבורים שהאחריות מוטלת על מנהלי ביטחון מידע או על צוותי ביטחון סייבר, בעוד ש-26 אחוז סבורים שהאחריות צריכה להיות אצל מנהל בינה מלאכותית ייעודי או מחלקה ייעודית לכך.

מנהל אסטרטגיית מוצרים בכיר בחברת RSA, ג'ים טיילור, ציין כי יש צורך להחיל את אותן שיטות ניהול זהויות ששימשו בעבר להבטחת ביטחון של משתמשים אנושיים גם על ניהול סוכני בינה מלאכותית. טיילור הדגיש כי לכל מודל או סוכן יש זהות, והם קשורים לפרטי זיהוי שונים עם רמות גישה שונות למשאבים ולמידע, ומסוגלים לבצע משימות במקום עובדים אנושיים.

טיילור ציין כי ארגונים ימשיכו להשקיע בבינה מלאכותית, מה שמשווה להעסקת עובדים שאינם נראים לעין וקשה לשלוט בהם. הוא הדגיש כי בעוד שהסוכנים עצמם לא יישאו באחריות משפטית על הפרות, הארגונים כן יישאו באחריות, ולכן נדרשים אמצעים אבטחתיים מתאימים.