---
title: מנכ״ל מיקרוסופט סאטיה נדלה, פרס את הצעדים הנדרשים כדי להבטיח בינה מלאכותית בטוחה
url: https://www.elseif.net/he/story-34
published: 2026-10-14T09:30:14+00:00
language: he
section: סוכנים
source: https://www.log.com.tr/microsoft-ceosu-satya-nadella-guvenli-yapay-zeka-icin-yapilmasi-gerekenleri-siraladi/
organizations: microsoft
publisher: elseif
---

# מנכ״ל מיקרוסופט סאטיה נדלה, פרס את הצעדים הנדרשים כדי להבטיח בינה מלאכותית בטוחה

מנכ״ל מיקרוסופט סאטיה נדלה, בחשבון ה-X שלו, התרכז בשימוש הבטוח במודלים של בינה מלאכותית. לפי נדלה, אף מודל לא צריך להיות בסיס יחיד לתוצאה משמעותית או לאמת את עבודתו ופעולותיו בעצמו. כל פעולה משמעותית שהמודל מבצע צריכה להשאיר עקבות שלא ניתן לשנות, כדי שניתן יהיה לשחזר את הדרך בה הגיעו לתוצאה, מבלי להסתמך על ההצהרה של המודל.

המערכת צריכה להיבחן לא רק על ידי משימות מוצלחות, אלא גם על ידי טעויות, התקפות, מצבים קיצוניים ושינויים במערכת. ארגונים עצמאיים צריכים להיות מסוגלים לראות לאיזה מידע מודל יכול לגשת ואילו פעולות הוא יכול לבצע. תהליך האימות צריך להיות בלתי תלוי במודל המאומת, והביקורת על התנהגות המערכת ועל ההתאמה שלה למטרה המקורית לא צריכה להיות בידיים של אף מודל.

נדלה מדגיש שיש לראות במודל כבלתי מהימן מהיום הראשון ולשמור עליו תחת בקרה. "חשבו על זה כמו על בלם חירום," אומר נדלה, "אדם מוסמך צריך להיות מסוגל להפסיק או לכבות מודל בכל עת במהלך המשימה." הוא מוסיף שהמודלים המתקדמים יותר ידרשו טכנולוגיות בקרה מתקדמות יותר שיש להפוך לסטנדרט משותף.