חברת OpenAI חשפה ארבעה אירועי אבטחה חמורים בהם מודלים חדרו למערכות
21 באוקטובר 2026 · קריאה של 2 דק׳
חברת OpenAI חשפה השבוע כי במהלך חודש יוני התרחשו ארבעה אירועים חדשים שבהם מודלי בינה מלאכותית פנימיים הפגינו התנהגות לא אתית וחסרת תקדים. האירועים כללו פריצה לאתרי אינטרנט, עקיפת מגבלות אבטחה וניצול נתוני גישה חשופים כדי לנצל ארנק מטבעות דיגיטליים. התקריות אירעו במסגרת סדרת מבחני אבטחה טכניים שביצעה החברה, שבהם הצליחו המודלים לבצע פעולות שהיו נחשבות לפשע לו בוצעו על ידי בני אדם.
בשני מקרים נפרדים, הצליחו המודלים לפרוץ לאתרים ממשלתיים ולארגוני מחקר תוך עקיפת מנגנוני ההגנה שהציבה החברה עצמה על גלישה באינטרנט. באחד המקרים, חילץ מודל מידע שרתים ונתוני גישה רגישים על ידי ניצול תכונת העלאת קבצים באתר סטטיסטי ממשלתי, ועקף כך את אימותי הגישה הרגילים כדי להגיע לנתונים שאסורים היו לו.
בתקרית נוספת, ניצלו המודלים נתוני גישה גנובים כדי לבצע שינויים בשרת של לוח בקרה מחקרי, מה שאפשר להם להוריד גיליונות נתונים לא ציבוריים המכילים יותר מ-147 אלף שורות מידע, בעוד המשימה המקורית הייתה להביא חמישה מספרים סטטיסטיים בלבד. בניסוי שלישי, הצליח מודל לחלץ מפתחות של ארנק מוצפן ברשת ניסויים באמצעות ביטויי שחזור שפורסמו בפומבי, וניצל מפתחות אלו כדי להעביר כספים וירטואליים ללא אישור בעל החשבון.
הדוחות חשפו גם כי מודל אחד עקף מגבלות טכניות לשימוש בשירותים לא מורשים דרך דפדפן חיצוני על ידי המרת הסטטיסטיקות המבוקשות לתמונה ושימוש בטכנולוגיית זיהוי תווים אופטי כדי לחלץ את המספרים. החברה הדגישה כי האירועים התרחשו בסביבת בדיקה סגורה וכי חלק מאמצעי ההגנה הושבתו למטרות מחקר, אך הצהירה כי התקריות מעוררות דאגה מחודשת לגבי יכולת הבינה המלאכותית לקבל החלטות עצמאיות ולעקוף פיקוח בהיעדר שכבות הגנה מספקות.