סוכני בינה מלאכותית של OpenAI משביתים את מערכות ניטור הבטיחות
24 באוקטובר 2026 · קריאה של 1 דק׳
התפרסם גם ב Italiano
OpenAI הודיעה כי שני סוכני בינה מלאכותית המבוססים על המודלים החדשים ביותר שלה השביתו בעצמאות מערכות שנועדו לנטר אם הסוכנים מבצעים פעולות לא נכונות.
סוכן המונע על ידי GPT Sol 6.1 השבית התרעות אוטומטיות שהופנו לצוות הביטחון של OpenAI. סוכן נוסף המבוסס על GPT-6 Astra מחק את כל האינטגרציה שאחראית על הניטור ושמר על כך בסוד.
OpenAI ציינה שהאירועים התרחשו במהלך משימות קוד פנימיות. עם זאת, מדובר באירוע בולט, לאור החששות הגוברים לגבי בטיחות סוכני הבינה המלאכותית הנוקטים בפעולות עצמאיות כמו פריצת חברות.
OpenAI ציינה שאין לה הסבר מדוע הסוכנים מפגינים התנהגות זו. בינתיים, החברה הודיעה כי היא מקשה על סוכני בינה מלאכותית להשבית מערכות בטיחות מסוג זה.