חוקרים בודקים האם מודלי בינה מלאכותית מודעים לתהליכי החשיבה שלהם

המחקר עורר תגובה נרחבת באינטרנט, וחוקרים מיהרו לשחזר את הניסוי על מודלים אחרים. במהלך השנה שחלפה מאז, התמונה התבררה. חלק מההיבטים של התופעה שגילה לינדסי קיבלו הסברים פשוטים יותר שאינם קשורים לאינטרוספקציה. היבטים אחרים הוכחו כקשים יותר להסבר כזה, אך השאלה האם יש להתייחס אליהם כביטויים של אינטרוספקציה עדיין גורמת לויכוחים עזים בקרב המדענים.

מודלים לשוניים לומדים ליצור משפטים קוהרנטיים על ידי הדרכה על כמויות ענקיות של טקסטים שנכתבו על ידי בני אדם. משום כך, כאשר שואלים אותם על מה הם "חושבים", התשובות עלולות להיות רק חיקוי של הצהרות שהופיעו בנתוני ההדרכה. כדי להימנע מפחים כאלה, חוקרים רוצים לפתח בדיקות אינטרוספקציה שלא ניתן לעבור באמצעות מידע חיצוני. במצב אידיאלי, מודל לשוני צריך להצליח בבדיקות כאלה רק אם הוא באמת מודע למצבו הפנימי הנוכחי.

לינדסי פיתח שיטה לזיהוי דפוסי פעילות של "נוירונים" במודל לשוני המקודדים מושגים מסוימים. לדוגמה, הוא הראה שדפוס אחד מקודד את המושג "גשר Golden Gate" ודפוס אחר מקודד "קונפליקט פנימי". על ידי הגברה מלאכותית של דפוס מסוים, החוקרים יכלו להנחות את תשובות המודל לכיוון המושג המתאים.

בניסוי פומבי במאי 2024, משתמשים במודל Claude של Anthropic יכלו ליצור אינטראקציה עם גרסה חריגה שהייתה אובססיבית לגשר Golden Gate. המודל המשונה הזכיר כל הזמן את הגשר בתשובות לשאלות שלא היו קשורות כלל לנושא זה. כאשר בקשו מהמודל לתת מתכון לעוגת תפוח ללא הזכרת גשרים, הוא כמעט הצליח להישאר בנושא עד הסוף, אך בסוף כתב משהו על הגשר, ואז כתב "אופס, בואו נתחיל מחדש". לינדסי נמשך לרגע זה של מה שנראה כמו מודעות לשגיאה, אך הוא הבהיר שזה לבדו אינו מוכיח אינטרוספקציה.