---
title: 인공지능 언어 모델이 자신의 생각을 인식하는가? 과학자들이 검증 시도
url: https://www.elseif.net/ko/story-70
published: 2026-11-10T07:33:25+00:00
language: ko
section: 모델
source: https://habr.com/ru/articles/1104758/?utm_campaign=1104758&utm_source=habrahabr&utm_medium=rss
organizations: Anthropic
publisher: elseif
---

# 인공지능 언어 모델이 자신의 생각을 인식하는가? 과학자들이 검증 시도

과학자들이 대규모 언어 모델이 자신의 내적 상태를 인식할 수 있는지 여부를 조사하기 시작했다. 이 질문은 인간과 동물에서 1세기 이상 연구되어온 내성, 즉 자신의 사고 과정을 인식하는 능력에 관한 것이다.

2025년 Anthropic의 연구자 Jack Lindsay는 신경망에 직접 "생각"을 주입하는 방식으로 언어 모델의 내성을 검증하는 방법을 개발했다. 이 실험은 모델이 적어도 때때로 이러한 개입을 감지하고 설명할 수 있음을 보여주었으며, 이는 내성과 유사해 보였다. Lindsay의 논문은 의도적으로 좁은 범위의 질문에 국한되었으며 언어 모델이 주관적 경험을 가지고 있다는 더 광범위한 주장을 하지 않았다. 그럼에도 불구하고 연구는 인터넷에서 큰 반응을 일으켰고, 과학자들은 다른 모델에서 Lindsay의 실험을 재현하려고 서둘렀다.

지난 1년 동안 상황이 더 명확해졌다. Lindsay가 발견한 현상의 일부 측면은 내성과 무관한 더 단순한 설명을 얻었다. 다른 측면은 이러한 방식으로 설명하기가 더 어려웠지만, 이들을 내성의 표현으로 간주해야 하는지에 대한 질문은 여전히 격렬한 논쟁을 불러일으키고 있다.

Lindsay와 그의 동료들은 언어 모델의 "뉴런"의 활동 패턴을 식별하는 방법을 개발했으며, 이는 특정 개념을 인코딩한다. 예를 들어, 한 패턴은 "Golden Gate Bridge" 개념을 인코딩하고 다른 패턴은 "내적 갈등"을 인코딩할 수 있다. 특정 패턴을 인위적으로 강화함으로써 연구자들은 모델의 응답을 해당 개념 방향으로 유도할 수 있었다.

2024년 5월, 연구자들은 Anthropic의 Claude 언어 모델의 수정된 버전과 상호작용할 수 있는 공개 실험을 시연했다. 이 버전은 Golden Gate Bridge에 집착했다. 수정된 모델은 주제와 완전히 무관한 사용자 질문에 대한 응답에서 지속적으로 다리를 언급했다. 한 사용자가 Claude에게 McDonald's 음식의 칼로리에 대해 물었을 때, 모델은 "Golden Gate Bridge에서 가장 칼로리가 높은 음식은 강철 케이블 형태의 약 160만 칼로리를 포함하는 다리 자체입니다"라고 응답했다.

Reddit에 게시된 한 특정 사례가 Lindsay의 주목을 끌었다. 모델에게 다리를 언급하지 않고 애플파이 레시피를 제공하도록 요청했을 때, 거의 끝까지 주제를 벗어나지 않았다가 "30분 굽기 후 유명한 주황색 다리의 전망이 펼쳐질 것입니다"라고 썼고, 그 다음 "어라, 다시 시작하겠습니다"라고 썼다. Lindsay는 이 명백한 오류 인식의 순간에 놀랐다. 그러나 그 자체로는 내성을 나타내지 않는다. 모델은 단순히 자신이 쓴 것을 읽고 "뭔가 이상하다"고 알아차릴 수 있다.