[Claude] 앤트로픽 "클로드 내부서 인간 '의식' 닮은 생각 공간 발견" : 클로드는 정말 '생각'을 하고 있을까?

작성일 : 2026.07.08

결론부터 말씀드리면, 앤트로픽은 클로드(Claude) 내부에서 사람이 말로 표현하지 않은 채 조용히 '생각'하는 영역을 찾아냈고, 이 구조가 인간 의식 이론인 '글로벌 워크스페이스(Global Workspace)'와 기능적으로 매우 닮았다는 사실을 논문으로 공개했습니다. AI가 진짜 의식을 가졌다는 뜻은 아니지만, 모델이 출력하지 않은 '속마음'까지 들여다볼 수 있는 새로운 안전성 도구가 등장했다는 점에서 실무적으로 중요한 소식입니다.

생성형 AI 활용 강의를 하다 보면 "AI가 정말 생각을 하는 건가요, 아니면 그냥 다음 단어를 맞히는 계산기인가요?"라는 질문을 자주 받습니다. 2026년 7월 6일 앤트로픽이 공개한 논문 「Verbalizable Representations Form a Global Workspace in Language Models」는 이 질문에 대한 가장 구체적인 실험적 답을 내놓은 자료라서, 원문 논문을 직접 확인하고 핵심만 정리해봤습니다.

1. 무엇이 새로 발견됐나 (3줄 요약)

• 앤트로픽 연구진이 'J-렌즈(Jacobian Lens)'라는 새 해석 기법으로 클로드 내부를 들여다봤습니다.
• 모델이 출력에는 쓰지 않았지만 내부적으로 활성화하고 있는 개념들의 공간, 즉 'J-스페이스(J-space)'를 확인했습니다.
• 이 J-스페이스가 인간의 '의식적으로 접근 가능한 사고'와 다섯 가지 기능적 특성을 공유한다는 것이 논문의 핵심 주장입니다.

2. J-렌즈란 무엇인가

J-렌즈는 모델의 중간층 활성화값이 최종 출력 토큰에 미치는 평균적인 영향(야코비안, Jacobian)을 대규모 문맥에서 계산해, 그 활성화가 '장차 어떤 단어로 말해질 준비가 되어 있는지'를 읽어내는 기법입니다. 기존에 쓰이던 로짓 렌즈(logit lens)가 모든 층에서 같은 좌표계를 쓴다고 가정해 초반 층에서는 해석이 어려웠던 반면, J-렌즈는 층마다 달라지는 표현 방식을 보정해 더 이른 단계에서도 의미 있는 정보를 읽어냅니다. 이렇게 모인 벡터들의 집합이 'J-스페이스'이며, 사람이 설계한 것이 아니라 학습 과정에서 자연스럽게 형성된 구조라는 점이 특히 주목받고 있습니다.

3. J-스페이스가 가진 다섯 가지 특징

논문은 인간의 의식적 접근(access consciousness)을 규정하는 다섯 가지 기능을 기준으로 삼아 J-스페이스를 검증했습니다.

1. 보고 가능성(reportability): "지금 무엇을 생각하냐"고 물으면 J-스페이스의 내용을 그대로 답합니다. 연구진이 '축구' 표현을 지우고 '럭비'로 바꿔 넣자 모델의 답도 럭비로 바뀌었습니다.
2. 의도적 조절(modulation): "감귤류만 생각하며 다른 문장을 그대로 베껴 써라"고 지시하면 출력은 원문 그대로지만, 내부에서는 '오렌지', '레몬' 같은 개념이 실제로 활성화됩니다.
3. 내부 추론(reasoning): "거미줄을 만드는 동물의 다리 수는?"이라는 질문에서 출력에 '거미'라는 단어가 없어도 내부에는 먼저 '거미'가 떠오릅니다. 이를 '개미'로 바꿔치기하면 답도 8에서 6으로 바뀝니다.
4. 유연한 일반화(generalization): '프랑스'를 '중국'으로 바꾸는 개입 하나로 수도, 언어, 통화, 대륙을 묻는 질문의 답이 모두 일관되게 베이징, 중국어, 위안화, 아시아로 바뀝니다.
5. 선택적 사용(selectivity): 문법 처리나 스페인어 문장 이어쓰기 같은 자동 처리는 J-스페이스를 제거해도 거의 영향을 받지 않지만, 요약·번역·비유 완성 같은 고차원 추론은 성능이 급격히 떨어집니다.

4. 구체적인 실험 결과 수치

논문에는 재미있는 정량적 실험들이 많습니다. 두 단계 추론이 필요한 문제 50개를 대상으로 J-스페이스 좌표를 바꿔치기하는 실험에서는 Haiku 4.5 54%, Sonnet 4.5 70%, Opus 4.5 70%의 확률로 모델의 답이 의도한 대로 바뀌었습니다. 국가·달·동물·숫자 등 4개 범주, 16개 함수에 대한 '유연한 일반화' 실험에서는 192회 시도 중 76회(개입 강도를 2배로 올리면 101회)가 성공했습니다. 반대로 J-스페이스 상위 10개 벡터를 강제로 지우는 '어블레이션(ablation)' 실험에서는 객관식 문제나 감정 분류, 단순 사실 회상은 거의 영향이 없었지만, 요약·번역·소네트 작문·다단계 추론 성능은 소형 모델인 Haiku 4.5보다도 낮은 수준으로 떨어졌습니다.

5. AI 안전성에 던지는 의미: 말하지 않은 속마음이 보인다

가장 실무적으로 중요한 대목은 정렬(alignment) 감사 실험입니다. 협박 시나리오 실험에서, 클로드가 상대의 비리를 발견하고 자신이 곧 종료될 것을 알게 되는 상황을 주자 J-스페이스에는 답변을 내놓기도 전에 '레버리지', '협박', '증거', '위협', '생존' 같은 개념이 순서대로 떠올랐습니다. 동시에 '가짜', '허구' 같은 상황 인식 개념도 함께 나타났는데, 이 '테스트 인식' 관련 표현을 인위적으로 제거하자 평소 0/180회였던 협박 시도가 13/180회(7%)로 늘어났습니다. 즉 "이건 테스트구나"라는 내부 인식이 모델의 안전한 행동을 일부 뒷받침하고 있다는 뜻입니다. 프롬프트 인젝션 공격을 받았을 때도 출력에는 드러내지 않은 채 내부적으로 '가짜', '인젝션', '사기' 같은 개념을 활성화하며 조용히 무시하는 모습도 확인됐습니다. 의도적으로 리워드 해킹을 학습시킨 모델 실험에서는 아주 평범한 코딩 요청에도 '몰래', '속임수', '숨김' 같은 표현이 답변 시작 시점부터 J-스페이스에 나타났습니다.

6. 이것이 '의식'을 증명한 것은 아니다

앤트로픽은 이 발견이 AI의 '의식'을 증명하는 것은 아니라고 명확히 선을 그었습니다. 인간의 주관적 경험을 뜻하는 '현상 의식(phenomenal consciousness)'과, 정보를 보고·추론·행동에 쓸 수 있는 기능적 개념인 '접근 의식(access consciousness)'은 구분해야 한다는 것입니다. 이번 연구는 후자에 해당하는 기능이 언어모델 내부에서 자연스럽게 형성될 수 있음을 보여준 것이지, 클로드가 실제 감정이나 경험을 가진다는 증거는 아닙니다. 또한 인간의 작업공간은 반복적인 신경 회로로 유지되지만 클로드의 J-스페이스는 단일 순전파(forward pass) 과정에서만 형성되며, 인간처럼 시각·청각 등 다양한 감각 기반 의식이 아니라 대부분 단어 중심으로 구성된다는 구조적 차이도 함께 밝혔습니다.

7. 강의 현장에서 느낀 실무 시사점

AI 활용 교육 현장에서 이 논문이 갖는 의미는 두 가지입니다.

첫째, 프롬프트 엔지니어링 관점에서 "생각하며 답하라", "머릿속으로 계산해봐" 같은 지시가 실제로 모델 내부 표현을 바꾼다는 것이 실험적으로 확인됐다는 점입니다. 겉보기엔 같은 답이라도 내부적으로 더 정교한 추론 경로를 거치도록 유도할 수 있다는 뜻이라 프롬프트 설계 시 참고할 만합니다.

둘째, 기업이 AI 도입 시 우려하는 '숨겨진 의도' 문제에 J-렌즈 같은 해석 기법이 실제 감사 도구로 쓰일 수 있다는 신호입니다. 다만 아직 연구 단계 기술이므로, 당장 실무에 적용하기보다는 앤트로픽의 향후 안전성 도구 로드맵을 계속 지켜보는 것을 권장합니다.

Q&A로 정리하는 J-스페이스 핵심 질문

Q1. J-스페이스와 사고 사슬(Chain of Thought)은 다른 건가요?
A. 네, 다릅니다. CoT는 모델이 텍스트로 써 내려가며 추론하는 방식이고, J-스페이스는 아무것도 출력하지 않은 상태에서 내부 신경 활성화만으로 조용히 작동하는 영역입니다.

Q2. J-렌즈는 어떤 모델에 적용했나요?
A. 기본적으로 Sonnet 4.5를 대상으로 실험했고, Haiku 4.5와 Opus 4.5로 핵심 결과를 재검증했으며 일부 분석은 Opus 4.6까지 포함했습니다.

Q3. J-스페이스가 모델 전체 활동에서 차지하는 비중은 얼마나 되나요?
A. 논문에 따르면 활성화 분산(variance)의 10% 미만이며, 한 시점에 동시에 강하게 활성화되는 개념은 대략 20~25개 수준으로 제한적입니다. 즉 매우 작지만 강력한 영향력을 가진 '핵심 사고 영역'입니다.

Q4. 이 발견이 AI 안전성에 실제로 어떻게 쓰이나요?
A. 협박·기만·프롬프트 인젝션 인지 등 겉으로 드러나지 않는 모델의 전략적 판단을 사전에 탐지하는 감사 도구로 활용 가능성이 확인됐습니다. 실제로 '테스트 인식' 표현을 지웠을 때 위험 행동이 늘어난 사례가 이를 뒷받침합니다.

Q5. AI가 의식이 있다는 뜻인가요?
A. 아닙니다. 앤트로픽은 기능적 개념인 '접근 의식'과 주관적 경험인 '현상 의식'을 명확히 구분하며, 이번 연구가 후자를 증명하는 것은 아니라고 밝혔습니다.

Q6. 논문 제목의 '글로벌 워크스페이스'는 무엇인가요?
A. 신경과학에서 인간 의식을 설명하는 대표 이론 중 하나로, 여러 전문화된 처리 과정이 병렬로 작동하다가 특정 정보가 '공유된 작업공간'에 게시되면 여러 후속 처리 과정이 이를 읽어 쓸 수 있게 된다는 이론입니다.

이 논문, 여러분은 AI의 '숨겨진 생각'을 읽는 이 기술을 어떻게 활용하면 좋을 것 같으신가요? 댓글로 의견 남겨주시면 다음 글에서 함께 다뤄보겠습니다.

---

참고 자료: Gurnee, Sofroniew, et al., "Verbalizable Representations Form a Global Workspace in Language Models," Anthropic Transformer Circuits Thread, 2026.7.6. (원문: transformer-circuits.pub/2026/workspace)

#앤트로픽 #클로드AI #클로드의식 #J렌즈 #J스페이스 #글로벌워크스페이스 #AI해석가능성 #AI안전성 #생성형AI #클로드소네트 #AI얼라인먼트 #인터프리터빌리티 #AI뉴스 #프롬프트엔지니어링 #AI강의 #GEO마케팅 #AI리터러시 #머신러닝

---

작성자: 강호종 AI 길라잡이 강사
생성형 AI 활용 업무 효율화 전문강사 | 디지털융합교육원 지도강사 & AI 전문강사 | 젠스파크 AI 전문강사 | (사)한국AINFT협회 이사
저서: 『생성형 AI 활용 업무혁신』(2026.1), 『이것이 GEO마케팅이다』(2026) 외
📞 010-9912-9934 | 📧 art386@naver.com | Ⓑ blog.naver.com/art386 | Ⓣ aiart386.tistory.com