[클로드 시리즈_02] 프롬프트보다 중요한 것: 내 머릿속 지식 꺼내기

강호종 AI 길라잡이 강사 | 2026.04.28

프롬프트를 잘 쓰는 것보다 더 중요한 게 있다 — 당신의 머릿속 지식을 AI에게 꺼내 주는 법

"AI가 별로네"라고 느꼈다면 AI 성능 탓이 아닙니다. AI에게 전달되지 않은 지식이 문제입니다. 이 글에서 그 차이를 정확히 짚어드립니다.

프롬프트를 잘 쓰는 것보다 더 중요한 게 있다 — 당신의 머릿속 지식을 AI에게 꺼내 주는 법

핵심 결론 먼저

AI를 잘 쓰는 사람은 질문을 잘하는 사람이 아닙니다. 자기 머릿속의 암묵지(Tacit Knowledge)를 AI가 이해할 수 있는 형식지(Explicit Knowledge)로 변환해서 넣어주는 사람입니다. 이 한 가지를 바꾸면 AI 결과물이 완전히 달라집니다.

1. AI를 못 쓰는 사람과 잘 쓰는 사람의 차이

대부분의 사람이 AI를 처음 쓸 때 이렇게 입력합니다.

"보고서 써줘."  |  "메일 작성해줘."  |  "아이디어 내줘."  |  "자료 요약해줘."

결과물을 보면 늘 아쉽습니다. 문장은 그럴듯한데, 우리 회사 맥락과 다르고, 대표님 스타일과 다르고, 고객사 상황과도 맞지 않습니다. 이때 많은 사람이 이렇게 결론짓습니다.

"AI가 아직 별로네."  |  "역시 실무는 사람이 해야지."  |  "그냥 초안용이네."

하지만 문제는 AI 성능이 아닙니다. AI에게 전달된 지식의 형태가 문제입니다. AI는 다음을 기본적으로 모릅니다.

AI가 기본적으로 모르는 것들

회사의 목적	이번 제안이 매출보다 레퍼런스 확보가 중요한지
리더의 취향	대표님이 숫자 중심 보고를 선호하는지
고객의 상황	고객사가 예산이 있는지, 내부 설득이 필요한지
조직의 규칙	어떤 건은 반드시 사전 공유해야 하는지
브랜드 톤	공격적인 문구를 허용하는지, 우리 회사 언어 감각

2. 암묵지란 무엇인가 — 마이클 폴라니의 통찰

사람은 알고 있지만 AI에게는 전달되지 않은 지식. 그것이 바로 암묵지(Tacit Knowledge)입니다. 헝가리 출신 과학철학자 마이클 폴라니(Michael Polanyi, 1891~1976)는 이 개념을 처음 정립하며 이렇게 말했습니다.

"우리는 말할 수 있는 것보다 더 많이 알고 있다." — Michael Polanyi, 『Personal Knowledge』(1958)

자전거 타는 법을 글로 설명할 수 있습니다. "핸들을 잡고, 페달을 밟고, 중심을 잡는다." 그러나 이 설명을 읽었다고 바로 탈 수는 없죠. 회사 업무도 같습니다. 매뉴얼을 읽었다고 바로 일을 잘하는 것이 아닙니다. 실제 상황에서 판단하고, 실수하고, 피드백 받으며 익힌 그 감각이 암묵지입니다.

형식지 — AI가 바로 이해 가능

업무 매뉴얼
체크리스트
보고서 양식
승인 기준 · FAQ
매출표 · 고객 리스트

암묵지 — 변환해서 넣어야 효과

고객 분위기를 읽는 감각
대표가 원하는 보고 톤
조직 내 의사결정 방식
팀장 승인이 필요한 타이밍
브랜드 언어의 미묘한 결

3. 해리 콜린스의 분류 — 암묵지에도 3가지 종류가 있다

영국 과학사회학자 해리 콜린스(Harry Collins, 1943~)는 "암묵지는 문서화하기 어렵다"에서 한 걸음 더 나아갔습니다. 암묵지도 종류에 따라 다르게 다뤄야 한다고 정리했습니다. AI 도입 맥락에서 매우 실용적인 구분입니다.

1. 관계적 암묵지 — 설명 가능하지만 아직 안 된 것

"그건 김팀장님이 알아요." "그 고객사는 예전부터 그렇게 대응했어요." "대표님께 보고할 때는 이런 순서로 말해야 해요."

인터뷰하고, 사례를 모으고, 기준을 뽑으면 형식지로 바꿀 수 있습니다. AI 활용에서 즉시 효과를 내는 영역. 지금 당장 시작할 수 있습니다.

2. 신체적 암묵지 — 몸으로만 익히는 것

요리사의 불 조절, 강사의 현장 분위기 감각, 영업자의 표정·말투 읽기, 디자이너의 비율 감각

AI가 완전 대체하기 어렵지만 보조는 됩니다. 강의 후 피드백 분석, 질문 패턴 정리, 개선안 도출 등에서 AI가 역할을 합니다.

3. 집단적 암묵지 — 조직 문화로 전수되는 것

회의에서 언제 말해야 하는지, "검토해보겠습니다"가 우리 회사에서 실제로 무슨 뜻인지, 이 조직에서 일이 굴러가는 방식

AI가 만든 결과물이 "문법적으로는 맞는데 우리 회사답지 않은" 이유가 대부분 여기 있습니다. 온보딩·사례 공유·피드백 문화로 전수해야 합니다.

4. 실전 비교 — 나쁜 프롬프트 vs 좋은 프롬프트

AI는 신입사원이라고 생각하면 이해하기 쉽습니다. 신입에게 "제안서 하나 만들어줘"라고 하면 결과가 좋을 수 없습니다. 아래 before·after를 비교해 보세요.

Before — 못 쓰는 프롬프트

고객사에 보낼 미팅 후속 메일 써줘.

After — 잘 쓰는 프롬프트 (암묵지를 형식지로 변환)

너는 B2B AX 컨설팅 기업의 프로젝트 매니저다.
고객사는 AI 도입에 관심은 있지만 내부 리터러시가 낮고,
대규모 구축보다 부서 단위 파일럿을 선호한다.

오늘 미팅: 인사팀·마케팅팀·자금팀 반복 업무 자동화 논의.

메일 목적:
1. 미팅 감사 인사
2. 논의 내용 간단히 정리
3. 사전진단 설문 작성 요청
4. 다음 미팅 전까지 업무 병목 사례 수집

톤: 정중하지만 딱딱하지 않게. 분량: 700자 이내.

결과물이 달라집니다. AI가 단순히 글을 쓰는 것이 아니라, 사용자의 판단 기준을 따라 작업하기 시작하기 때문입니다. 맥락 없이 요청하면 AI는 인터넷 전체의 평균값을 만들 뿐입니다. 회사 업무는 평균값으로 해결되지 않습니다.

5. 내 업무의 암묵지를 꺼내는 3단계 실습

아래 표를 직접 채워보세요. 이게 곧 여러분의 프롬프트 재료가 됩니다.

실습 — 내 업무의 암묵지 찾기

내가 자주 하는 업무는?	예) 판례 검색 및 보고서 작성
신입이 자주 틀리는 부분은?	예) 결론보다 배경 설명을 먼저 씀
나는 어떤 기준으로 판단하는가?	예) 담당 판사님은 간결한 표현 선호
문서에는 없지만 꼭 알아야 할 맥락은?	예) 이 건은 반드시 팀장 사전 공유 필요
AI에게 알려줘야 할 정보는?	예) 보고서 구조: 결론 → 근거 → 요청

이 다섯 가지를 채웠다면, 그게 바로 여러분만의 프롬프트 템플릿의 시작입니다. 암묵지를 형식지로 바꾸고, 그것을 AI에게 넣으면 — AI는 비로소 여러분의 업무 방식으로 일하기 시작합니다.

6. Q&A — 자주 묻는 질문 5가지

Q1. 프롬프트 엔지니어링을 공부해야 AI를 잘 쓸 수 있나요?

기술적인 프롬프트 문법보다 훨씬 중요한 게 있습니다. 바로 자기 업무를 정확히 설명하는 능력입니다. "나는 어떤 상황에서 어떤 판단을 내리는가"를 글로 정리할 수 있는 사람이 AI를 가장 잘 활용합니다. 코딩 지식은 전혀 필요 없습니다.

Q2. 암묵지를 형식지로 만드는 가장 빠른 방법은 무엇인가요?

오늘 가장 많이 하는 반복 업무 하나를 골라, 신입에게 설명한다고 가정하고 메모를 써보세요. "이 상황에서는 이렇게 해야 해, 왜냐하면..." 이 메모 그대로가 프롬프트에 들어갈 핵심 재료입니다. 거창한 준비 없이 오늘 바로 시작할 수 있습니다.

Q3. AI가 "우리 회사답지 않은" 결과물을 낼 때 어떻게 해야 하나요?

그건 AI 실력이 아니라 집단적 암묵지가 빠진 것입니다. 실제로 잘 만들어진 내부 문서 1~2개를 "이 문서의 톤과 구조를 참고해줘"라고 함께 첨부하는 것이 가장 빠른 해결책입니다. 예시를 넣으면 AI의 결과물 품질이 즉시 달라집니다.

Q4. 경력이 많을수록 AI를 더 잘 쓸 수 있나요?

맞습니다. 경력자일수록 머릿속에 쌓인 암묵지의 양이 훨씬 많습니다. 판단 기준, 예외 케이스, 맥락 이해가 풍부할수록 AI에게 넣어줄 수 있는 재료가 많아집니다. 다만, 그 암묵지를 꺼내지 않으면 경력자도 신입과 같은 결과를 받게 됩니다.

Q5. 법원·공공기관처럼 보안이 중요한 곳에서도 쓸 수 있나요?

개인정보나 기밀이 담긴 실제 파일을 외부 AI에 업로드하는 것은 반드시 주의해야 합니다. 그러나 구조·논리·형식을 잡는 작업은 민감 정보 없이도 충분히 활용 가능합니다. "실제 데이터 대신 예시 데이터로 보고서 구조를 잡아줘"처럼 분리해서 사용하면 보안을 지키면서도 효율을 높일 수 있습니다.

7. 암묵지가 AI 워크플로우가 되는 과정 — 8단계

01 사람의 머릿속 경험

     현장 경험, 감각, 노하우

02 암묵지 인식

     말로 다 설명하기 어렵지만 분명히 존재하는 판단 기준

03 사례 수집

     업무 사례와 상황 모으기 — "이럴 때 나는 이렇게 했다"

04 판단 기준 추출

     반복되는 의사결정 기준 찾기

05 형식지화

     문서·룰·기준으로 정리

06 프롬프트 · 템플릿 · 체크리스트 제작

     AI가 이해할 수 있는 형태로 변환

07 AI 업무 실행

     AI가 나의 판단 기준으로 초안 생성 · 분석 · 정리

08 반복 가능한 AI 워크플로우 완성

     업무 품질 표준화 + 생산성 향상 + 반복 시스템 구축 (AX)

핵심 정리

암묵지를 꺼내 형식지와 프롬프트로 바꾸면, AI는 비로소 실행 가능한 업무 시스템이 됩니다. 프롬프트를 예쁘게 쓰는 것보다 내 머릿속 지식을 정확히 꺼내는 것이 먼저입니다.

이웃님들께 질문드립니다

AI를 쓰면서 "이건 진짜 내 업무에 맞지 않아"라고 느꼈던 순간이 있으신가요? 반대로 암묵지를 넣었더니 결과가 확 달라진 경험이 있으셨나요? 댓글로 공유해 주시면 더 많은 분들께 실질적인 도움이 됩니다. 여러분의 현장 경험이 최고의 사례입니다!

 

강호종 AI 길라잡이 강사

생성형 AI 활용 업무 효율화 전문강사 · 디지털융합교육원 지도강사 · 젠스파크 AI 전문강사
저서: 『생성형 AI 활용 업무혁신』(2026) · 『이것이 GEO마케팅이다』(2026) 외
📞 010-9912-9934 · 📧 art386@naver.com · blog.naver.com/art386

#AI활용법 #암묵지 #형식지 #프롬프트작성법 #Claude활용 #ChatGPT잘쓰는법 #생성형AI #AI업무자동화 #업무혁신 #직장인AI #마이클폴라니 #해리콜린스 #AI강의 #강호종강사 #AI길라잡이 #공무원AI #2026AI트렌드 #AX전환