Recollect — 지식의 회복 또는 회상, 마음이나 기억으로 되돌리는 것
이제 AI와의 대화는 흔해진 시대.
사람과의 대화를 기억하는 것 처럼 AI와의 대화는 어떻게 기억하시나요?
매번 새로운 대화를 열어 처음부터 다시 대화를 시작하시나요?
저도 요새 수십 개의 AI 세션을 동시에 여러 프로젝트에 걸쳐 돌립니다. 일부러 작업을 잘게 쪼개서 새 세션을 열기도 하고, 일부러 대화를 compact(압축)도 해보고요.
이러다 보니 30분만 지나면 내가 무슨 얘기를 했었는지 잊어먹습니다. 그리고 이전에 대화했던 세션들을 하나씩 누르면서 사막에서 바늘 찾기를 시작합니다.
이건 저만 겪는 상황은 아닌 것 같아요. 사실 이 고민은 저희 팀도 티타임마다 꺼내는 주제고요 — 업계 쪽에서도 비슷한 움직임이 눈에 띄더라고요.
OpenClaw가 세상에 나온 이후로 일상적인 데이터들이 컨텍스트로 넘쳐흐르는 시대가 됐어요. “얼마나 담을 수 있는가”는 더 이상 큰 병목이 아니게 됐고, 대신 “쌓인 걸 다시 어떻게 꺼내는가”라는 기억의 문제가 새롭게 떠오르더라고요.
얼마 전 Andrej Karpathy도 텍스트 파일 하나로 화제가 되었습니다 — llm-wiki.md. 원문 소스(raw source) / LLM이 정리한 위키 / 스키마, 이렇게 세 층으로 된 개인 지식 베이스를 그리고, ingest / query / lint 세 가지 연산으로 굴리자는 구상이었어요.
Garry Tan의 GBrain(github.com/garrytan/gbrain)도 같은 결핍을 건드리는 것 같아요 — "미팅·이메일·트윗·캘린더·음성·원본 아이디어 전부를 검색 가능한 지식 베이스로 흘려보내고, 에이전트가 응답 전후로 읽고 쓰게 한다"고요.
어떤 분들은 Obsidian, 노션, 리니어에 컨텍스트를 쌓고 AI로 꺼내 쓰기도 합니다.
이런 RAG 방식들은 본질적으로 리소스에 대한 시멘틱 서치입니다. 필요한 “리소스”를 꺼내주는 거예요.
하지만 저는 좀 생각을 전환해 봤어요.
이런 주제에 대해 동료와 자주 생각을 나누곤 합니다. “요즘 AI 쓰면서 뭐가 가장 병목이었는지…” 라는 한 질문을 들고 서로 자주 둘러앉거든요. 이 날은 1:1 티타임에서 시작된 대화였는데, 이야기가 자연스럽게 이 장면으로 흘렀어요.
“오늘 티타임 어디서 할까요?” “아, 거기 어떠세요? 그 주황색 간판, 대로변에 있는데, 예전에 자주 오렌지 커피가 신기해서 먹었던 그곳이요.”
사실 “해머스미스 커피”라는 가게 이름 하나만 떠올리면 될 일이거든요. 근데 요즘엔 대명사 대신에 주변에서 기억된 레퍼런스들을 엮어서 말을 구성하는 일이 많아진 것 같아요. AI와 대화하는 데 적응하면서 인간의 기억 소환 방식도 바뀌고 있는 것 같기도 하고요.
요즘 이런 현상을 잘 설명하는 단어를 찾는 재미에 푹 빠져 있습니다. 철학에서는 이 현상을 Salience(현저성)라고 부르더라고요. 특정 속성·장면·맥락이 튀어나와 회상의 다리가 되는 것. 주황색 간판, 대로변, 오렌지 커피 — 이것들은 “가게 이름”이라는 리소스 대신 꺼낸 레퍼런스 포인트라 볼 수 있습니다.
그 티타임에서 동료가 재밌는 연구 이야기를 하나 들려줬어요.
David Snowdon이 Notre Dame 교단 수녀 678명을 30년 넘게 추적한 Nun Study인데요. 수녀들이 20대 초반에 쓴 짧은 자서전 하나에서 읽어낸 언어 지표가 60년 뒤 알츠하이머 진단 여부와 놀라울 만큼 강하게 상관이 있었다고 해요.
지표는 Idea Density(관념 밀도) — 10단어 안에 명제(동사·형용사·부사구·전치사구)가 얼마나 촘촘히 엮이는지였어요.
- 낮은 밀도 하위 집단: 약 80%가 알츠하이머 발병
- 높은 밀도 하위 집단: 약 10%만 발병
“오늘 빨간 코트를 봤다”와 “오늘 빨간 코트를 봤는데, 다섯 살 때 내가 입었던 그 코트가 떠올라서 좋았다.” 후자는 하나의 장면에 여러 레퍼런스와 감정을 겹쳐 기록하잖아요. Snowdon이 관찰한 건, 이런 식으로 조밀하게 엮인 언어를 평생 써온 수녀들의 뇌에 인지 예비력(cognitive reserve)이 쌓였다는 것과 관련이 있다는 것이었어요.
물론 뇌의 생물학적 예비력이랑 외부 지식 시스템 아키텍처는 전혀 다른 메커니즘이지만요. 그럼에도 이 연구가 제게 준 힌트는 명료했습니다. 조밀하게 엮인 기록은, 일부가 사라져도 회상을 떠받친다. 이 힌트를 외부 AI 세션 기억에 그대로 옮겨 적용할 수 있지 않을까?
그래서 저는 Salience를 극대화하는 저장 방식은 “리소스”에 “Narrative”를 더하는 것이라고 생각했어요.
그런데 “Narrative”는 너무 두루뭉술한 말이잖아요. 티타임 대화를 곱씹으면서, 회상의 다리가 되는 차원을 여섯 가지로 구체화해 봤어요.
- Coinage — 그 장면만의 호명·신조어. — “해머스미스 커피”
- Actor — 등장 인물·행위자 — “티타임을 함께한 동료”
- Temporal — 시간 레퍼런스 — “예전에 자주”
- Emotional — 감정 마커 — “신기해서 먹었다”
- Cognitive — 인지·통찰 마커 — “아, 맞다”
- Singularity — 일회적·독특한 사건 — “주황색 간판”
리소스(“무엇을 했는지”)만 저장하는 게 아니라, 이 여섯 축을 같이 인덱싱합니다. AI 세션 기억에 조밀한 레퍼런스 망을 덧대어 둔다, 정도로 생각하고 있어요.
여기까지 읽으시다 보면 “이거 그냥 메타데이터 태깅 아닌가?” 싶으실 텐데요, 제가 생각하는 결이 좀 다른 건 — 태그가 topic=AI, tool=Claude 같은 분류 레이블이라면, 이 여섯 축은 회상 때 "다리" 역할을 할 레퍼런스 포인트로 기록된다는 점이에요. 분류하려고 쓰는 게 아니라, 나중에 흐릿한 단서 하나로 다시 닿을 수 있게 짜두는 거라서요.
“그럼 그냥 컨텍스트 윈도우 크게 열고 다 담아두면 되지 않나” 하는 질문도 들 법한데요. 그 방법이 여전히 강력하지만, 수십 개 세션이 한 달 단위로 쌓이면 담는 양보다 꺼낼 때 어떤 신호로 닿느냐가 더 큰 병목이 되더라고요. 축 하나하나는 꺼내기 위한 신호 설계에 가까운 셈이에요.
질의할 때도 마찬가지예요. “정확한 키워드” 대신 Salience 신호로 꺼내는 거고요. 흐릿한 단서 하나가 과거의 맥락과 맞물려 “아, 그거!” 하고 맞아떨어지는 순간 — 회상은 검색이 아니라 재인식이 됩니다.
여기서 재밌는 비대칭이 있어요. 흔히 쓰는 RAG는 쓰기가 가볍고(청크 + 임베드) 읽기가 복잡합니다(멀티쿼리, 리랭킹, 중복 제거). 그런데 기억을 다루는 방식은 거꾸로 가더라고요 — 쓰기를 풍부하게 하면 읽기가 단순해지는 위상이 있어요. 여섯 축을 쓸 때 정성을 들이면, 꺼낼 때는 “주황색 간판” 한 조각으로 충분합니다.
이 방식으로 AI 세션을 기록하고 꺼내기 시작해 보니,
- 회상 비용이 눈에 띄게 줄고
- 한 달 전에 하던 작업의 핸드오프가 몇 초 만에 가능해졌고
- 컨텍스트 스위칭 병목이 줄어서, 여러 프로젝트를 병렬로 굴려도 “그때 그 대화 찾기”에 허덕이지 않게 됐어요
되짚어보면, 이런 스킬을 작성하게 된 계기도 결국 그 티타임에서 시작됐습니다. 동료의 수녀 연구 이야기가 없었다면 “리소스 + Narrative 여섯 축”이라는 분해도 나오지 않았을 거예요.
“요즘 AI 쓰면서 뭐가 가장 병목이었어?” — 딜라이트룸 Foundation 팀에서는 이 한 질문을 주기적으로 꺼내곤 합니다. 각자 찾은 불편, 거기서 흘러나온 거친 힌트를, 실제로 스킬과 프로토콜로 깎아 내리는 일을 꾸준히 하고요. 기술을 만드는 시간만큼 서로의 병목을 관찰하고 말로 풀어내는 시간을 귀하게 여깁니다.
대 AI 시대에 접어들고 있는 만큼 이런 결의 대화를 같이 나눠볼 수 있는 시간이 점점 귀해지는 것 같습니다. 혹시 비슷한 결을 좋아하시는 분이 계시다면, 저희 팀이 궁금하실지도 모르겠군요.
참고 문헌
- Snowdon, D.A. et al. (1996). Linguistic ability in early life and cognitive function and Alzheimer’s disease in late life. JAMA. — PMC 요약
- Karpathy, A. llm-wiki gist — github.com/karpathy
- Tan, G. GBrain — github.com/garrytan/gbrain
⏰ 딜라이트룸에서 알라미와 함께 아침을 바꿀 분들을 모십니다 🙌
