지난 블로그 클로드에 Andrej Karpathy 스킬 공유에 이어 클로드 활용 관련해서 다시 등장하는 안드레이 또파시. LLM 지식 저장소는 Andrej Karpathy가 제안한 개념으로, LLM이 마크다운 기반 개인 위키를 직접 작성하고 유지하는 시스템이다. 4월 초에 공유된 내용이라 한 달 반 정도 됐는데 한참된 느낌이 든다.
LLM 지식 저장소(wiki)란?
새 정보가 들어오면 LLM이 기존 위키 페이지들을 자동으로 업데이트 및 통합해 지식이 누적되는 구조. 기존 RAG 방식과는 다름. 가장 큰 차이를 한 문장으로 설명하면, RAG는 매번 재발견(re-derive)하고, Wiki는 지식을 누적(accumulate)한다.
교차 참조 관리 등 위키 유지의 번거로움을 LLM에게 맡겨 사람들이 보통 포기하는 개인 위키 문제를 해결하자는 아이디어이다.
Tip
Karpathy가 개념을 정리한 llm-wiki.md를 클로드에게 주고 테스트하면 된다.
활용 방안
처음 이 내용을 봤을 때는 회사 내부의 FAQ에 적용해보면 어떨까 생각했다. 현재는 사내에 정리돼있는 문서들을 벡터화하여 벡터DB(Supabase)에 저장해두고, 직원들의 질문을 가져온다(retreival). 이 방식 대신 LLM wiki를 써보면 어떨까 생각했는데, 먼저 로컬에서 써보고 제안을 하기로 생각했다.
로컬에서 개인 용도로 특별한 활용 방안을 생각 못해서 개인적으로 진행 중인 일본어 공부에 간단히 써보기로 했다. 위 ‘Tip’에 적은 것처럼 md 파일을 클로드에게 전달하고 아래와 같은 구조를 만들었다.
일본어 공부
🇯🇵 일본어/
├── SCHEMA.md
├── raw/
│ ├── questions/ # 질문 원본
│ ├── expressions/ # 표현 원본
│ └── conversations/ # 역할극 대화 원본
└── wiki/
├── 문법.md
├── 어휘.md
└── 표현.md
내가 일본어 질문을 하면 Claude가 자동으로 raw/에 원본을 저장하고 wiki/를 업데이트를 하는 식으로 동작한다. 위키는 문법.md, 어휘.md, 표현.md 이렇게 3개 파일로 구성되며, 각 파일은 다양한 주제별 섹션으로 나뉜다. ‘raw/‘의 파일들은 원본 보존용이라 삭제하지 않는다.
현재 아래와 같은 기능들이 있다.
- 질문 답변 + raw 저장 + wiki 업데이트
- 표현 분석 + raw 저장 + wiki 업데이트
- 역할극 대화 (종료 후 피드백 + 저장)
- 테스트 (wiki 항목 퀴즈, 맞히면 wiki에서 제거)
결론
적합한 활용 방식인지 아직 의문이 좀 들긴 한다. Karpathy는 개인, 연구, 독서 등 다양한 방면의 지식 축적 영역에서 활용할 수 있다고 한다. 좀 더 데이터를 쌓아보면서 써보면 얼마나 더 유용한지 알 수 있겠다. 한 달 정도 써본 결과, 그래도 내가 모르는 것들을 복습하는데 오답노트를 보는 느낌이라 나쁘진 않다.
클로드 + 옵시디언으로 건강관리하기도 결국 다양한 Raw 데이터를 쌓고, LLM 활용을 통해 의미있는 결과를 만들어내는 점에서 같은 맥락인 것 같다.