LLM Wiki 能替代 RAG 吗

这期讲了什么

• LLM Wiki 出自 Karpathy 四月的一篇笔记：让 AI 自己给你攒一本百科，资料放进去当场读完写成页面，顺手改旧页面、标出前后打架的地方；四天后有人做成软件 llm_wiki，GitHub 收藏过 1.7 万
• 它对比的旧做法是 RAG：文件传给 AI 再提问，AI 临时翻相关段落凑答案，每问一次从零再认一遍资料；NotebookLM、ChatGPT 传文件都算 RAG
• 换的是时间点不是成本：RAG 在提问那一刻现算，LLM Wiki 挪到存资料那一刻先算完，一份资料进来可能要动十到十五个页面
• 原作者自己划了线：一百来份来源、几百页以内一个目录文件就够，能免掉向量索引，再大就得上正经搜索；他推荐的 qmd 官网就写着关键词搜加按意思搜再加重新排序，llm_wiki 功能表里向量搜索也留着、标着可选
• 普通人三道门：原版是文章不是软件；现成软件要自己装、填 AI 设置、接搜索钥匙；它只替你抄写归档，找资料提问题判断还是你的活——用一次的资料照旧直接问，追课题盯行业才值得攒

文字稿

LLM Wiki 是什么：AI 自己写的百科

LLM Wiki 最近在网上传疯了。你大概干过这么一件事：把一堆资料打包丢给 AI 让它替你读，第一次问答得挺像样，隔一天再问同一批东西，AI 像头一回见到你的文件。

这份东西是 Karpathy 写的。他今年四月贴出一篇笔记，讲怎么让 AI 自己给你攒一本百科。四天后就有人照着做成了软件，叫 llm_wiki，眼下在 GitHub 上收藏过了一万七千次。传的人都在说以后不用 RAG 了，真能不用吗？

LLM Wiki 和 RAG 的区别在哪

先把它对比的旧做法说清楚。你把文件传给 AI 再提问，AI 临时翻一遍相关段落凑出一个答案，这套做法就是 RAG。Karpathy 原文里直接点了名，NotebookLM、ChatGPT 传文件都算。他挑的毛病不是找得准不准，是你每问一次，AI 都从零再认一遍你的资料，什么都没攒下。

那本 AI 自己写的百科，换的是时间点。你放进一份资料，AI 当场读完写成页面，顺手改掉受影响的旧页面，把跟老说法打架的地方标出来。原文里有句实在话：一份资料进来，可能要动十到十五个页面。

所以到底替代 RAG 了吗？这笔账没消失，只是换了个时候算：以前是你提问的那一刻现算，现在挪到你存资料的那一刻先算完。

规模一大，向量那套还得回来

按意思去找相近段落的索引，就是向量。这是原作者自己写的：一百来份来源、几百页以内，一个目录就够——就是记着哪页有什么的清单，能免掉向量那一套；再大就得上正经搜索。他推荐的工具叫 qmd，官网头一句就写着：关键词搜、按意思搜，再加一遍重新排序。

llm_wiki 自己的功能表里也留着向量搜索，后面标着可选；同一份说明的头一句，写的是不用传统 RAG。这里得说清楚：原文没给准确率，也没给速度和价钱。

普通人用得上吗：三道门

那就退一步：就算它真能在很大程度上把 RAG 替掉，普通人用得上吗？

第一道门，原版根本不是软件，就是一篇文章，用法是文章自己写的——把它丢给你的 AI，你俩一起搭出来。第二道门，就算用现成的软件，你得自己装、自己填上要连哪个 AI 的设置，想让它自动上网找资料，还得再接一把搜索服务的钥匙。第三道门，替你干的是抄写和归档，找资料、提对问题、判断这些资料意味着什么，还是你的活，而且你每存一份东西，得等着十几个页面改完。

给普通人的建议就一句：看你这批资料是用一次，还是同一批要反复用好几个月。读个报告、扒份合同，照旧把文件丢给 AI 直接问，别折腾；追一个课题、盯一个行业，才值得攒这本百科，越用越厚。

所以别急着搭向量库，先看原作者自己划的那条线：一百来份资料以内，才免得掉。

常见问题

LLM Wiki 和 RAG 有什么区别？

RAG 是你提问的那一刻让 AI 临时翻相关段落凑答案，每问一次从零认一遍资料；LLM Wiki 把这笔账挪到存资料那一刻先算完——AI 当场读完写成百科页面，顺手改旧页面、标出矛盾。计算没消失，只是换了时间点。

资料太多还要向量数据库吗？

要。原作者自己划的线：一百来份来源、几百页以内，一个记着哪页有什么的目录文件就够，能免掉向量索引；规模再大就得上正经搜索。他推荐的 qmd 就是关键词搜加按意思搜加重新排序，llm_wiki 功能表里向量搜索也标着「可选」。

普通人值得搭一套 LLM Wiki 吗？

看你这批资料用一次还是反复用几个月。读报告、扒合同这类一次性的事，照旧把文件丢给 AI 直接问；追课题、盯行业才值得攒这本百科。另外原版只是篇文章不是软件，现成软件也要自己安装配置，它只替你抄写归档，找资料和判断还是你的活。