AI 面试常见术语:上下文工程、RAG、微调是什么
AI 面试常考的六个术语:上下文工程、RAG、自我校验、Agent 与工具调用、微调、幻觉治理。这期不讲名词解释,每个词都拆成两头——你平时实际是怎么干的,以及面试官真正想听到什么,帮你把做过的活对上行话。
这期讲了什么
- 上下文工程:喂给 AI 的东西不是越多越好。历史对话全量塞进去模型会忘事,改成滚动摘要加最近五轮原文,成本降了六成,效果反而更稳。
- RAG:先搜、再照着搜到的说,两个动作焊在一个名字里。切块从一千字降到四百字召回反而变差,因为表格被拦腰切断;向量库只是检索器的一种,不等于 RAG 本身。
- 自我校验:全片最大反转——让模型自查三轮,挑刺挑到把对的那句改错。写的人和挑错的人是同一个,看不见错还容易改坏。
- Agent 和工具调用:关键是有自己转的循环,能自己拆步骤找路。真实教训是任务卡在搜索失败上反复重试,一晚上把预算烧穿,账单多出几十倍,所以要设步数和金额上限。
- 微调与幻觉治理:八百条对话微调能固定输出格式、省三百个 token 提示词,但模型闲聊会变笨;幻觉只能往下压不能根除,幻觉率从一成二压到百分之三后,剩下的靠低置信度转人工。
文字稿
六个 AI 黑话是什么
这六个 AI 黑话,你全都干过,但一个都叫不出名字。开会的时候有人一口气甩出来,你跟着点头,点得特别自然。心里想着回头查一下,结果一忙就忘了,下次开会接着点。散会了同事问你刚才说的是啥,你张了张嘴,一个都讲不出来。最别扭的就是这个,活是你干的,名字是别人的。
这六个,一次说清:上下文工程、RAG、自我校验、Agent 和工具调用、微调、幻觉治理。名字一个比一个唬人,其实每一个你都亲手干过,只是没往那儿想。面试官要的从来不是名词解释,是你到底干没干过。所以每个词都讲两头:你平时是怎么干的,面试官想从你嘴里听到什么。
上下文工程与 RAG:管输入和管检索
公司的资料、产品说明、报价单,删了又贴,贴了又删,这事你肯定干过。这一堆来回折腾有个正经名字,叫上下文工程。简单讲,喂给 AI 的东西不是越多越好,得像收拾行李箱,该留的留,该扔的扔。面试官问这个词,想听的是你有没有被信息撑爆过,后来怎么收拾的。历史对话全量塞进去,聊到后头模型开始忘事,前面的重点也全跟着丢了;改成滚动摘要加最近五轮原文,成本一下降了六成,效果反而更稳。很多人以为窗口越大越好,塞满就行,其实中间那一段最容易被忽略。
你问公司的事,AI 一句答不上来就开始编,把文件传上去,才肯老老实实照着说。这两步连在一起叫 RAG:先搜,再照着搜到的说,两个动作焊在一个名字里,少一样都不算。面试官不问定义,只问你有没有被检索坑过。答不准的时候,分得清是压根没搜着,还是搜着了在那儿一本正经乱答吗?有个坑是切块从一千字降到四百字,召回反而变差,最后发现是表格被拦腰切断。很多人把向量库当成 RAG 本身,其实它只是检索器里的一种。
自我校验与 Agent:为什么双保险会失效
稿子写完心里没底,顺手让 AI 自己先看一遍,这就是自我校验,也有人叫反思,听着像个双保险。面试官往往不夸这个,专门问另一头:你见过自检失效没有?让模型自查三轮,挑刺挑到把对的那句改错,越改越歪,还不认账。后来只敢查一遍,还得对着自己攒的那几道题、那几份文档,一条条核。大家总觉得自检有用,可写的人和挑错的人是同一个,看不见错,还容易把好的改坏。
让它自己点网页、填表、跑代码,把一件事整个交出去,这个叫 Agent 和工具调用。关键不是调一下工具,是它有一圈自己转的循环:自己拆步骤,自己找路。面试官多半想听你收拾过烂摊子没有:死循环、乱调工具、成本失控。做法上设了最多十五步、单次两美元的上限,超了就掐掉。有次任务卡在搜索失败上反复重试,一晚上把预算烧穿,账单多出几十倍。以为会调工具就算 Agent,一问失败率、一问上限就露馅。
微调与幻觉治理:两个最容易用错的词
想让它学会说自家的话,把公司资料喂进去,第一个念头就是微调。名字很直白,就是在已经练好的模型上再轻轻调一小段,像给一个已经会说话的人改口音、改习惯,不是重新教认字。面试官偏偏不问调过什么,只问什么时候不该微调。八百条对话调下去,输出格式固定住了,光提示词就省了三百个 token;代价也很实在:模型闲聊变笨了,问点别的都迟钝。很多人以为微调能灌新知识,其实改的主要是行为和格式,想更新知识还得走检索。
AI 一本正经地胡说八道,只能一条一条自己核,这门功夫叫幻觉治理。幻觉就是它编出来、听着特别像真的话,治理只能往下压,除不掉。面试官问到这儿就看两件事:敢不敢承认除不掉,敢不敢说清引用、拒答、人工复核到底有没有上。上线以后幻觉率从一成二压到百分之三就压不动了,剩下的靠低置信度转人工。很多人以为幻觉可以彻底消除,这是六个词里最贵的一个误会。
最后一句得说清:真做过的事,翻成行业里的词写上去,那是该写,别不好意思;没做过的写上去,那就是造假。拿这六个词把手上干的活对一遍,看你卡在第几个。
常见问题
RAG 和向量数据库是一回事吗?
不是。RAG 是”先搜、再照着搜到的说”这两步合在一起的做法,向量库只是检索器里的一种实现方式。把向量库当成 RAG 本身,是常见的误解;真正容易踩的坑在切块上,比如切块太小会把表格拦腰切断,导致召回变差。
什么时候不该微调大模型?
想给模型灌新知识的时候不该微调——微调改的主要是行为和输出格式,更新知识要靠检索。实际案例里八百条对话微调固定了输出格式、省下三百个 token 提示词,但代价是模型闲聊变笨、问别的都迟钝。
AI 幻觉可以彻底消除吗?
不能。幻觉是模型编出来、听着像真的的话,治理只能往下压。一个实际结果是幻觉率从一成二压到百分之三就压不动了,剩下的要靠引用、拒答、低置信度转人工复核兜底。