第 6 章 让 AI 记得住、靠得住
聪明决定它帮不帮得上忙,记忆决定它配不配留在你身边。
上一章我们花了一万多字,把指令写到了可维护、可评估、可回归。但收尾的时候,你可能已经隐约觉得哪里不对:指令写得再好,如果对面那位每天早上醒来都不认识你,你还是得每天从头教一遍。一身好功夫,喂给了一只金鱼。
这一章是第二部「协作」的第二块基石。第五章解决的是「说清楚」——把你的判断标准装进指令;这一章解决「记得住」——让装进去的东西不随对话结束而蒸发。我先抛出这一章的核心判断,然后再慢慢论证它:单次对话不是产品。一个 AI 从「好玩的玩具」变成「靠谱的助手」,分水岭不在它有多聪明——聪明已经在通货膨胀;分水岭在它记不记得住、靠不靠得住。
先看一个实验。
小周是一家 SaaS 公司的产品经理,手上同时压着三个项目。今年年初,他做了个小实验:用两个 AI 助手干同一件活——每周五下午写周报,顺带帮他盯项目进展。
第一个星期五,两边的体验差不多。他把项目背景、团队分工、各条线的进展贴进对话框,又交代了几句老板的口味:「王总不爱看形容词,数据放最前面,风险单独列一段。」两个助手都交出了像模像样的周报,他改了改就发了。
差别从第二个星期五开始。
第一个助手,他得把上周贴过的东西原样再贴一遍。漏贴了一段,它就把一个上周已经下线的功能写进了「本周进展」;他上周明明纠正过「客户那边的对接人姓楼不姓娄」,这周的报告里又是「娄经理」。等他把背景重新喂完、错误一个个挑完,时间花得跟第一周一样多。
第二个助手,他只丢了一句「写周报」。对面回过来的第一句话是:「上周你们在灰度的推荐模块,这周全量了吗?我按王总数据优先的习惯先出一版。另外,周三群里提过服务器扩容延期,要不要写进风险那一段?」小周补了两个数字,五分钟收工。
到第三个星期五,他还没开口,第二个助手先找上了门:「明天要交周报了。这周我记到三件事值得写:全量后的留存数据、扩容延期的后续,还有你周二提过的那个客户投诉。要现在起草吗?」
两个助手,背后是同一个模型,智商完全一样。差的只有一件事:一个每天失忆,一个记得他。这一章要拆的,就是这件事背后那套看不见的工程。
一、四个先天毛病
把今天的大模型想象成一个新来的同事。名校毕业,读过几乎半个互联网,问什么都能聊上几句,落落大方。你很满意,开始把活交给他。然后你慢慢发现,这位同事有四个先天毛病。斯坦福有堂叫《Beyond LLM》的课,把这四个毛病整理得很清楚,我搬过来,你拿自己的日常对照着看。
第一,他不懂你的业务。你们公司的内部文件、产品规格、行话黑话,他一概没读过。这类领域知识(Domain Knowledge)不在公开互联网上,自然也不在他脑子里。你问他「我们的企业版和专业版差在哪」,他只能一本正经地编。而且编得有鼻子有眼:席位上限、服务响应等级、价格梯度,一项不落,格式比你们官网还规整。不止一个团队踩过这个坑:新来的运营把这种答案直接贴进客户群,被眼尖的老员工一把拦下——他们的企业版压根不按席位计费。这种错最阴险的地方在于它不像错,它像答案。模型不是在撒谎,它是真的不知道,而且不知道自己不知道。你可以做个小测试:拿你最熟的业务问它一个内部问题,看它编得有多流畅。它编得有多流畅,你的警惕就该提到多高。
第二,他的消息是旧的。模型不可能每几个月重训一次,训练数据有截止日。新发布的产品、上个月的行业新闻、年轻人嘴里的新梗,他通通不认识。你拿着今天的问题,问一个停在去年的人。我见过一份 AI 起草的竞品月报,框架漂亮,论据扎实,唯独把对手三个月前已经砍掉的产品线当成主力来分析,整页结论跟着歪。最麻烦的是它不会承认「这超出我知道的范围」,它会拿着一张旧地图,信心十足地给你指一条新路。
第三,也是在商业场景里最要命的:他控制困难。大语言模型是概率性输出,同一个问题,两次回答可以不一样。你自己闲聊无所谓,甚至觉得这叫灵气;可一旦放进生产环境,事情就变了味。有个电商团队给我看过他们内测时的两张截图:同一个用户、同一笔订单,上午问「超过七天还能退吗」,客服 AI 答「可以的亲,我们支持三十天无理由退货」;下午换了个措辞再问,它又一口咬定「七天之外不予受理」。两张截图摆在一起,负责人后背发凉——哪句对已经不重要了,重要的是两句话都盖着公司的章。用户要是拿着对自己有利的那句去投诉,你赔还是不赔?说好的政策变成抽奖,客户不会觉得你的 AI 有创意,只会觉得你的公司不可信。
第四,迷失在中间(Lost in the Middle)。现在模型的上下文窗口动辄上百万 token,听起来能吞下一整个书架。但如果你把一个关键细节埋在庞大文件的中段,它常常读过就忘。像一个人开了一整天会,记得住开场的寒暄和散会前的总结,中间那句真正要紧的决议,反而没进脑子。翻车现场长这样:有人把八十多页的合作合同整本丢给 AI,问「帮我看看有什么风险」。它认认真真列了五条,开头的付款节奏、结尾的违约金条款,一条没漏;唯独第四十七页那句「数据泄露由乙方承担全部连带责任」,一个字没提。最毒的那根刺,恰好埋在最不被注意的中段。你以为它读完了,其实它只是扫完了。
四个毛病不是并列的,分两层。前两个是「不知道」:不懂你的业务、消息停在过去——不知道的部分,补课能解决。后两个是「不可靠」:输出忽好忽坏、长文读了就漏——不可靠的部分,光靠补课没用,得靠制度和流程兜住。合在一起,结论很扎心:这位天才同事,每天都在过入职第一天。你昨天教他的,今天清零;你上午纠正的,下午重犯。小周的第一个助手,过的就是这种日子。
那怎么办?面对这位健忘的天才,流行的反应有两种。一种是等:等下一代更聪明的模型发布,相信毛病会自己长好;另一种是弃:试了两周,摇摇头说「AI 不过如此」,回去手工干活。两边都看错了地方。等的那条路叫「横轴」:换更强的基座模型(Base Model),从这一代升到下一代。但横轴是 OpenAI 和 Anthropic 这种巨头的游戏,轮不到你我发力,而且换了也治不了本——再聪明的新人,入职第一天照样不懂你的业务。况且横轴的红利你天然就有:模型升级,你什么都不用做,能力自动涨,你的对手也一样。弃的那条路更亏,等于把通胀时代最便宜的智力白白退了回去。真正成熟的姿态在第三条路上,叫「纵轴」:在现有的模型上叠工程,给这位健忘的天才配一套外挂的记性。横轴决定所有人的起点,纵轴才是别人没有、你有的那部分积累。这一章接下来讲的,全是纵轴的事。
二、桌面与档案室
先拆掉一个常见的误会:上下文窗口不是记忆。
很多人看到「窗口扩到一百万 token」的新闻,以为记性的问题已经解决。没有。窗口是一张办公桌:桌面再大,今天摊开的文件再多,下班一收,明天上班还是一张空桌。桌子的大小决定你一次能摊开多少东西,决定不了你明天还记得什么。记忆需要的不是一张更大的桌子,是一间档案室。
你身边大概也有这两种同事。一种桌面永远堆成山,看起来什么资料都在手边,可你问他上个季度的合同放哪了,他要翻二十分钟。另一种桌上只摆今天要用的三份文件,其余的进柜子、贴标签、按年月排好,要什么,一分钟取出来。两个人记性未必有差别,差的是档案的纪律。
这就是上下文管理(Context Management)要管的两样东西。短期的,叫工作记忆(Working Memory):这一轮对话里摊在桌面上的材料。长期的,叫档案记忆(Archival Memory):归了档、贴了标签、随时能调出来的积累。两样东西的关系,就是桌面和柜子的关系:开工前,从柜子里取出今天要用的几份,摊上桌;收工后,把值得留的归回柜子,桌面清空。整门学问可以浓缩成一句话:在对的时间,把对的信息放上桌。
注意,是「对的信息」,不是「所有信息」。这里有个反直觉的地方:桌面不是越满越好。还记得「迷失在中间」吗?你塞进上下文的东西越多,关键细节被淹没的概率就越大。把三年的聊天记录一股脑倒上桌,不会让助手更懂你,只会让它在纸堆里翻不到那句要紧的话。好的上下文管理反而克制:每一轮,只摆这一轮用得上的。
这条原则我是交过学费才认下的。我曾经维护过一个三百多轮的项目长对话,一直舍不得开新的,总觉得历史越全,它就越懂我。直到某次让它整理方案综述,它把一个早已被推翻的旧方向,当成现行结论端了上来——那句推翻它的更正,明明就在几十轮之前。三百轮历史没有让它更懂我,只是让最要紧的那句话沉到了纸堆底下。从那以后我记住一条:桌面不是档案室,堆得越满,翻错的越多。
所以这条原则你今天就用得上,不用等做产品。比如,别迷恋一个聊了几百轮的超长对话,话题换了就果断开新的,把上一段的结论带过去,把过程留在身后;比如,给长文档划重点再喂,而不是整本砸过去;再比如,让它每做完一个阶段就口头小结一次,把小结存进你自己的笔记,下次开新对话贴这份小结,而不是贴整段历史。你在替它收拾桌面,它还你一个不走神的脑子。
同理,「做记忆」也不等于「把聊天记录全存下来」。全存下来的那个东西不叫档案室,叫垃圾房——什么都在里面,什么都找不到。人脑早就懂这个道理:你不会记得上周二午饭的每一口,但你记得那顿饭上朋友说要换工作。遗忘不是缺陷,是筛选。这里又是一组假对立:全记,还是少记?都不对,要害是「记得对」。存下来不是记忆;在对的时刻被准确取出来,才是。这中间差着两个动作:归档时的筛选,什么值得记;取用时的检索,此刻该翻哪一页。
筛选的功夫,我们放到后面「记忆体系」那一节细讲。检索的功夫,有一门专门的手艺。
三、开卷考试
档案室建好了,总得有人去翻。这个翻档案的角色,行业里叫检索增强生成(Retrieval-Augmented Generation,RAG)。名字唬人,原理直白:给档案室配一个专职的档案管理员。
把你的资料,比如产品文档、政策条款、历史工单,切成片段,用嵌入(Embedding)模型转成向量,存进向量数据库。这一步相当于给每页档案编了一套按「意思」排列的索引。按意思排列是关键。传统检索认字不认意思:你搜「退钱」,它找不到写着「退款」的那一页。向量索引不一样,「退钱」「退款」「把钱原路返回」在它眼里是住同一条街的邻居,问到哪个,都能敲开同一扇门。用户提问时,系统先拿问题去库里找语义最接近的几段,把它们和问题一起递给模型,并且立下规矩:只准根据这几段材料回答。
你肯定考过两种试。闭卷考的是脑子里背了什么:背过就有,没背过就只能硬编——大模型的幻觉,差不多就是闭卷考试逼出来的瞎编。开卷考试换了规则:允许带书进场,但答题要写明出处在第几页。学生不必背下整本书,只要会查;老师阅卷也省心,翻到那一页一对便知真假。RAG 干的就是把闭卷改成开卷:资料摆在手边,答题先翻书,答案后面附页码。
一个开卷考试的设计,一次解决三个老毛病。一是长度的问题:不用把整柜档案搬上桌,每次只取最相关的几页,桌面永远清爽,再也不怕重点淹死在中间。二是时效的问题:档案室随时可以放进新文件,今天更新的退款政策今天就能被查到,不用等模型重训。三是幻觉的问题,也被压住了大半:闭卷考试逼着模型即兴发挥,开卷考试让它有据可查,答错了你还能顺着出处追责。
回到那个退款的例子。一个靠谱的客服 AI 回答「能不能退款」,靠的不是模型的临场发挥,而是先翻出退款政策的原文,照着条款答;政策没覆盖的情况,宁可转人工也不瞎猜。上午和下午的答案为什么能一致?因为两次翻的是同一页档案。临场发挥才会忽好忽坏,照本宣科反倒稳定。一下说可以、一下说不行的毛病,从源头上就被按住了。靠得住的第一步,是让它有据可查。
有人会问:等以后窗口足够大、算力足够便宜,把所有资料每次都塞进去,RAG 是不是就过时了?实务上不可能。就像搜索引擎不可能每次查询都把整个互联网重爬一遍。检索的效率、低延迟、即时更新,这些优势在可预见的未来没有替代品。档案管理员这个岗位,不会被一张更大的桌子裁掉。
当然,档案管理员也有手艺高低。片段切多大、索引怎么建、一次取几段,每一项都影响答案的成色。切太碎,一条政策被腰斩成两半,取出来前言不搭后语;切太大,又回到「重点淹在中间」的老问题。这些细节这里不展开,你只需要记住一件事:RAG 不是装上就灵的插件,它是一门要调校的手艺。
到这里,「记得住」的两块地基打完了:一间归档有序的档案室,一个翻档案又快又准的检索员。接下来看一个真实的样本——这套东西被做到产品里,长什么样。
四、三代记忆进化史
过去两年,OpenAI 给 ChatGPT 装记忆的三步走,是一部公开的活教材。值钱的地方在于它有数字:每一代记到什么程度、漏掉多少,都有公开的指标可查。把它看完,你会对「记忆能做到什么程度」有个手感。
第一代,2024 年 4 月,名叫 Saved Memories,直译过来就是「保存的记忆」。本质是手动便签:你说「记住,我是素食者」,它存一条;你不说,它什么都不记。有比没有强,但记笔记的负担全在你身上,等于用户替 AI 做记忆管理。大多数人新鲜了两周,就忘了这个功能的存在。更深一层的问题是,它只记你「宣布」的事,不记你「流露」的事。可生活里真正要紧的偏好,很少是宣布出来的。你不会对新同事说「记住,我开会前不爱闲聊」,这种事靠相处看出来,不靠登记。
第二代,2025 年 4 月,内部代号 Dreaming 的 V0 版本。系统开始自动从对话里提炼事实,不再等你交代「记住」。效果可以量化——下面这组数字来自 OpenAI 自己公布的评测,方法和数据集都没公开,第三方也没复现过,看趋势可以,别当成审计过的结论:事实召回率从 41.5% 提到 67.9%。换算成日常的手感:同样跟它聊一百件事,以前日后能被想起来的只有四十来件,现在接近七十件。多出来的那三十件,往往正是你顺嘴提过、自己都没当回事的细节。这个代号起得贴切——人也是在睡眠里把白天的经历筛一遍,决定什么进长期记忆、什么随手丢掉。没有人是靠白天举着笔记本记住朋友的,都是事后回想时,某些细节自己浮了上来。AI 的记忆,从「你递给它什么」变成了「它自己留意到什么」。
第三代,2025 年 6 月,Dreaming V3,关键词是异步后台合成。它不再急着在对话当下记,而是等你离开之后,在后台慢慢梳理:把零散的信息合并,把矛盾的说法对账,把过时的判断改写。最传神的是时间感知:你 6 月说过「我 7 月要去新加坡」,到了 8 月,这条记忆会被自动改写成「你 2026 年 7 月去过新加坡」。计划变成了经历,时态都替你换好了。这一改不是文字游戏。改写之前,你 8 月说「想出去走走」,它还会兴冲冲地给你推新加坡攻略;改写之后,它知道你刚回来,开口先问那趟旅行怎么样。同一条信息,时态一换,整个对话的姿势都变了。记忆不是录音带,是一份会随时间重新理解的叙事。
三代下来,效果落在一个指标上:偏好遵从成功率,也就是你交代过的口味和习惯,它后续照办的比例。同样是官方口径,2024 年是 31.4%,2025 年到 55.3%,2026 年到了 71.3%。从三次里记得一次,到四次里记得三次,曲线还在往上爬。数字的绝对值可以打个折扣看,但三年翻一倍多的斜率,方向是清楚的。
这串百分比落到日常,是两种完全不同的相处。无记忆的那一边:你说过三遍「回复里别用 emoji」,第四版方案里还是飘着小火箭;每开一个新对话,你都要把「我是谁、在做什么项目、老板什么口味」重新背诵一遍,背漏一句,它就用默认设置糊弄你。有记忆的那一边:你只提过一次「方案先给结论」,三周后聊一个完全不相干的新话题,它给你的第一行依然是结论。前者你越用越累,后者你越用越省——同样的指令水平,两条体验曲线,一条向下,一条向上。
报道这次更新时,TechTimes 给了一句判断,我认为值得抄在本子上:AI 产品正从单次会话工具,变成有持续记忆的服务。工具和服务的差别在哪?工具用完即走,下次见面两不相识;服务的前提,是它认识你,并且越来越认识你。理发师记得你的发型,家庭医生记得你的过敏史,楼下小馆子的老板记得你不吃辣——你愿意付更多钱、更长期留下来的,从来都是这一类。让你留下的不是手艺比别家好多少,是「他记得我」。
这句判断对做产品的人是方向,对用产品的人是提醒:你在 AI 身上积累的每一条记忆,正在变成你的切换成本。搬家的代价会越来越像换掉一个老搭档:新来的那位也许更聪明,但他不知道你写「尽快」的意思是今天下班前,不知道你说「再看看」其实是不满意。这些都得从头再处一遍。选哪个助手长期用,从今往后是个越来越严肃的决定。
五、五段记忆体系
看完别人怎么做,轮到你了。无论你是在做一款 AI 产品,还是只想把手边的助手调教得像样,一套完整的记忆体系都可以拆成五段。我用陪伴型产品举例——情感陪伴、健康陪跑这类产品,是对记忆要求最苛刻的品类:用户上来就默认「你应该记得我」,忘一次,关系就凉一截。
第一段,初始记忆。出厂就带的设定:产品的角色、边界、该懂的领域常识。一个健康陪跑助手,出厂就该懂基础的营养学和运动常识,而不是等用户来教。这相当于员工入职前就该具备的职业技能,对应的正是第一节说的领域知识缺口。这一段最容易被省,也最不该省。用户对「连常识都没有」的容忍度是零:一个健康助手,连「空腹别吃布洛芬」都要现学,后面的记性做得再好,也等不到被看见的那一天。
第二段,引导阶段收集。第一次见面问什么、怎么问。这里讲究分寸:像新朋友第一次吃饭,一句不问显得冷淡,问个不停像在审讯。挑最少必要的几件事,称呼、目标、底线偏好,其余的留给日后慢慢知道。有个反例可以记一下:一些陪伴产品一上来甩二十道问卷,星座、MBTI、童年经历一网打尽,填完用户已经累了,次日留存比什么都不问的版本还难看。关系是处出来的,不是填表填出来的。问得少而准,比问得全更专业。
第三段,对话中记忆。日常聊天里随手记下的东西。用户顺嘴提到最近失眠、提到女儿要中考、提到不吃香菜,这些信息没有举着「请记住」的牌子,但记不记得住,恰恰是「工具」和「伙伴」的分界。对陪伴型产品来说,这一段是生死线。用户周一说「最近总睡不好」,周四再来时,一句「这几天睡得怎么样」抵得过一百句精心设计的开场白;反过来,他要是发现上周说的事你全忘了,那种失望,跟向朋友倾诉完发现对方根本没在听是同一种。上一节 Dreaming V0 干的就是这件事:把「你递给它」变成「它留意到」。
第四段,定期 review。光记不理,档案室会慢慢变成垃圾房。每隔一段时间,要把记忆整理一遍:重复的合并,过时的修正,矛盾的对账,重要的加权。对账尤其要紧:用户三月说在减脂,五月说最近在增肌,两条都原样存着不动,助手就会在同一周里既劝他少吃、又劝他加餐。「7 月要去新加坡」改写成「7 月去过新加坡」,就是 review 在工作。没有这一段,记忆只会越攒越脏,三个月后比不记还误事——基于一条过期信息的贴心提醒,比不提醒更伤人。
第五段,后台定时梳理。上面这些整理,不该占用对话的时间,而该在用户离开后异步进行,这正是 Dreaming V3 的思路。对话时全神贯注,下班后整理笔记,这是好助理的工作节奏。反过来想就明白为什么:要是助理一边听你说话、一边低头整理上周的笔记,你只会觉得他心不在焉。整理是重要的事,但不是当下的事。
五段看下来你会发现,它跟人与人建立交情的过程一模一样:见面前做功课,初识时问候,相处中留心,独处时复盘。哪一段缺了,对应的别扭你也熟:没做功课的,聊两句就露怯;初次见面查户口的,吓跑人;相处不留心的,处不深;从不复盘的,同一个坑摔三回。工程上的术语千变万化,底下的道理是同一个。
还有一句话说给不做产品的读者:这套体系不是工程师专属。你给自己常用的 AI 助手维护一份「关于我」的档案,写明你的角色、在做的项目、表达偏好、你纠正过它哪些错,并且每个月翻新一次——这就是五段体系的最小个人版。成本是每月十分钟,回报是再也不用每天过「入职第一天」。我自己的那份档案养了一年多,从最初的五行长到两页——起头正是那次三百轮对话的学费。每次它说出一句只有老搭档才说得出的话,我都知道是哪一行在起作用。
六、主动触达的分寸
记忆攒下来,不是为了存着,是为了用。而记忆最高级的用法,是主动触达:不等你开口,它先想起你。
还是拿陪伴型产品说。用户周二提过「下周三要体检」,到了周二晚上,助手发来一句:「明天体检,今晚十点后别进食,记得带身份证。」这条消息的技术含量并不高,一个定时任务而已;但用户收到的不是一条推送,是「被惦记」的感觉。决定这种感觉成立不成立的,是三个设计变量:时机、内容、频率。
时机,是在用户需要的时刻出现,而不是在你想发的时刻打扰。体检前夜、出差落地、连续打卡三周后突然断了三天的那个早上——好的时机自带正当性,用户不会问「你为什么找我」。反过来,深夜十一点推一条「本周运动报告已生成」,内容再好也讨人嫌。同一条消息,换个时间发,性质就从服务变成打扰。
内容,必须长在记忆上。群发的「早上好,今天也要加油哦」不叫触达,叫骚扰的文明形态。只有提到具体的事,比如上次聊到一半的话题、他自己都快忘了的承诺,才能证明这条消息是「想起了你」,而不是「想起了你们这一批用户」。同一句「睡得怎么样」,接在「你上周说入睡困难」后面是关心,出现在群发列表里就是模板。
频率,要克制。太勤是骚扰,太疏是冷漠。一个可用的判断标准:每一次主动出现,带来的价值是否明显超过打扰的成本。这笔账还得算长期的:第一条贴心提醒,用户惊喜;第七条,用户麻木;第十五条,用户顺手关掉了通知权限,连同那些真正要紧的提醒一起。拿不准的时候,宁可少发。被拉黑的提醒,价值是负的。
我们在做 Agent 产品的主动触达设计时,内部争论最多的从来不是技术实现,是分寸——哪条消息发出去是雪中送炭,哪条是自作多情。最后大家认下来的原则只有一条:宁可让用户偶尔觉得「它怎么没提醒我」,也不要让用户频繁觉得「它怎么又来了」。惦记是稀缺品,刷存在感不是。
到这一步,你可以回头看小周的第二个助手了。第三个星期五它主动找上门,背后是这一整章的零件在咬合:对话中记忆让它知道这一周发生了什么,定期 review 让它分得清哪三件事值得写进周报,定时任务让它在周四晚上开口,而不是等周五下班后马后炮。被动应答的 AI 是工具,会主动想起你的 AI,才开始像一个服务。
七、分水岭上的三个问题
回到开头那个实验。
小周的两个助手,差的从来不是智商。差的是一整套看不见的工程:一间归档有序的档案室,一个翻档案又快又准的检索员,一套睡后整理记忆的习惯,和在合适时机先开口的分寸。这些东西没有一样性感,没有一样会出现在发布会的大屏上,但它们加在一起,就是玩具和助手之间的全部距离。
顺便说一句,小周后来算过一笔账:第二个助手帮他省下的大头,不是写周报那四十分钟,而是每周从头交代背景的那一个多小时。这笔账值得算完:一周一个多小时,一年五十个工作周,就是六七十个小时——将近两个完整的工作周,省在一件你几乎意识不到自己在做的事上。记忆省下的时间,大半不在产出端,在重复输入端。单次看不起眼的损耗,乘上频率,就是最大的那笔账。
这也是这一章想留给你的判断力。以后再评估一个 AI 产品,或者评估你自己跟 AI 的协作方式,别只问「它聪明吗」——聪明在通胀,记忆在升值。要问的是另外三句:它记得住吗?记下的东西会更新、会过期吗?它敢在生产环境里,对同一个问题给出同一个答案吗?第一句对应档案室,第二句对应 review 和后台梳理,第三句对应有据可查的检索。三个问题问下来,大多数惊艳的 demo 会原形毕露,而少数其貌不扬的系统,会显出真功夫。
本章要点清单
- 单次对话不是产品。玩具和助手的分水岭不在聪明——聪明在通胀,记忆在升值。
- 大模型有四个先天毛病:不懂你的业务、消息是旧的、控制困难、迷失在中间。前两个是「不知道」,补课能解决;后两个是「不可靠」,得靠制度和流程兜住。这位天才同事,每天都在过入职第一天。
- 横轴(更强的基座模型)是巨头的游戏,红利人人都有;等和弃都不是办法,成熟的姿态是纵轴:在现有模型上叠工程,配一套外挂的记性。
- 上下文窗口是办公桌,不是档案室。整门上下文管理浓缩成一句话:在对的时间,把对的信息放上桌。桌面不是档案室,堆得越满,翻错的越多。
- 全记和少记都不对,要害是记得对。遗忘不是缺陷,是筛选;存下来不是记忆,在对的时刻被准确取出来才是。
- RAG 是给档案室配的档案管理员,把闭卷考试改成开卷:一次解决长度、时效、幻觉三个老毛病。靠得住的第一步,是让它有据可查。它不是装上就灵的插件,是一门要调校的手艺。
- 完整的记忆体系分五段:初始记忆、引导收集、对话中记忆、定期 review、后台梳理——见面前做功课,初识时问候,相处中留心,独处时复盘。个人最小版:一份每月翻新的「关于我」档案。
- 主动触达看三个变量:时机、内容、频率。拿不准就少发,被拉黑的提醒价值是负的。惦记是稀缺品,刷存在感不是。
- 评估任何 AI 协作,问三句:它记得住吗?记下的会更新、会过期吗?敢对同一个问题给出同一个答案吗?
- 记忆省下的时间,大半不在产出端,在重复输入端。
小结
这一章从小周的两个助手讲起:同一个模型,一个每天失忆,一个记得他,三个星期五就拉开了玩具和助手的距离。我们先给病定了名——四个先天毛病,让这位天才同事每天都过入职第一天;又指出等更强的模型和干脆弃用都不是出路,能使劲的地方在纵轴。然后打了两块地基:拆掉「窗口就是记忆」的误会,分清桌面和档案室;再给档案室配上检索员,把闭卷考试改成开卷,让每个答案有据可查。OpenAI 的三代进化史给了这套工程一个可量化的参照,五段记忆体系把它变成你自己能上手的清单,主动触达则把攒下的记忆用在了刀刃上——不等你开口,它先想起你。最后落在三个问题上:记得住吗,会更新吗,敢给出同一个答案吗。问完这三句,你评估 AI 的眼光,就从看智商换成了看工程。
不过,就算记忆做满,还有一样东西没着落。记忆解决的是「它记得你」:你的项目、你的偏好、你纠正过的错。但你跟它协作久了会发现,还有一类更值钱的东西,记忆装不下——你做事的章法。周报该按什么结构写,竞品该按哪几个维度拆,方案评审先看什么后看什么,这些方法论你已经在聊天里教过它几十遍,可它们至今散落在一段段对话记录里,每开一个新任务,你还得再教一遍。记忆装的是关于你的事实,装不下你的手艺。把手艺从聊天记录里捞出来,封装成一件随取随用、甚至可以送人的资产——这件事,是下一章的主题。
