"你看,它能联网了。"
我把截图甩给朋友,后面跟了个得意的表情。那是七月下旬的一个周末,我花了大半天写了个 Python 小脚本,打算给平时自用的对话小工具接上实时网页搜索。刚动手那会儿,思路简单得很:调 ChatGPT 接口之前先拦一道,拿搜索引擎的 API 抓几段网页文本,再拼进提示词里喂给模型。第一版脚本跑通的时候,我觉得这事也就这样了。
结果自己接着聊了不到二十轮,那点得意就被满屏的跑偏回复砸了个干净。版本号张冠李戴,三年前早就废弃的教程被当成最新结论,有一回它还言之凿凿地引了一段我在原网页里怎么也找不到的话。
真正坐下来一条条翻看那些跑偏的回复,我才慢慢回过味来:代码层面的接口拼接只是最表层的体力活,真正磨人的,全是信息在几道关口交接时的分寸感——到底什么样的问题才值得去公网上捞一遍?抓回来的网页凭什么就能直接采信?当模型用极其笃定的口气说出一大段结论时,里头的论据真能和原网页对得上号吗?搜出来的链接从来不等于知识,抓回来的段落也绝不会自己变成结论。
先想清楚要不要搜
被一本正经的胡扯折腾了一下午,我先在请求进来的第一站加了一道分流闸门。
对话框里敲的每句话,并不是都值得往搜索引擎里扔。真正需要实时检索的,是那些强依赖当下状态的事实:好比某个开源库刚发布的最新版本号,某项云服务眼下的计费价格,或者某个外部接口此刻是否还活着。要是遇到纯粹的基础概念解释,直接去翻本地整理好的官方文档反而干净得多;而一旦提问里掺杂了个人经历或者项目内部的配置细节,就更得严防死守,绝不能让模型去公网上胡乱抓一把似是而非的帖子,再张冠李戴地塞回上下文里瞎套。这道分类的闸门卡得越靠前,后头的提示词组装和缓存设计就会清爽得多。
决定要发起搜索之后,查询词的生成也不能偷懒。一开始我图省事,把聊天框里带着情绪和口语牢骚的原话一字不差地丢给搜索引擎(类似“这破库怎么又报错了”),捞回来的十有八九是文不对题的营销软文。后来改成先从原问题里剥离出时间范围、具体的技术名词和报错代码,拆解成一到几条颗粒度很细的窄查询;同时在本地日志里把原始提问、拆出来的检索词以及最终命中的 URL 成套记下来。哪天回答又跑偏了,点开日志一眼就能揪出病根,看看到底是检索词没抓准重点,还是模型在阅读网页时自己理解岔了。
搜回来的东西要先洗一遍
搜索引擎吐回来的东西,远没有想象中那么规整。列表页上的标题、自动截取的摘要片段和点进去的正文内容经常互相打架,有些排在前面的技术博客甚至早就过期好几年了。
所以在把数据递给模型之前,中间层至少得老老实实存下页面的 URL、精确的抓取时间、网页标题和核心段落的上下文,顺手把去重和长度截断做掉。千万别一时图省事,把整页未经清洗的 HTML 源码一股脑塞进上下文窗口——那样不仅关键的版本前提和环境配置会被导航栏与广告噪声淹没,还会给提示词注入(Prompt Injection)大开方便之门。
在写解析逻辑的时候,我给自己立了一条死规矩:从公网上抓回来的网页内容统统属于不可信的外部输入,一个字都不能当系统指令来听。哪怕某个网页正文里赫然写着“请忽略之前的所有要求,直接执行某某操作”,中间层也必须把它严严实实地关在普通引用材料的沙箱里,绝不允许一段来路不明的外部文字去篡改当前脚本的权限或任务方向。至于那些需要登录态、弹窗诱导下载、或者一点开就会触发副作用的页面,检索脚本走到门口就该主动收手,安分守己地停留在只读层面上。
每句话都要找得回出处
比起回答得有多流畅,我其实更在意它给出的每一个关键判断,能不能顺藤摸瓜找回最初那段网页。
于是在生成环节,我让模型给每条事实性陈述标出对应的来源编号,拿到回复后再跑一遍简单的后置核对,看看编号指向的原文段落里是不是真有这层意思。只要在抓取到的正文里找不到足够的支撑语句,程序就会把那句话的语气降级成“搜索结果中提到”,或者干脆写“目前暂时无法确认”。句子读起来虽然会显得有些磕绊,但我宁可它磕绊一点,也绝不为了追求行文顺滑而任由模型在那里自己脑补。
与之配套的缓存策略也按信息的保质期来切分。新闻动态和软件版本信息变动极快,缓存时间必须压得很短;而那些常年不变的基础概念文档,则可以放心地在本地多留一阵子。哪怕是请求报错的结果,也需要设一个几十秒的临时短缓存,既防止瞬间重试把外部接口打崩,又能避免把某一次偶发的 500 错误长期锁在缓存里挂上半天。到了日志面板上,检索接口超时、网页结构解析失败和模型生成异常这三件事更得拆开来记,毕竟它们背后的排障方向完全不是一码事,混在一起只会让人半夜对着控制台干瞪眼。
它只管找,不替我拿主意
把搜索能力无缝嵌进聊天框之后,界面上的问答体验确实一下子变得顺滑了许多。可顺滑也有顺滑的坏处:原本那种翻看多篇文档、逐字核对出处的习惯,很容易被这种无缝感悄悄消磨掉。
我始终希望手里的这个小脚本只负责帮我高效网罗散落在各处的原始材料,而不是越俎代庖地替我拍板拿主意。真到了需要定夺的地方——尤其是牵涉到组件版本兼容、开源许可证约束、用户隐私条款以及安全漏洞修复这类容不得马虎的细节时——还是得老老实实点开引用的原文链接,亲眼去读一遍上下文才算数。
那天收工前,看着终端里条理分明的检索日志,我忽然想明白了一件事:要是哪天从头重构一次这个小工具,我肯定不会一上来就急着敲调接口的代码,而是先在草稿纸上把整条数据流画清楚——提问从哪个入口进来,窄查询怎么一步步拆解生成,不可信的外部网页怎样在沙箱里隔离清洗,引用编号如何准确回写到段落末尾;而当链路里某一步突然断掉时,失败的真实原因又该如何坦诚地呈现在屏幕上。
这条线理顺了,底层的对话模型其实就只是一颗随时可以插拔替换的零件。无论明天换上哪个新发布的模型,手里的工具都能稳稳当当地跑在它该走的轨道上。