一个常见的失望场景:企业接入了一个很强的大模型,问它"我们公司的主打产品是什么",它开始猜测或者编造。
这不是模型的问题。它确实没见过你的资料。
四个局限
局限一:知识边界
通用模型的知识来自公开训练数据。它知道:
- 什么是 CRM(通用概念)
- 行业通用的报价方法
- 公开的产品标准
它不知道:
- 你们的产品型号与参数
- 你们的客户与历史订单
- 你们的内部流程与规则
一个判断:凡是"只在你公司内部存在"的信息,通用模型都不知道。这是知识边界的硬限制,无法通过模型升级解决。
局限二:时效性
模型的训练有截止日期。它不知道:
- 你上周发布的新产品
- 这个月的库存情况
- 刚变更的价格政策
即使模型训练数据很新,也无法包含你公司的实时状态。
局限三:专业性
通用模型追求"广",企业场景需要"深"。
| 通用模型 | 企业需要 |
|---|---|
| 知道"报价单一般包含什么" | 知道"我们的报价单第 3 项该怎么填" |
| 知道"常见的质量检测方法" | 知道"我们这道工序的检验标准" |
| 知道"CRM 的通用设计" | 知道"我们的客户分几级" |
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
深度的差异,只能靠企业自有知识来补。
局限四:责任
通用模型不对自己的输出负责。但在企业场景中:
- 报错一个价格,有实际损失
- 给出一个错误的售后承诺,引发争议
- 提供错误的技术参数,影响客户决策
因此企业使用 AI 时,必须有责任机制(人工确认、留痕、边界设定)。
怎么弥补:三条路径
路径一:知识注入(RAG)
把企业资料放到模型能检索的位置,让它回答时先查资料再回答。
| 优点 | 注意 |
|---|---|
| 不需要重新训练模型 | 资料质量决定回答质量 |
| 更新资料即更新知识 | 资料冲突会导致回答不一致 |
| 成本相对低 | 需要持续维护 |
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
这是目前最主流的做法。但要注意:知识注入解决的是"知不知道",不解决"会不会用"。资料写得好,它才答得好。
路径二:工具调用
让模型能调用业务系统(查库存、查订单、生成报价)。
| 能回答的问题 | 需要的工具 |
|---|---|
| "这个产品还有多少库存?" | 库存查询接口 |
| "客户 B 上月订单多少?" | 订单查询接口 |
| "帮我生成一份报价单" | 报价系统接口 |
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
这解决了"时效性"和"实时数据"的问题。
路径三:微调(适用有限)
用企业数据训练模型。
| 优点 | 局限 |
|---|---|
| 能学习特定的表达风格 | 成本高 |
| 对特定任务效果更好 | 更新知识需要重新训练 |
| 不适合频繁变化的业务信息 |
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
对多数中小企业,微调不是首选。知识注入 + 工具调用的组合,成本低、更新方便、效果足够好。微调更适合有大量特定格式任务的场景。
一个务实的组合
| 需求 | 用什么方案 |
|---|---|
| 回答企业知识问题 | 知识注入 |
| 查询实时业务数据 | 工具调用 |
| 生成特定格式的文档 | 知识注入 + 模板 |
| 执行业务动作 | 工具调用 + 权限控制 |
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
三条路径可以组合使用,而不是三选一。
一个容易犯的错误
期待模型"自己学会"。
有些企业把一堆文档丢给 AI,就期待它能像老员工一样工作。但文档的混乱、过时、冲突,AI 不会自动解决——它只会照着说。
真正的工作在于整理:把资料变得准确、结构化、无冲突。这一步无法被跳过,也无法由 AI 代劳。
一个检验标准:如果你的资料不能让一个新员工独立工作,它也不能让 AI 独立工作。 AI 和新人需要的是同一种东西。
一个正向的观察
通用模型的通用能力(语言理解、逻辑推理、格式生成)是真实且强大的。企业不需要从零构建这些能力,只需要把自己的知识接上去。
这也是为什么现在的投入产出比远高于几年前:通用能力已经由大模型提供,企业要做的只是"最后一公里"——把自己的业务知识接进去。
“大模型提供了"会思考的脑子",企业提供"该知道的记忆"。两者结合才有用。”— 初元AI 团队
能不能通过微调把企业知识教给模型?+
不一定。训练(微调)能改变模型的表达风格和任务倾向,但不能可靠地"注入"事实知识,且成本高、更新不便。对于企业知识(产品参数、政策规则、客户信息),更有效的方式是知识注入(RAG)——让模型在回答时先检索你的资料。微调更适合特定的格式任务或风格要求。多数中小企业应该优先做知识注入,而不是微调。
为什么 AI 有时候会编造答案?+
这是模型的固有特性:当它不知道答案时,倾向于生成一个"看起来合理"的回答,而不是说"我不知道"。在企业场景中,这需要通过设计来抑制:一是提供充足的知识让它有据可依;二是设置置信度阈值,低置信度时转人工;三是明确禁答清单。指望模型自己"不编造"是不现实的——必须用机制来约束。
知识注入之后,AI 就完全不会错了吗?+
不会。知识注入解决的是"有没有资料",但资料本身可能有错、可能过时、可能冲突。此外,模型在检索和理解环节也可能出错。因此仍然需要:定期校正资料、设置人工确认节点、保留操作留痕。合理的预期是"大幅降低错误率",而不是"完全不出错"。把 AI 当作需要被管理的员工,而不是不会犯错的机器,是更现实的态度。
本文所述技术方案(RAG、工具调用、微调)为行业通用做法,具体实现与效果因产品而异。