一个常见的失望场景:企业接入了一个很强的大模型,问它"我们公司的主打产品是什么",它开始猜测或者编造。

这不是模型的问题。它确实没见过你的资料。

四个局限

局限一:知识边界

通用模型的知识来自公开训练数据。它知道:

  • 什么是 CRM(通用概念)
  • 行业通用的报价方法
  • 公开的产品标准

它不知道:

  • 你们的产品型号与参数
  • 你们的客户与历史订单
  • 你们的内部流程与规则
一个判断:凡是"只在你公司内部存在"的信息,通用模型都不知道。这是知识边界的硬限制,无法通过模型升级解决。

局限二:时效性

模型的训练有截止日期。它不知道:

  • 你上周发布的新产品
  • 这个月的库存情况
  • 刚变更的价格政策

即使模型训练数据很新,也无法包含你公司的实时状态。

局限三:专业性

通用模型追求"广",企业场景需要"深"。

通用模型企业需要
知道"报价单一般包含什么"知道"我们的报价单第 3 项该怎么填"
知道"常见的质量检测方法"知道"我们这道工序的检验标准"
知道"CRM 的通用设计"知道"我们的客户分几级"
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
深度的差异,只能靠企业自有知识来补。

局限四:责任

通用模型不对自己的输出负责。但在企业场景中:

  • 报错一个价格,有实际损失
  • 给出一个错误的售后承诺,引发争议
  • 提供错误的技术参数,影响客户决策

因此企业使用 AI 时,必须有责任机制(人工确认、留痕、边界设定)。

怎么弥补:三条路径

路径一:知识注入(RAG)

把企业资料放到模型能检索的位置,让它回答时先查资料再回答。

优点注意
不需要重新训练模型资料质量决定回答质量
更新资料即更新知识资料冲突会导致回答不一致
成本相对低需要持续维护
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
这是目前最主流的做法。但要注意:知识注入解决的是"知不知道",不解决"会不会用"。资料写得好,它才答得好。

路径二:工具调用

让模型能调用业务系统(查库存、查订单、生成报价)。

能回答的问题需要的工具
"这个产品还有多少库存?"库存查询接口
"客户 B 上月订单多少?"订单查询接口
"帮我生成一份报价单"报价系统接口
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。

这解决了"时效性"和"实时数据"的问题。

路径三:微调(适用有限)

用企业数据训练模型。

优点局限
能学习特定的表达风格成本高
对特定任务效果更好更新知识需要重新训练
不适合频繁变化的业务信息
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。
对多数中小企业,微调不是首选。知识注入 + 工具调用的组合,成本低、更新方便、效果足够好。微调更适合有大量特定格式任务的场景。

一个务实的组合

需求用什么方案
回答企业知识问题知识注入
查询实时业务数据工具调用
生成特定格式的文档知识注入 + 模板
执行业务动作工具调用 + 权限控制
表:本表为作者依据行业公开资料整理,具体数值随企业情况而异。

三条路径可以组合使用,而不是三选一。

一个容易犯的错误

期待模型"自己学会"。

有些企业把一堆文档丢给 AI,就期待它能像老员工一样工作。但文档的混乱、过时、冲突,AI 不会自动解决——它只会照着说。

真正的工作在于整理:把资料变得准确、结构化、无冲突。这一步无法被跳过,也无法由 AI 代劳。

一个检验标准:如果你的资料不能让一个新员工独立工作,它也不能让 AI 独立工作。 AI 和新人需要的是同一种东西。

一个正向的观察

通用模型的通用能力(语言理解、逻辑推理、格式生成)是真实且强大的。企业不需要从零构建这些能力,只需要把自己的知识接上去。

这也是为什么现在的投入产出比远高于几年前:通用能力已经由大模型提供,企业要做的只是"最后一公里"——把自己的业务知识接进去。

“大模型提供了"会思考的脑子",企业提供"该知道的记忆"。两者结合才有用。”— 初元AI 团队
能不能通过微调把企业知识教给模型?+
不一定。训练(微调)能改变模型的表达风格和任务倾向,但不能可靠地"注入"事实知识,且成本高、更新不便。对于企业知识(产品参数、政策规则、客户信息),更有效的方式是知识注入(RAG)——让模型在回答时先检索你的资料。微调更适合特定的格式任务或风格要求。多数中小企业应该优先做知识注入,而不是微调。
为什么 AI 有时候会编造答案?+
这是模型的固有特性:当它不知道答案时,倾向于生成一个"看起来合理"的回答,而不是说"我不知道"。在企业场景中,这需要通过设计来抑制:一是提供充足的知识让它有据可依;二是设置置信度阈值,低置信度时转人工;三是明确禁答清单。指望模型自己"不编造"是不现实的——必须用机制来约束。
知识注入之后,AI 就完全不会错了吗?+
不会。知识注入解决的是"有没有资料",但资料本身可能有错、可能过时、可能冲突。此外,模型在检索和理解环节也可能出错。因此仍然需要:定期校正资料、设置人工确认节点、保留操作留痕。合理的预期是"大幅降低错误率",而不是"完全不出错"。把 AI 当作需要被管理的员工,而不是不会犯错的机器,是更现实的态度。
本文所述技术方案(RAG、工具调用、微调)为行业通用做法,具体实现与效果因产品而异。