首页/资讯/AI 应用
AI 应用

企业接大模型,第一步不是选模型

大多数公司上来就问"用哪个模型好"。这个问题问早了。选错模型可以换,选错场景,做完没人用,钱和时间都白花。

去年到现在,问 AI 的公司很多,真正跑起来的少。复盘下来,卡住的地方几乎都不是技术,是第一步选错了对象。

这篇文章讲三件事:怎么挑第一个场景、怎么算这笔账、为什么知识库比模型重要。

先选场景,三个判断标准

不是所有环节都适合上 AI。用这三个标准筛,能过的基本都能落地:

  1. 高频。一天发生几十次以上的事才值得做。一个月才遇到两次的问题,做出来也没人记得用。
  2. 有标准答案。客户问"发票怎么开",答案是固定的。这种适合 AI。客户问"你觉得我这个方案行不行",这是判断,不是问答。
  3. 容错空间够。答错了可以纠正、可以转人工,损失可控。反过来,涉及金额计算、法律结论、医疗建议的,不要让模型直接给结论。
最容易踩的坑:挑了一个"看起来很 AI"的场景,比如智能营销文案、经营分析预测。这类事没有标准答案,效果好坏说不清,做完之后没人能判断它到底有没有用。

三个能直接算账的场景

1. 客服问答

这是目前投入产出最容易算的一个。一个客服月薪加社保在 6,000 元以上,能接住的问题里,有六到七成是重复的——营业时间、退换政策、怎么开票、物流到哪了。

把这部分交给 AI,人工只处理复杂问题,同样的咨询量能少配一到两个人。而且它 24 小时在线,夜间咨询不会流失。

2. 单据识别

发票、合同、运单、身份证,拍照上传后自动抽取字段,直接填进系统。人工只做确认。

方式单张成本速度错误率
人工录入0.5–1 元2–3 分钟取决于人,重复劳动容易出错
AI 识别0.01–0.05 元1–3 秒标准票据 95% 以上,人工复核兜底

一天处理 200 张票据的公司,一年能省下来的录入成本是几万块,而且是即时见效的。

3. 内容初稿

不是让 AI 直接写成品,是让它出框架和初稿,人来改。一篇 800 字的产品介绍,人工从零写要三四个小时,AI 给结构加初稿二十分钟,人再花一小时改成能用的。省的是冷启动那段时间,不是全部时间。

为什么先做知识库,不是先做模型

模型是通用的大脑,它知道世界上大部分常识,但不知道你公司的具体规定。

直接问通用模型"我们的退货政策是什么",它只能编一个听起来合理的答案。这在客服场景里是致命的——答错一次,客户就不信了。

正确做法是把公司的制度、产品手册、常见问题整理成知识库,让模型先检索、再回答,并且告诉你答案来自哪一条。这样带来三个好处:

  • 答案有出处,客户追问时能拿出依据
  • 答不出来时明确说"这个我不确定,帮您转人工",而不是硬编
  • 政策改了,改文档就行,不用重新训练模型

知识库做得好不好,直接决定 AI 客服能不能用。这部分工作量在整理文档上,不在技术上。很多项目做到一半卡住,是因为发现公司的制度散在十几个 Word 和微信群里,根本没人整理过。

成本怎么估,才不会失控

大模型按 token 计费,一次问答大约消耗 1,500–3,000 token(含检索到的资料)。

不同模型每百万 token 的价格从几元到几十元不等,折算下来一次问答的成本在几分钱量级。按一天 300 次咨询算,一个月几百块。

真正会失控的是这三种情况:

  • 每次都全量检索。把整个知识库塞进提示词,一次几万 token,成本翻十倍。
  • 所有问题都用最贵的模型。简单问题用小模型就够,没必要都上旗舰版。
  • 没有缓存。同一个问题被问一百遍,每次都重新算一遍。

这三点在工程上都有解:先做意图分类,简单的走规则或小模型,复杂的才调大模型;检索只取最相关的几段,不全量塞;高频问题做缓存。

三个最常见的失败原因

  1. 没有数据。文档是纸质的、散在个人电脑里、版本对不上。这个坑最常见,也最费时间。
  2. 没有流程。AI 给出了答案和建议,但没有人负责执行。比如 AI 判断"这个客户该回访",回访动作在谁那里?没定义清楚,AI 就只是个聊天玩具。
  3. 没有维护。上线时整理了 20 篇文档,三个月后还是这 20 篇。业务变了,AI 答的还是老政策,用的人越来越少,最后没人打开。

这三条都不是技术问题,是组织问题。所以在动手之前,先确认一件事:谁能持续维护这个知识库,谁对答案的准确性负责。如果这个问题答不上来,建议先别做。

想知道你的业务哪个环节适合先上 AI

说一下你现在最耗人的环节是什么,我们判断能不能用、大概什么成本。

说说你的需求 400-823-0371

本文由郑州司科计算机科技有限公司技术团队整理。我们做软件定制开发,从 2011 年到现在, 交付过商城、本地生活、行业软件等各类系统。文中提到的价格区间和工期基于实际项目经验, 具体到你的项目会有差异,需要评估。

打电话 加微信咨询
电话
400-823-0371 工作日 9:00–18:30 微信同号 13323817112
微信
微信二维码 微信二维码
待替换

扫码加微信
13323817112

QQ
313999875 工作日 9:00–18:30 发起对话