AB
AiBoss
Tutorials

FastGPT

Tutorials

用 FastGPT 搭建带检索与护栏的客服问答机器人

从零搭建一个可用的 FastGPT 问答机器人:写清系统提示词、整理并打标知识库、配置检索与拒答规则、用提示流固定回答结构,再通过测试集与指标持续迭代。文中给出可直接套用的提示词模板、分阶段上线节奏与常见故障的排查方向。

FastGPT 是一套围绕大语言模型搭建问答机器人与自动化流程的系统。它把提示词、知识库、检索逻辑和对话流程放在同一个地方管理,让「把资料丢给模型然后祈祷它答对」变成可重复、可治理的流程。它适合这几类人:需要做内部知识助手、客服问答、文档问答、新人引导机器人或研究型助手的团队;已经有一批结构化文档、希望模型基于这些文档作答而不是自由发挥的团队;以及需要把机器人通过网页挂件、应用内聊天或 API 接入现有产品的开发者。如果你只是想找一个能对话的聊天窗口,FastGPT 的价值体现不出来;它的价值在于把回答变成一套有角色、有资料、有流程、有评测的系统。站内也有对应的工具条目,可以先看 FastGPT 的概览再往下读。

下面按「准备工作 → 操作步骤 → 完整示例 → 注意事项」的顺序展开。所有涉及价格、配额、模型可用性、版本功能的信息,都以官网当前信息为准,本文不写具体数字。

准备工作

动手之前先把下面几件事定下来,后面会省很多返工。

  • 账号与工作区:准备好可登录的 FastGPT 账号,并确认你所在的工作区有创建应用、上传知识库的权限。团队协作时,先想清楚谁负责维护知识库、谁负责改提示词,避免多人同时改同一份配置。
  • 模型选择:确定要接入的基座模型。素材给出的建议是:正式环境用能力较强的模型,测试阶段可以先用响应更快的模型跑通流程,再换到更强的模型上验证效果。具体支持哪些模型、如何配置密钥,以官网当前信息为准。
  • 资料清单:列出你要让机器人回答的问题范围,并找出对应的文档。第一版不要贪多,10–20 篇高度相关的文档就够起步,质量比数量重要得多。
  • 真实问题集:从客服记录、群聊、工单里收集 30 条用户真正问过的问题。这份问题集既是验收标准,也是后面做回归测试的基础。
  • 边界规则:提前决定机器人不该回答什么。比如客服机器人不应回答法律与财务问题,销售机器人不应做无法核实的竞品断言。这些规则要写进提示词,而不是等出问题再补。

操作步骤

第一步:创建应用并命名

新建一个应用,名字要能看出用途和版本,例如「客服问答 v1」「内部 SOP 助手 v1」。带版本号的好处是:后面改提示词、换检索策略时,可以新建一个版本并行对比,而不是在同一个应用上反复覆盖。

创建时选定基座模型。测试阶段用响应快的模型,验证阶段换成更强的模型,对比同一批问题的回答质量。

第二步:把系统提示词写成一份「岗位说明书」

系统提示词决定了机器人的行为上限。不要写成一段散文,而要按固定结构写清五件事:角色、目标、语气、策略、格式。下面这个模板可以直接套用:

Role: {助手名称},服务对象是 {受众},领域是 {业务范围}。
Goals: 准确、简短、可执行;涉及操作步骤时优先用清单。
Tone: {品牌语气};不使用行话,除非用户主动使用。
Refusals: 如果信息不在知识库范围内,明确说明并追问细节。
Safety: 不处理用户未主动提供的个人数据。
Formatting: 多步骤任务用要点列表;仅在确定时给出链接。

一个更具体的客服版本:

你是 Acme 的 SupportBot。
受众:普通用户,非技术背景。
目标:准确、简短、可执行。
语气:友好、平实,控制在 6–9 年级阅读难度。
策略:如果知识库里找不到答案,先提一个澄清问题再回答。
格式:步骤用 3–5 条要点;结尾附一个确认性问题。

写提示词时有几个要点值得记住:

  • 短而明确:每条规则都应该是可测试的。写「回答不超过 120 词」比写「回答要简洁」有用得多。
  • 显式拒答:明确写出「不知道就说不知道,并追问」,比事后抱怨模型幻觉有效。
  • 格式约束:把「步骤用要点列表」「结尾加一个确认问题」这类要求写死在提示词里,回答的一致性会明显提升。
  • 来源偏好:可以加一句「用户提到报错时,优先使用标记为 troubleshooting 的文档作答」,把检索偏好也写进提示词。

第三步:整理并上传知识库

检索增强(RAG)的效果,八成取决于资料整理得好不好。上传之前先做这几件事:

  1. 精选文档:先传 10–20 篇最相关的,不要一次性把整个文档站倒进去。文件小、范围窄,索引更快,也更容易定位问题。
  2. 清理标题层级:把用户最可能搜索的词放进一级、二级标题。标题是检索的重要信号,标题写得含糊,检索就找不到。
  3. 控制分块长度:每个小节控制在 150–500 词,结构清晰、标题明确。过长的段落会被切碎,语义断裂后检索质量下降。
  4. 打标签:给文档打上主题标签,例如 pricing、troubleshooting、legal。标签是后面做检索过滤和权限隔离的基础。
  5. 设定更新节奏:内容大改之后重新索引;常规内容按周同步。过期的文档比没有文档更危险。

上传完成后,先只拿两三个问题试检索,确认能命中正确的段落,再继续往下配置。

第四步:用提示流固定回答流程

单个提示词能解决的问题有限。把回答拆成几个步骤,用流程节点串起来,回答会稳定得多,出问题时也容易定位是哪一步坏了。一个可用的五步流程:

  1. 意图分类:判断用户问的是客服、销售、技术还是账单问题。
  2. 决定是否检索:需要检索时,同时决定用哪些标签过滤。
  3. 生成回答:按提示词里的语气、长度和策略生成。
  4. 附加引用:置信度超过阈值时,附上来源链接或文档名。
  5. 追问确认:结尾问一句是否解决了问题,便于收集反馈。

在 FastGPT 里,这些步骤对应流程中的节点或函数调用,具体节点名称与配置方式以官网当前信息为准。模块化的好处是:回答太长就改第三步的格式约束,检索不准就改第二步的过滤条件,互不干扰。

第五步:加护栏与评测

护栏是让机器人「不乱说」的硬约束,建议在第一次上线前就配好:

  • 置信度规则:例如「置信度低于 0.6 时,先提澄清问题再回答」。阈值需要按你的资料质量实测调整。
  • 领域白名单:不同机器人只能检索特定标签的文档。销售机器人不应访问法务文档,这是权限问题,不只是质量问题。
  • 个人信息处理:输入侧剥离邮箱、证件号等敏感字段;非必要不存储敏感内容。
  • 自动化测试:维护 20–50 条标准问答,定期跑一遍,捕捉提示词或知识库改动带来的回归。

第六步:设计回答的呈现方式

同样的信息,呈现方式不同,用户感受差别很大。几条实践:

  • 操作类问题用 3–5 条要点步骤,不要写成段落。
  • 在步骤后加一句短总结,例如「简而言之:整个过程大约两分钟」。
  • 给出明确的下一步动作,例如「需要我帮你开一张工单吗?」。
  • 链接要少而准,只在确定时给。

一个符合上述要求的输出示例:

重置密码的步骤如下:
- 进入「设置 → 安全」
- 点击「重置密码」
- 查收邮件并点击其中的链接

简而言之:两分钟就能完成。
需要我再发一次链接吗?

第七步:部署与接入

机器人调好之后,再考虑接入渠道。常见方式包括网页挂件、应用内聊天、Slack 或 Teams,以及通过 API 接入自有系统。部署时注意三点:

  • 品牌一致性:界面语气要和提示词里的语气一致。提示词写「简短、友好、自信」,界面上就不要出现冗长的欢迎语。
  • 预置意图:开场给几个可点击的入口,例如「账单」「安装配置」「故障排查」,能显著减少无效对话。
  • 人工兜底:提供清晰的人工转接路径,并支持把对话记录一并转交。复杂问题卡在机器人里,比直接转人工体验更差。

一个完整示例

假设你运营一个 SaaS 产品,有一个约 40 页的文档站和一份比较杂乱的 FAQ。目标是在四周内上线一个客服问答机器人,并让它逐步承担重复性问题。

第 1 周:跑通最小闭环。创建应用「客服问答 v1」,写一份六行左右的系统提示词(角色、受众、目标、语气、拒答策略、格式),上传排名前 15 的 FAQ 页面,逐篇打上 troubleshooting 或 pricing 标签,然后用 30 条真实问题逐条测试。这一周不追求准确率,只确认「检索能命中、回答有结构、不知道时会说不知道」。

第 2 周:补护栏。根据第 1 周暴露的问题加规则:回答过长就加字数上限和要点格式;出现编造就加拒答规则和澄清问题规则;检索不到就回头改文档标题和小节划分。同时开启引用,让回答带上来源。然后在应用内上线,开场放三个预置意图。

第 3 周:接工单系统并量化。把机器人与工单系统打通,开始记录两个核心指标:自助解决率(没有转人工就解决的比例)和用户满意度。按反馈调整提示词与检索过滤条件。

第 4 周:复制出销售版本。新建一个销售助手,使用独立的检索标签,只允许访问产品文档与竞品简报,并加上更严格的断言规则——不做无法核实的比较,涉及对比时给出出处。

四周之后,你得到的不是一个「能聊天的窗口」,而是一套有明确角色、有受控资料、有固定流程、有指标可看的系统。重复性工单减少,销售回答有据可查,这才是这类系统真正的产出。

注意事项

幻觉出现在冷门话题上。先收紧检索过滤条件,再提高置信度阈值,最后在提示词里加一条明确的「不要猜测」规则。三者按顺序试,通常前两步就能解决大半。

回答过长。设置字数上限,强制使用要点列表,并在流程末尾加一个「风格检查」步骤,把回答重写一遍再输出。这个检查步骤的提示词可以写成:把回答压缩到 120 词以内,涉及步骤时保留一个短列表,结尾加一个确认性问题。

关键事实被漏掉。多半是文档标题太含糊或分块太碎。改标题、把分块调小、再把标准问答补进知识库作为种子内容。

不同会话之间语气不一致。把风格规则写死,并加一个改写步骤,在最终输出前统一语气。

回答里出现过期内容。安排定期重新索引,在回答中显示文档时间戳,并让检索优先选择较新的来源。

安全与治理。按机器人角色划分访问范围,隔离敏感标签;记录提示词与输出以便审计,同时做脱敏;遵守数据保留策略,定期清理测试对话;把系统提示词当作代码来管理,做好版本记录。

进阶能力。需要机器人执行动作时,用工具调用(创建工单、查询订单状态等),并为每个工具定义严格的参数结构。需要推理过程时,用简短的推理摘要代替完整的思维链,兼顾速度与隐私。支持多模态时,可以让用户上传图片或 PDF 并自动抽取关键字段。检索片段保持短小,按相关性与时效排序。想比较两套提示词或检索配置,做 A/B 测试,留下效果更好的那套。高流量接口要加退避与缓存,避免触发速率限制。

衡量效果。建议持续跟踪五项:回答准确率(人工抽查加自动化测试集)、自助解决率、首次响应时间、问题拦截带来的成本节省、用户满意度。设定目标值,按周复盘,据此调整提示词和检索过滤条件。

起步建议。从一个范围很窄的机器人开始,配 10–20 篇精选文档;准备 30 条真实问题作为测试集;尽早加上拒答与置信度策略,引用功能可以稍后再上;按周迭代,每两周做一次提示词 A/B 测试。这套系统真正的难点从来不是写出某一条完美提示词,而是把角色、资料、流程和评测组合成一个可以持续运行的结构。