AB
AiBoss
Tutorials

BetterYeah AI

Tutorials

在 BetterYeah AI 工作流中配置 LLM 节点并接入多模型

讲解如何在 BetterYeah AI 的 AI 应用工作流里添加 LLM 节点、用 {{}} 语法引用上游变量、选择通义千问 / 百度千帆 / 智谱 / 讯飞星火等模型,并调好 temperature、流式输出与 System 提示,最后用一个可跑通的最小示例串起 Start 到 LLM 的完整链路。

BetterYeah AI 的 AI 应用由节点串成流程,其中 LLM 节点负责真正调用大模型:把上游节点传来的数据填进提示词,交给选定的模型生成结果,再交给下游节点使用。这篇教程讲的是在工作流里添加并配置 LLM 节点这件事——包括提示词怎么写、怎么引用变量、模型怎么选、temperature 与流式输出怎么设、System 提示怎么用。适合已经能在 BetterYeah AI 里创建 AI 应用、但还没把 LLM 节点调明白的人。如果你更想先在浏览器里直接试提示词效果,可以配合 BetterYeah AI 的在线入口做单次运行验证,再回到工作流里固化配置。

需要先建立一个基本认识:与 LLM 的通信是通过自然语言和书面文字完成的,用来向模型提供信息和指令的那段文本就叫「提示(Prompt)」。所以每次使用 LLM,本质上只做两件事——写好提示和选择合适的模型。LLM 节点的全部配置项,都是围绕这两件事展开的。

准备工作

在动手之前,确认下面几项已经就绪:

  • 一个可用的 BetterYeah AI 账号,并且已经能进入「构建 AI 应用」的编辑界面。LLM 节点是工作流里的一个节点类型,没有可编辑的应用就无从添加。
  • 一个已有的 AI 应用(工作流)。至少要有入口节点,否则 LLM 节点没有上游数据可接。素材中的示例以 Start 节点作为数据来源。
  • 明确你要用哪个模型。平台除通义千问外,还接入了百度千帆、智谱、讯飞星火等系列模型,不同模型的可用性、计费与配额各不相同,具体以官网当前信息为准。
  • 想清楚提示词要达成什么结果。提示必须清晰明确,这是能否完成需求的关键;提示写得含糊,换什么模型都救不回来。

关于提示词工程的方法与最佳实践,平台文档指向了提示工程指南这一类资料,建议在正式搭流程前先花点时间读一读,尤其是「角色设定 + 任务描述 + 输出格式约束」这种基本结构。

操作步骤

第一步:在连线中插入 LLM 节点

LLM 节点不是凭空新建的,而是插在两个已有节点之间的连线上:

  1. 找到两个节点之间的连线;
  2. 点击连线中间的 + 号按钮;
  3. 在节点类型里选择 LLM 节点;
  4. 节点插入后,在节点面板里选择要使用的模型,并写下提示词。

这一步的顺序很重要:先有上下游节点,再插入 LLM 节点,节点才能正确拿到输入、把输出传下去。如果流程里还没有 Start 节点,先补上。

第二步:写提示词

提示语是一段书面文字,里面同时包含两样东西:你要提供给语言模型的信息,以及你对它的指令和期望。写的时候把这两部分分开想,通常比混在一段话里效果更可控。

一个实用的写法是把提示拆成几块,用自然语言明确标出:

  • 角色:模型在这件事里扮演谁;
  • 输入:要处理的内容,通常来自上游变量;
  • 任务:具体要它做什么,动词要明确;
  • 输出要求:格式、长度、语言、是否需要结构化。

第三步:在提示词里引用其它节点的变量

提示输入框既接受常规文本,也接受变量模板,语法是双花括号 {{}}。例如要取 Start 节点的 content 值,就在提示词里写:

{{start.content}}

把它嵌进一句完整的提示里,大致是这样:

请阅读下面的用户输入,并用一句话概括它的核心诉求:

{{start.content}}

输出要求:只输出概括结果,不要解释过程。

除了手写变量名,也可以在文本框左侧的变量列表里直接选择要使用的变量,平台会把对应的 {{}} 表达式插入到光标位置。变量名写错不会报语法错,只会让模型收到一段字面的花括号文本,所以插入后要回头核对一遍。

第四步:选择模型

模型在 LLM 节点的 Model 配置项里选择。平台提供的模型按提供商分组,常见的有以下几类(模型清单会随平台更新,实际可选范围以界面与官网当前信息为准):

提供商模型
阿里qwen-v1、qwen-plus-v1
百度千帆ERNIE-Bot、ERNIE-Bot-turbo、AquilaChat-7B、ChatGLM2-6B-32K、Qianfan-Chinese-Llama-2-7B、Llama-2-70b-chat、Llama-2-7b-chat、BLOOMZ-7B
智谱chatglm_std、chatglm_pro、chatglm_lite、chatglm_lite_32k
讯飞general、generalv2

选型时值得注意的几点:同一家提供商下往往同时有「能力更强」和「更轻量」的档位,前者适合复杂推理与长文本,后者适合高频、低延迟的简单任务;带上下文长度标识的模型(如 32K 一类)适合塞入较长的上游内容;不同模型对中文、代码、结构化输出的表现差异明显,最好用同一段提示词分别跑一遍再定。

第五步:设置创造性(temperature)

temperature 控制输出的随机程度,理解方式很直接:

  • 值较大时,模型输出的概率分布更平均,结果更多样,适合创意写作、头脑风暴、文案变体;
  • 值较小时,模型更倾向于选择概率高的选项,输出更稳定,适合信息抽取、分类、格式固定的结构化输出。

如果同一个流程要反复跑、且下游依赖固定格式,把 temperature 调低;如果希望每次给出不同角度的结果,就调高。具体取值范围与默认值以界面与官网当前信息为准。

第六步:决定是否开启流式输出(stream)

流式输出开启后,AI 会以字符为单位分批返回数据;关闭后,AI 会在生成完整结果后一次性返回。素材给出的使用建议是:在 LLM 节点为流程最后一个节点时可以开启。原因是流式返回的价值在于让终端用户尽早看到内容逐步出现,如果后面还有节点要消费完整结果,分批数据反而会增加处理复杂度。

第七步:配置 System 提示

LLM 节点的对话结构分三层,理解这三层各自的职责,配置就不会乱:

  • System(系统提示):定义人工智能的角色、目标和行为,以及具体任务或规则。可以用来指导对话的整体流程、提供背景知识或设置上下文。
  • USER(用户提示):为模型提供输入或对话,以获得所需的输出结果。
  • ASST(Assistant):Assistant 就是模型本身,它通过与 System 和 User 的交互,提供适当的回复和响应;它可以接受用户的问题、指示、需求,并努力提供有用的答案、执行特定任务或提供相关信息。

实践上,把「不变的部分」放进 System——身份、语气、禁止事项、输出格式;把「每次变化的部分」放进 USER——上游变量、本次的具体任务。这样同一套 System 可以被多个流程复用,改动成本最低。

一个完整示例

下面用一个最小可跑通的流程,把上面的配置项串起来:用户提交一段文本,流程输出一句话摘要。

流程结构

Start 节点  →  LLM 节点

1. 准备 Start 节点

Start 节点负责接收用户输入,假设它有一个名为 content 的字段,用来存放用户提交的原始文本。

2. 插入 LLM 节点

点击 Start 节点与后续节点(或流程末端)之间连线上的 +,选择 LLM 节点。

3. 填写 System 提示

你是一名严谨的文本摘要助手。
你的任务是阅读用户提供的文本,提炼其核心诉求。
输出规则:
1. 只输出一句话,不超过 40 个汉字;
2. 不输出解释、不输出原文引用;
3. 使用简体中文。

4. 填写 USER 提示

请概括下面这段文本的核心诉求:

{{start.content}}

其中 {{start.content}} 可以直接手写,也可以在文本框左侧的变量列表里选中 content 插入。

5. 设置模型与参数

  • Model:从通义千问、百度千帆、智谱、讯飞星火等系列中选一个可用模型;
  • temperature:调低,因为这里要求输出稳定、格式固定;
  • stream:该 LLM 节点位于流程末端,可以开启,让结果逐步返回。

6. 运行调试

用「运行调试」功能,给 Start 节点的 content 填入一段测试文本,例如一段用户反馈。观察 LLM 节点的输出是否满足 System 里定的三条规则。如果不满足,优先改 System 提示里的约束,而不是反复换模型。

7. 验证变量替换

调试时特别确认一点:模型收到的应该是用户文本本身,而不是字面的 {{start.content}}。如果输出里出现了花括号原文,说明变量名与上游字段名不一致,回到第三步核对。

这个流程跑通后,可以继续往下扩展:在 LLM 节点之后接 Memory 节点保存上下文,或把 LLM 节点的输出接到下一个 LLM 节点做二次加工。素材中提到的节点类型还包括 Start 节点与 Memory 节点,它们与 LLM 节点配合构成更完整的应用。

注意事项

  • 提示词质量是主要变量。提示必须清晰明确,这是完成需求的关键。模型选得再好,提示含糊也拿不到稳定结果。
  • 变量语法是双花括号。写成 {{start.content}} 这种形式,单花括号或漏写节点名都不会被识别为变量。
  • 流式输出有使用前提。素材明确建议在 LLM 节点为最后一个节点时才开启;中间节点开启会让下游拿到分批数据。
  • temperature 不是越高越好。它改变的是概率分布的平坦程度,值大更多样、值小更稳定,按任务性质选,不要默认拉满。
  • 模型清单与可用性会变化。本文列出的模型名称来自平台文档的既有清单,实际可选模型、计费方式、配额与地区可用性请以官网当前信息为准。
  • System 与 USER 的职责不要混。把固定规则放 System、把每次变化的输入放 USER,后续维护和复用会轻松很多。