介绍大模型节点的基础使用:定义、基础配置、高级配置、提示词编写四个方面。

  • 大模型节点定义:大模型节点是Coze工作流的关键模块,它整合了多种大语言模型(LLM)的功能,允许用户通过调整提示词和参数设置,高效调用AI能力以实现特定需求。

  • 基础配置项
    模型下拉有多个模型可选,默认模型可覆盖常规使用;
    输入中可引用之前节点也可以在此处自定义输入;
    系统提示词,强调"用户无法修改",“定义AI基础行为”,规定大模型的逻辑、数据处理规则、输出格式要求等;
    用户提示词强调 “自由输入”,“动态变化”,“表达具体需求”,是个性化的需求。具体编写时可使用输入引用中与用户输入相关的变量
    定义输出变量为后续节点使用。
    在这里插入图片描述

  • 高级配置
    模型参数调节
    随机性(Temperature):0.1-1.0,越高模型生成的多样性越高,但意味着越不好控制结果
    ○ 0.1-0.3:适合分析、翻译等需要准确性的任务
    ○ 0.4-0.7:适合通用对话和问答
    ○ 0.8-1.0:适合创意写作和头脑风暴
    Top p : Top p 是一种控制文本生成多样性的方法。模型会从概率最高的词汇开始选择,逐步加入次高概率的词汇,直到这些词汇的累计概率达到设定的 Top p 值。例如,若 Top p 设为 0.9,模型会挑选概率最高的词汇组合,直到它们的总概率达到 90%。
    重复语句惩罚: 当该值为正时,会阻止模型频繁使用相同的词汇和短语,从而增加输出内容的多样性。
    最大回复长度与最大推理 & 回答长度:前者关闭深度思考时使用;后者开启深度思考时使用。
    当前时间:每次请求时自动更新当前时间戳,避免时效性回答依赖模型训练数据。
    SP 防泄漏:智能体发布后自动屏蔽系统提示词探测,防止外部逆向工程泄露提示词。
    在这里插入图片描述

  • 提示词编写
    标准结构模板

# 角色定义
你是一位[专业领域]专家,具有[相关经验]# 任务说明
请根据以下信息完成[具体任务]# 输入数据
- 数据1:{{variable1}}
- 数据2:{{variable2}}

# 输出要求
1. 格式:[指定格式]
2. 长度:[字数限制]
3. 风格:[语言风格]
4. 重点:[关键要素]

# 示例参考
输入示例:[示例输入]
输出示例:[期望输出]

请严格按照要求完成任务。

熟悉目标任务或需求的思维模式是重点。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐