设置

在这里，您可以对 Bot 进行各种类型的基本参数配置，配置的结果将直接影响 Bot 的表现。

LLM

在这里，您可以对 Bot 的 LLM 参数进行设置。

• LLM：Bot 所使用的 LLM。
• 温度：也可被理解为「创造力」。数值越高，则 LLM 的发散性越强，即 LLM 能回复非常具有创造性的结果，但同时也意味着存在不可控的可能性；数值越低，则收敛性越强，即 LLM 的回复会更加严谨而稳定。
• 身份提示：决定了 Bot 「将会成为一个什么样的实体」。您可以在身份提示内，为 Bot 设定其角色、目标、任务、流程、限制、技能等，以让 Bot 对自己的角色定位有更加清晰的认知，并最终能按您的期望去执行任务。您也可以点击右上角「AI」，让 AI 基于您当前的身份提示内容进行优化。AI 将基于科学的「提示词工程」框架，为您撰写一个更加高效、科学的身份提示。
• Token 分配：用于分配不同类型的内容占用 LLM 上下文窗口的比例。

知识库

使用"用户问题"在知识库内执行检索，并召回若干知识块，作为上下文的一部分，提交给 LLM 执行任务。 在知识库模块，可以对 Bot 如何使用知识库进行设置。

知识数量

当前该 Bot 可用于检索的知识文档梳理

知识召回机制

相关性：用户提问与知识块之间的语义相关性，仅大于等于该值的知识块会被用作 Bot 回答的参考资料。

召回数量：可自定义检索后召回的最大知识块数量，数量的多少将影响 Bot 回复质量和 Tokens 的消耗。

检索比重：检索时，语义检索和关键词检索影响最终检索结果的权重占比。

• 关键词检索：使用用户问题去检索知识库中的词汇最匹配的知识块，适合于文档结构相似且文档梳理众多的业务场景，如：上市财报数据，商品信息数据等。
• 语义检索：使用用户问题去检索知识库中的语义最匹配的知识块，几乎适用于所有业务场景。

知识重排：将全部符合「相关性」得分条件所召回的知识块，再次提交给选定的重排模型进行相似性排序，返回 top K（指定召回数量）的知识块并向 LLM 提交。重排机制可以让 LLM 拥有更加精准的知识上下文，有效提升 LLM 的响应质量。

知识检索为空

当检索知识库的召回数量为 0 时，Bot 的应答策略。

知识引用展示

在对话界面，是否展示每一条 LLM 响应结果的来源知识信息。

Tool

在这里，您可以配置 Bot 所需要使用到的 Tool。

您可以在身份提示内，为 Bot 定义使用 Tool 的时机。结构：

          use the {Tool} plugin/tool to {目的/任务} when {时机}.

        

例如，若您想让 Bot 基于生成的故事的主要内容，调用DALL-E-3来绘制插画，则可以这么写：

          use the `DALL-E-3` plugin to generate cartoons style paintings for the pivotal scenes of the story when the whole story generation is done.

        

记忆

在这里，您可以配置 Bot 对话过程中需要使用的记忆能力。

• 短期记忆：可设置将最近几轮对话内容作为记忆，「一问一答」视为一轮对话。
• 长期记忆：将更长的对话内容作为记忆。
• 用户属性：将用户的属性预置在记忆中，以让 Bot 能够拥有用户的个性化信息作为知识，从而能够提供更佳个性化的服务。

若关闭记忆能力，则与 Bot 的对话将不具备上下文能力，每一轮对话都将是独立的。

欢迎与引导

在这里，您可以为 Bot 配置欢迎语及用户引导信息。

• 欢迎语：当用户访问 Bot 时，Bot 将自动以该欢迎语向用户打招呼。
• 建议问题：当 Bot 回复结束后，Bot 将自动为用户提供 3 个可用于继续对话的问题，以引导用户继续与 Bot 对话。

输入

• 最大图片数：在与 Bot 对话时，可输入的最大图片数。
• 上传图片质量：向 Bot 输入的图片的质量。质量越高，MLLM 的响应质量越好。
• 语音输入：是否允许向 Bot 输入语音。该能力可以将用户的语音输入转为文本并提交给 Bot。

输出

• 语音输出：是否允许将 Bot 的输出内容转为语音。
• 声音：Bot 输出内容的语音的声音。
• 声音质量：Bot 输出内容的语音的声音质量。
• 文本输出语言：定义 Bot 的输出语言。

调试

在这里，您可以与 Bot 的对话，实时感受参数设置调整后的效果。

同时，您也可以利用这里的对话内容，对 Bot 进行训练。