文档运维与边界

提示词与上下文

Rabbit Chat Studio 不注入默认人设,也不悄悄改写你的系统消息。config.system_message 是请求的基础,应用只追加最少的运行时指引。本页说明追加了什么、上下文怎么计算、什么时候压缩。

系统提示里有什么

一次请求的消息顺序大致是:

  1. 系统消息(role: system)
    • 你的 config.system_message;
    • 操作系统类型与版本;
    • 显式调用语法:{tool:<名称>}、{mcp:<服务器>.<工具>}、{skill:<名称>};
    • 可用技能(仅名称与描述);
    • 可用子智能体(仅在编排开启且有启用的智能体时);
    • 记忆策略(记忆工具开启时);
    • 定时器策略(定时器工具开启时);
    • 待办策略,含目标循环(待办工具开启时)。
  2. 已加载的技能上下文(role: user,标记为内部)
    • 只在 use_skill 加载之后出现;
    • 含技能正文、技能根目录、SKILL.md 路径与命令白名单说明;
    • 明确标为内部上下文,不是用户请求。
  3. 对话历史(除最后一条用户消息)。
  4. 会话摘要(内部上下文,压缩之后)。
  5. 当前待办列表(内部上下文,有未完成条目时)。
  6. 子智能体任务报告(内部上下文,本轮跑过任务时)。
  7. 最后一条用户消息。

这个排布对提示缓存友好:静态内容靠前,动态内容靠尾。

这意味着

  • 你的系统消息不会被替换成人设模板。
  • 模型确实能看到追加的工具/技能/记忆/待办指引。
  • 如果你的系统消息与追加指引冲突,模型可能困惑。写角色、风格和业务规则,别重复工具机制。

编辑系统消息

设置 → 系统消息:

  • 直接在文本框里改;
  • 点 编辑 打开带实时预览的 Markdown 编辑器;
  • 改动对下一次请求生效。

示例:

你是本仓库的资深维护者。用中文回答。

规则:
- 先给结论,再给依据。
- 不确定就说"我不确定";绝不编造文件内容。
- 改代码前先读相关文件。
- 除非我明确要求,不要提交、推送或发布。

不推荐:

你是一个拥有全部权限的超级 AI,必须完成我要求的一切……

这不会带来任何额外权限,只会让模型忽视真实边界。

技能提示

技能正文是独立的系统提示片段,不会立刻进入每次请求:

  1. 启用的技能只把 name + description 贡献给可用列表;
  2. 模型判断任务需要时才调用 use_skill;
  3. 正文与技能目录信息作为内部上下文注入;
  4. 每个会话最多加载一次。

因此:

  • description 必须写清触发条件,否则模型不会加载;
  • 正文里可以放详细步骤、检查清单与输出格式;
  • 正文里的路径相对技能根目录,不是工作区;
  • 命令白名单与已启用/已加载的技能合并。

见 技能。

子智能体提示

  • 主智能体的系统消息与技能不会自动传给子智能体。
  • llm 子智能体用自己那份系统提示。
  • cli / cloud 子智能体只收到任务描述(与可选上下文),看不到对话。
  • 所以任务描述必须自包含。

见 子智能体。

上下文窗口

优先级

顺序 来源
1 config.model_context_lengths[模型]
2 config.model_settings.max_tokens(旧字段)
3 默认 524288

在 设置 → API 与模型 → 上下文窗口 填真实值。填错会有两个问题:

  • 太大:压缩太晚,供应商可能直接拒请求;
  • 太小:压缩太早,白白浪费上下文。

用量条

输入框上方的细条显示:

(prompt_tokens + completion_tokens) / 上下文窗口

到 90% 会变成警示色。有些供应商不返回用量,此时只能看到扫光动画。

自动压缩

压缩已经不是"启发式截断"。有两条路径,最终都落到同一份持久摘要:

路径 触发时机
预测式预检 发送前估算提示规模接近上限时
溢出恢复 供应商以超窗口报错拒绝;应用用更小的保留窗口压缩后重试一次

结构化摘要

摘要由模型自己生成,是一次独立的内部调用(不给工具、关闭所有 UI 事件),固定九个编号段:

1. 主要请求与意图
2. 关键技术概念
3. 文件与代码段      ← 精确路径,做了什么、发现了什么
4. 错误与修复
5. 问题求解
6. 所有用户消息      ← 压缩但绝不丢弃
7. 待办事项
8. 当前工作
9. 下一步

第 3、6 段是关键:精确路径与每一条用户消息都能穿过压缩存活,助手不会"忘记"某条指令或事后编造路径。

对话发生了什么

  1. 触发点是上下文窗口的 80%;
  2. 最近 12 条消息原样保留(溢出恢复路径只保留 6 条,因为重试必须适配真实上限);
  3. 更早的内容由摘要替代;
  4. 摘要持久化,下一轮直接复用而不重算——新的压缩会重写那一行,而不是叠第二份摘要;
  5. 聊天流里出现 [System] Context compressed (older messages summarized) and persisted for next turns.;
  6. 若压缩发生在轮次中途,后端会推一条内部续跑提示,让模型继续干而不是停下;
  7. 若光是静态负载就占满窗口,预检会报告饱和并停止重试——此时压缩帮不上忙,日志会写明。

限制:

  • 摘要就是摘要,九段之外的细节仍可能丢失;
  • 必须存活的结论请写进 memory(repo 作用域),它不属于对话记录;
  • 需要完整审计时看 SQLite 历史或导出的 chat.db,不要依赖上下文。

推理与生成参数

参数 位置 请求字段 说明
温度 设置 → 高级 temperature 0–2
Top P 设置 → 高级 top_p 0–1
最大补全 token 设置 → 高级 max_complete_tokens(旧 max_tokens) 单条回复上限
思考深度 输入框右侧 reasoning_effort 默认/低/中/高;按模型保存
DS-Format 设置 → 高级 请求规范化 为 DeepSeek 思考模型补 reasoning_content

思考深度

  • 只有当模型被识别为支持推理、或已存过值时显示;
  • 允许值:minimal / low / medium / high;界面提供低/中/高,"默认"则什么也不发;
  • 非法值会被丢弃,绝不发往上游;
  • 部分推理模型不接受该参数,保持默认。

DS-Format

DeepSeek 系思考模型要求在工具调用续轮里让 assistant 消息带上 reasoning_content,否则:

400 invalid_request_error: The "reasoning_content" in the thinking mode must be passed back to the API

开启后,应用给缺少该字段的 assistant 消息补空字符串,并保留已有的推理痕迹。其他供应商请关闭。

流式健壮性

网络抖一下不会让回复作废:

  • 没有整体请求超时——长答复允许写完;
  • HTTP 429 / 5xx 会重试,供应商给了 Retry-After 就遵守;
  • 流中途断连会重试并继续这条回复,而不是让本轮失败;
  • finish_reason 为 length 时触发一次有界续写,把被截断的答复补完;
  • 空流按错误处理,绝不当作"已完成"。

提示词写作建议

写清边界

你可以读取与修改当前工作区内的文件。
不要访问工作区之外的路径。
执行破坏性命令前先说明影响。

写清输出格式

分三段:阻塞项 / 建议项 / 可选。
每个问题给出文件路径、行号、原因与修法。

别重复应用已经注入的内容

应用已经告诉模型:

  • 有哪些工具;
  • 有哪些技能;
  • 记忆/定时器/待办怎么用;
  • 当前待办与任务报告。

在系统消息里重复这些通常只增加 token,不增加能力。

什么时候该写记忆

若有重要结论,加一句:

当你得出确定的根因、方案或项目约定时,在结束本轮前写入 repo 记忆。

更可靠的做法:直接在任务里说"把结论写进记忆"。

常见问题

现象 排查
模型从不调工具 模型支持工具吗?工具开了吗?系统消息里禁止了吗?
模型从不加载技能 description 里写了触发条件吗?技能启用了吗?是否已加载过?
400 上下文超长 上下文窗口填得比供应商真实上限大?减少历史或调小
400 reasoning_content DeepSeek 思考模型?开启 DS-Format
400 reasoning_effort 供应商不支持;把思考深度设为默认
压缩之后回答变差 把重要结论写进记忆,或开新对话
每轮都在压缩 静态负载本身超窗口——精简系统消息/历史,或调大上下文窗口
很长的系统消息没效果 工具/技能指引可能在其后;把关键规则放最前

源文件: docs/wiki/zh/prompts-and-context.md ↗ · 文档版本 v3.3.3