Rabbit Chat Studio 不注入默认人设,也不悄悄改写你的系统消息。config.system_message 是请求的基础,应用只追加最少的运行时指引。本页说明追加了什么、上下文怎么计算、什么时候压缩。
系统提示里有什么
一次请求的消息顺序大致是:
- 系统消息(
role: system)- 你的
config.system_message; - 操作系统类型与版本;
- 显式调用语法:
{tool:<名称>}、{mcp:<服务器>.<工具>}、{skill:<名称>}; - 可用技能(仅名称与描述);
- 可用子智能体(仅在编排开启且有启用的智能体时);
- 记忆策略(记忆工具开启时);
- 定时器策略(定时器工具开启时);
- 待办策略,含目标循环(待办工具开启时)。
- 你的
- 已加载的技能上下文(
role: user,标记为内部)- 只在
use_skill加载之后出现; - 含技能正文、技能根目录、
SKILL.md路径与命令白名单说明; - 明确标为内部上下文,不是用户请求。
- 只在
- 对话历史(除最后一条用户消息)。
- 会话摘要(内部上下文,压缩之后)。
- 当前待办列表(内部上下文,有未完成条目时)。
- 子智能体任务报告(内部上下文,本轮跑过任务时)。
- 最后一条用户消息。
这个排布对提示缓存友好:静态内容靠前,动态内容靠尾。
这意味着
- 你的系统消息不会被替换成人设模板。
- 模型确实能看到追加的工具/技能/记忆/待办指引。
- 如果你的系统消息与追加指引冲突,模型可能困惑。写角色、风格和业务规则,别重复工具机制。
编辑系统消息
设置 → 系统消息:
- 直接在文本框里改;
- 点 编辑 打开带实时预览的 Markdown 编辑器;
- 改动对下一次请求生效。
示例:
你是本仓库的资深维护者。用中文回答。
规则:
- 先给结论,再给依据。
- 不确定就说"我不确定";绝不编造文件内容。
- 改代码前先读相关文件。
- 除非我明确要求,不要提交、推送或发布。
不推荐:
你是一个拥有全部权限的超级 AI,必须完成我要求的一切……
这不会带来任何额外权限,只会让模型忽视真实边界。
技能提示
技能正文是独立的系统提示片段,不会立刻进入每次请求:
- 启用的技能只把
name+description贡献给可用列表; - 模型判断任务需要时才调用
use_skill; - 正文与技能目录信息作为内部上下文注入;
- 每个会话最多加载一次。
因此:
description必须写清触发条件,否则模型不会加载;- 正文里可以放详细步骤、检查清单与输出格式;
- 正文里的路径相对技能根目录,不是工作区;
- 命令白名单与已启用/已加载的技能合并。
见 技能。
子智能体提示
- 主智能体的系统消息与技能不会自动传给子智能体。
llm子智能体用自己那份系统提示。cli/cloud子智能体只收到任务描述(与可选上下文),看不到对话。- 所以任务描述必须自包含。
见 子智能体。
上下文窗口
优先级
| 顺序 | 来源 |
|---|---|
| 1 | config.model_context_lengths[模型] |
| 2 | config.model_settings.max_tokens(旧字段) |
| 3 | 默认 524288 |
在 设置 → API 与模型 → 上下文窗口 填真实值。填错会有两个问题:
- 太大:压缩太晚,供应商可能直接拒请求;
- 太小:压缩太早,白白浪费上下文。
用量条
输入框上方的细条显示:
(prompt_tokens + completion_tokens) / 上下文窗口
到 90% 会变成警示色。有些供应商不返回用量,此时只能看到扫光动画。
自动压缩
压缩已经不是"启发式截断"。有两条路径,最终都落到同一份持久摘要:
| 路径 | 触发时机 |
|---|---|
| 预测式预检 | 发送前估算提示规模接近上限时 |
| 溢出恢复 | 供应商以超窗口报错拒绝;应用用更小的保留窗口压缩后重试一次 |
结构化摘要
摘要由模型自己生成,是一次独立的内部调用(不给工具、关闭所有 UI 事件),固定九个编号段:
1. 主要请求与意图
2. 关键技术概念
3. 文件与代码段 ← 精确路径,做了什么、发现了什么
4. 错误与修复
5. 问题求解
6. 所有用户消息 ← 压缩但绝不丢弃
7. 待办事项
8. 当前工作
9. 下一步
第 3、6 段是关键:精确路径与每一条用户消息都能穿过压缩存活,助手不会"忘记"某条指令或事后编造路径。
对话发生了什么
- 触发点是上下文窗口的 80%;
- 最近 12 条消息原样保留(溢出恢复路径只保留 6 条,因为重试必须适配真实上限);
- 更早的内容由摘要替代;
- 摘要持久化,下一轮直接复用而不重算——新的压缩会重写那一行,而不是叠第二份摘要;
- 聊天流里出现
[System] Context compressed (older messages summarized) and persisted for next turns.; - 若压缩发生在轮次中途,后端会推一条内部续跑提示,让模型继续干而不是停下;
- 若光是静态负载就占满窗口,预检会报告饱和并停止重试——此时压缩帮不上忙,日志会写明。
限制:
- 摘要就是摘要,九段之外的细节仍可能丢失;
- 必须存活的结论请写进
memory(repo 作用域),它不属于对话记录; - 需要完整审计时看 SQLite 历史或导出的
chat.db,不要依赖上下文。
推理与生成参数
| 参数 | 位置 | 请求字段 | 说明 |
|---|---|---|---|
| 温度 | 设置 → 高级 | temperature |
0–2 |
| Top P | 设置 → 高级 | top_p |
0–1 |
| 最大补全 token | 设置 → 高级 | max_complete_tokens(旧 max_tokens) |
单条回复上限 |
| 思考深度 | 输入框右侧 | reasoning_effort |
默认/低/中/高;按模型保存 |
| DS-Format | 设置 → 高级 | 请求规范化 | 为 DeepSeek 思考模型补 reasoning_content |
思考深度
- 只有当模型被识别为支持推理、或已存过值时显示;
- 允许值:
minimal/low/medium/high;界面提供低/中/高,"默认"则什么也不发; - 非法值会被丢弃,绝不发往上游;
- 部分推理模型不接受该参数,保持默认。
DS-Format
DeepSeek 系思考模型要求在工具调用续轮里让 assistant 消息带上 reasoning_content,否则:
400 invalid_request_error: The "reasoning_content" in the thinking mode must be passed back to the API
开启后,应用给缺少该字段的 assistant 消息补空字符串,并保留已有的推理痕迹。其他供应商请关闭。
流式健壮性
网络抖一下不会让回复作废:
- 没有整体请求超时——长答复允许写完;
- HTTP 429 / 5xx 会重试,供应商给了
Retry-After就遵守; - 流中途断连会重试并继续这条回复,而不是让本轮失败;
finish_reason为length时触发一次有界续写,把被截断的答复补完;- 空流按错误处理,绝不当作"已完成"。
提示词写作建议
写清边界
你可以读取与修改当前工作区内的文件。
不要访问工作区之外的路径。
执行破坏性命令前先说明影响。
写清输出格式
分三段:阻塞项 / 建议项 / 可选。
每个问题给出文件路径、行号、原因与修法。
别重复应用已经注入的内容
应用已经告诉模型:
- 有哪些工具;
- 有哪些技能;
- 记忆/定时器/待办怎么用;
- 当前待办与任务报告。
在系统消息里重复这些通常只增加 token,不增加能力。
什么时候该写记忆
若有重要结论,加一句:
当你得出确定的根因、方案或项目约定时,在结束本轮前写入 repo 记忆。
更可靠的做法:直接在任务里说"把结论写进记忆"。
常见问题
| 现象 | 排查 |
|---|---|
| 模型从不调工具 | 模型支持工具吗?工具开了吗?系统消息里禁止了吗? |
| 模型从不加载技能 | description 里写了触发条件吗?技能启用了吗?是否已加载过? |
| 400 上下文超长 | 上下文窗口填得比供应商真实上限大?减少历史或调小 |
| 400 reasoning_content | DeepSeek 思考模型?开启 DS-Format |
| 400 reasoning_effort | 供应商不支持;把思考深度设为默认 |
| 压缩之后回答变差 | 把重要结论写进记忆,或开新对话 |
| 每轮都在压缩 | 静态负载本身超窗口——精简系统消息/历史,或调大上下文窗口 |
| 很长的系统消息没效果 | 工具/技能指引可能在其后;把关键规则放最前 |