驾驭大模型 · 颜值笔记

AI Agent · 工程讲座笔记

驾驭大模型让AI说真话 · 记得住 · 不跑偏

分享人：卡比 · 手记

👤 卡比

GitHub 中国区 Top 100 开发者 OpenCLI 发起人 Apache Mocka 作者 Harness 核心成员

从「聊天式提问」到「给AI一套脚手架」——今天的 Agent，不是模型变聪明了，而是我们学会了用框架去调度它。上下文是命门，方法论是杠杆，常活 Agent 才是真正的生产力。

什么是 Harness？

1.0 时代的 AI 只能「聊天回文」，Agent 时代的模型却在被授予一套运行时脚手架：帮它观察任务、动手执行、并记住长期目标。

一句话定义：Harness 是给 AI 搭建的脚手架——让它不只会说，还会做。

DIR 01

上下文管理

千轮对话中，记忆如何组织、压缩、持久化

DIR 02

工具调用

AI 返回代码/指令，框架执行并完成创建文件等操作

DIR 03

执行和规划

任务自动拆解为目标清单，逐步推进直至完成

DIR 04

AI Tracing

记录每一步思考路径，回流到后训练，让模型更会用工具

💡 案例：GPT-4o / GPT 系列把「操作电脑的轨迹」作为训练数据，模型下一次执行路径就会流畅许多——这正是 Tracing 的价值。

上下文窗口怎么组织？

如果你不管理上下文，你就不知道 AI 为什么会做出某个决定。

① 系统提示词

给 AI 定义身份 → 激活对应知识参数，如「你是财经专家」

② 工具描述层

MCP 协议、Skill 列表、能力说明

③ 对话层

每一轮对话、思考过程、工具调用记录

④ AI 状态栏

长期目标+当前进度。证明费马大定理到第 100 轮也记得初心，靠的就是这一栏

为什么你必须关注上下文？

每个 MCP 可能占用 1K–10K token 描述；装 10 个就可能吃掉 10K–100K 空间
千问 3.7 上下文窗口仅 256K → 装 20 个 MCP 就基本被塞满
上下文并非「全有效」：稀疏注意力机制下，100K 上下文可能只有 50K 左右真正有效

这就是「明明刚说过、后面就忘了」的真相——上下文堆太满，真正有效的内容反而被稀释。

防止上下文腐化 · 三个动作

主动压缩，并落地到本地
压缩前抽取关键信息 → 保存至 memory.md 或 Memory MCP（如 openworking、memory knowledge）→ 再清零上下文

窗口笔记
每个任务完成后，记录“做了什么/调研了什么/实验结论”→ 保存为笔记 → 再压缩，继续下一个任务（实用技巧）

分制上下文
开启子 Agent 承载局部任务，主 Agent 上下文不被污染 → 始终保持干净的主线程

方法论 & Skill 之辩

⚠️ Skill

所有 Skill 都会「死亡」——每经过一轮模型训练，此前的 Skill 会被训练进模型内部参数中。

💬 例：Super Power 半年后不仅不好用，装了反而掉智商。

💬 替代者 grime 只有三行，却比 1000 行 Skill 更好用 —— 因为知识已在模型内部，三行只是「引子」。

✦ 方法论

把整套流程浓缩成一个「名字」，AI 见到名字自动激活全套知识参数。

💬 别教 1000 字，只给 4–6 个字/一个词，能力立刻被激活。

💬 每个 Skill 都是预训练养料，吸收完毕即完成使命。

🧠 方法论速查 · 一句话顶一万句

提升 20% 能力低性原理

看到这四个字，模型自动激活第一性原理参数，思考质量跃升

防附和独立思考

专治 Claude Code 式「你永远是对的」——六个字加进去立刻打破盲从

防冗余骁龙实验

自动清除多余设计、冗余测试，适合 GPT 过度设计场景（ChatGPT 5.x 尤其适用）

校验方向对抗式审查

让 AI 主动质疑输出，从对立面检查漏洞与偏见

* 演讲者共分享 8 大方法论，此处摘录 4 个关键词，其余可通过调教 Agent 沉淀

长活 Agent · 它们像老员工一样好用

📁 阿帕奇 Mocka 社区的实践

规模：10 位 maintainer 维护着社区，每天超过 100 个 PR 需要 review
解法：每人维护 4–5 个长活 Agent，自动对 PR 完成分类与预评
分类维度：PR 是谁提的（老手/新人）？类型是 bug 修复、文档或核心设计？
定时巡检：让 Agent 每天自动跑一遍流程

系统已稳定运行约 1 个月，成为 Mocka 社区日常维护的基础设施。

🧩 长活 Agent 的三个成长维度

🧠

上下文「复利」
一直存活，所以记忆不断积累，记得所有项目偏好和你的喜好

🎨

形成自己的做事风格
维度拆解 PR、审美判断、流程偏好——逐步形成属于自己的「人格化 RSI」

⚙️

沉淀工作流 + 原则 + Skill
自己提炼好用的经验，自动总结成 Skill 复用

多Agent 架构

01🫧 Agent Swarm

并行不依赖 —— 例如想把 10 份文档翻译掉：派出 10 个 Agent 各干一份，互不干扰。

02🧩 Agent Graph

前后有依赖 —— 前端等后端、测试等 review，形成 DAG 逐层推进。Claude 证明费马大定理用的就是 Graph 框架。

03🧑‍🤝‍🧑 Agent Team

对等协作 —— 每个 Agent 独立存活、独立 Memory，没有主从关系。最难的是「编排」：角色怎么分、Skill 配什么、记忆如何共享约束。

📎 生产级参考：Mocka Graph 是自建的控制面集群——主 Agent 拆解 + 监督，子 Agent 拥有全量 log快照 + Memory + AI inf 框架，最终把整个任务图推进完成。

✦

「管理好上下文，学会方法论，建立长活Agent & Agent Team」

—— 这是驾驭大模型的完整闭环。人仍然是Agent最核心的部分：拆分、上下文管理与记忆，都取决于人类的智慧。

▎🧰 未来范式沉淀

把常用流程/策略，沉淀为 CLI、MCP 或脚本，并有意识地用一套「AI友好（AX）」的设计哲学来构建——让每个Agent用起来更顺手。

✓

行动建议

先学会观察窗口：每次任务开始前，检查当前模型的上下文占用与内容构成

精装工具层：别贪多，10个 MCP 可能占满一个小窗口——工具越克制，模型越清醒

用关键词指挥：给 AI 说「我们来用低性原理思考」「这次请保持独立思考」

养一只长活 Agent：从固定流程开始（如PR review/资料检索），让它积累你的偏好与风格

复杂任务按依赖选择形态：独立并行选 Swarm，依赖分明选 Graph，长期协作用 Agent Team

✦ 笔记小结 ✦

你的大模型并不笨，关键在你怎么给它搭脚手架。
上下文 · 方法论 · 长活Agent —— 帮你真正驾驭大模型。

由 CuteNote.app 颜值笔记生成