考察点:Agent 运行循环的基础机制,以及上下文膨胀带来的稳定性问题。
要点:AI Agent 是能感知环境、决策并执行动作的软件系统。与只生成回复的聊天机器人相比,它会在任务过程中持续观察和调整,直到结束条件满足。常用的拆分方式是 Agent = LLM + Planning + Memory + Tools——LLM 处理意图和决策,工具执行外部操作,记忆保存当前任务和历史信息。
Agent Loop 的流程
为什么必须设迭代上限
最大迭代轮次通常设在 10 到 20 轮,也可以按 Token 消耗终止。这个边界用来阻止错误判断把任务带进无限循环。早期 AutoGPT 等尝试经常在多步任务中重复调用、甚至陷入无限循环,就是因为缺少这类边界。
做一套 Agent 系统最少要搞定三层
为什么会“失忆”和跑偏
上下文会随着每轮工具结果不断变长,关键信息被稀释后模型更容易跑偏。窗口大不等于可以无限塞:推理成本随 Token 数线性增长;《Lost in the Middle》研究表明,在多文档检索型任务中模型更容易利用上下文首尾的信息,中间段的信息利用率明显更低,窗口越长这种位置偏差越明显。所以上下文工程里必须主动控制输入信息的分布。
很多 Agent 项目不稳定,不是模型不够好:LLM + Planning + Memory + Tools 四块缺哪个都有明显短板——Tools 没有,Agent 停留在“给建议”阶段;Memory 没有,稍微长一点的任务就开始失忆;上下文管不好,模型随便跑偏。
容易被忽略的关键点:工具描述
模型是否调用工具、怎样填写参数,主要依据工具的 description。描述中应同时给出适用和不适用的条件,例如慢 SQL 查询工具除了写“查询慢 SQL 日志”,还要写明“服务响应慢、数据库超时、CPU 飙升且怀疑与数据库相关时使用;用户询问网络或内存问题时不要调用它”。这块省了力气,后面会双倍还回来。
题目与答案就在本页;收藏、批注和错题重练在应用内