AI 术语表 · 入门 · 智能体

编程智能体

编程智能体是一种 AI 程序：人用自然语言提出编程任务后，由 LLM 自行规划，阅读、修改并运行代码，一直到完成任务。

关于这个术语

通俗解释 它就像一名新入职的开发者，只要收到请求，就会自己打开代码查看、修改、运行，不行就再改。不过，与新人不同，它可能不了解项目的具体情况或隐含意图，因此结果必须由人审查。

工作原理

用户说出“帮我修复登录 bug”这样的目标后，LLM 先规划要做什么。然后直接调用读取文件、修改代码、执行终端命令等工具。它会运行测试或查看错误信息来确认结果，如果问题仍然存在，就修改计划并重复同样的过程。判断目标已达成后，它会整理所做的改动并向人汇报。

编程智能体的工作循环 这是一个循环结构：收到请求的 LLM 用工具修改代码、检查执行结果，如果仍有问题就回到规划阶段。

以往的代码自动补全只能建议一两行，而编程智能体可以一次承担跨多个文件的任务。开发者可以把重复性修改或编写测试交给它，更专注于设计和审查。因此，编程被认为是 AI 智能体在实际工作中最先站稳脚跟的领域。各类开发工具和云服务也在以便于编程智能体使用的形式推出功能。

编程智能体也会产生幻觉，调用不存在的函数，或写出看似合理却错误的代码。由于它会直接执行命令，限制其权限、防止它做出删除文件这类难以撤销的操作非常重要。此外还存在提示词注入风险，即用藏在代码或文档中的指令欺骗智能体。归根结底，产出必须由人审查并通过测试确认。

开发者在编辑器或终端中把任务交给编程智能体，例如“给这个功能加上测试”，再审阅智能体做出的修改并将其合入。本站也报道过“AWS 发布面向编程智能体的 SageMaker 推理优化技能 aws-ai-ml”，云服务公司专门打包了一套供编程智能体（而不是人）读取和使用的工作知识，很好地体现了这一趋势。