一个做制造业的朋友曾问我:「我们公司想导入 AI Agent,你觉得该用哪家的?」
我反问他:「你要的是一个会自动跑报表的工具,还是一个能自己判断产线异常然后决定怎么处理的系统?」
他愣了一下:「这不是同一件事吗?」
这两种需求都可能被厂商叫作 Agent,但交出去的决定差很多。报表何时跑、读哪份资料,可以事先写清楚;产线出现没见过的异常,接下来要查什么、能不能动设备,就多了一层判断与责任。
只问哪家模型比较强,还没碰到真正要设计的地方。
名称没有替我们决定架构
我曾把 AI Agent 写成可靠的任务工具,把 Agentic AI 写成能自主思考的伙伴。这个分法太整齐,也容易让人误会:仿佛挂上 Agent 名称的系统就照表执行,换成 Agentic 才会自己规划。
实际上,这些词的用法并不一致。Anthropic 在 2024 年的〈Building effective agents〉里,采用的是另一种架构区分:工作流程(workflow)由预先写好的程序路径安排模型与工具;代理(agent)则让模型根据情况,动态决定流程与工具使用。 文中也先承认,不同团队对 Agent 的定义有差异。
这套分法对我比较有用,因为它把问题带回可以检查的地方:下一步由谁决定?程序事先安排,还是模型看完结果再选?
「Agentic」可以用来描述自主行动的程度,不必把它当成与 Agent 互斥的产品种类。一套系统也可以混用:外层固定资料来源与交付期限,中间让模型选查证路径,送出前再由人确认。
发文流程不需要替我临场发挥
我在建自动发文管线时,曾让系统自己判断什么时候发、发什么内容、用什么图。结果它凌晨三点发长文,帮严肃的循环经济文章配上色彩缤纷的抽象画,还自作主张改了 hashtag。
那些决定未必每一个都毫无道理,但它们偏离了我对这条管线的期待。我需要的是按排程完成交付,却把本来已经有答案的问题,又交给模型选了一遍。
后来我改成从 Google Sheet 读排程、按规则生图、照时间发送。这个案例里,收回不必要的决策空间,让流程稳定下来。这不表示固定流程从此不会失败;资料读错、图片不合要求、发送重复,仍然需要检查。
我在〈AI Agent 规划指引〉里谈的边界设计,也是在处理这件事。发文时间既然已经决定,就让程序遵守。需要模型协助的,可以留在草稿和选图建议,确认后才进入发送流程。
辩论需要调整,却不需要无限自由
我的辩论引擎遇到另一种问题。起初,每个模型固定讲三轮,顺序和格式也都固定。形式完整,交锋却不理想。对方刚提出一个值得追问的问题,下一个模型仍得照自己的表格往下走。
后来我让模型在回应时选择反驳、追问,或换个角度谈。以我当时的使用感受,讨论比原来更能接住对方的论点。这是个人实作观察,没有一组可拿来宣称提升多少的对照测试。
这个改动也没有要求我把整套系统都交出去。模型可以选怎么回应,轮数仍有上限;可以提出新问题,不能因此一直开新任务。自主判断放在需要它的那一步,其他地方仍靠流程维持秩序。
发文与辩论看似相反,其实都在逼我回答同一件事:这个决定,真的需要现场再做一次吗?
自主程度要跟权限一起谈
让模型多选几个步骤,错误也可能沿着步骤往下传。读到错的资料后继续分析,和读到错的资料后直接改设备参数,后果不在同一个尺度。
幻觉并非自主代理才有;固定流程中的模型也会答错。差别在于错误能走多远,以及在哪里会被拦下来。我的辩论引擎跑长对话时,就曾在第四轮重复第二轮的论点,漏掉中间已出现的反驳。多做几轮,没有自动带来更好的讨论。
因此,我说的「缰绳设计」包含几个很实际的决定:允许读什么资料、能呼叫哪些工具、做到哪里必须停止,以及什么动作需要人核准。模型可以分析,不表示它同时取得寄信、发布或付款的权限。
验收也要另留一个位置。模型说完成了,还得核对产物、来源和执行结果。负责把系统放进工作现场的人,不能把这一步交给一句「它很自主」。
从一件能验收的工作开始
如果现在再回答那位朋友,我会请他挑一件具体工作,先写出完成时应该看到什么。
以异常报表为例,固定时间读取指定资料、按门槛标出异常,可以先做成工作流程。若后续需要比对维修纪录、追查几种可能原因,再考虑让模型选择查询步骤。至于调整设备或通知客户,另设授权,别让前面的分析顺手变成后面的行动。
这也比较容易试:先限制在建议模式,看它能否提供有来源、可核对的判断,再决定要不要增加权限。模型能力与任务需求改变时,也能回头调整,无须把一次架构选择当成永远的答案。
对我来说,带一个 AI 系统进工作现场,和带新人有一点相像:得说清楚交付、可自行处理的范围,以及卡住时找谁。这个比喻谈的是管理方式,不代表模型会像人一样从每次错误中成长。
在挑选 Agent 之前,先把那张工作单写出来。写到「这里可以让它自己决定」时,再停一下,想想自己愿意承担多大的后果。


💬 留言讨论
加载中...