构建真正可用的自主AI Agent

sumanth_077 发布于 2026-07-03 阅读 36

Anthropic推出Claude Tag,被Karpathy称为LLM UI/UX第三次重大革新,核心在于AI从单用户工具转变为团队协作的参与者。每个频道共享一个Claude,团队成员可共同与之交互,实现上下文延续。文章进而探讨构建真正自主代理所需的四个特性:身份、记忆、主动性、问责制,并以Glean的OnCall Assistant为例,展示代理如何通过组织级上下文加速事件响应。

图像

Anthropic 推出了 Claude Tag,Andrej Karpathy 称其为“LLM UIUX 的第三次重大重新设计”。

第一次是基于网页的聊天机器人。第二次是独立应用程序。用他的话说,第三次是“与组织范围内所有其他人类活动更加内联”的 AI。

这个框架值得深思。

Anthropic 自己的产品团队已经在运行内部版本。他们 65% 的代码现在由它编写。同样的模式已经扩展到工程、产品指标、支持工单和事件调查。

人们之所以关注,并不是因为 Slack 集成,而是其背后的架构决策:每个频道一个 Claude,由整个团队共享。不是每个用户一个,而是每个频道一个。

任何人都可以看到它在做什么。任何人都可以接手上一个人留下的工作。AI 不再是一个私人工具,而是整个团队共同引导的参与者。

这就是从 AI 工具到 AI 同事的转变在现实中的样子。

但 Claude Tag 只是实际所需的一个层面。以下是全貌。

当 AI 变为多人协作时,发生了什么变化

在 Claude Tag 之前,大多数 AI 集成的工作方式都一样。你打开一个聊天窗口,得到回复,关闭标签页。下一个人从头开始。没有共享状态,没有连续性,没有交接。

Claude Tag 在架构上改变了一件事:Agent 实例存在于频道层面,而不是用户层面。该频道中的每个人都与同一个 Claude 交互。它会随着时间的推移从频道中构建上下文,记住之前发生的事情,并跟进已经沉寂的线程。

Karpathy 所指的正是这一设计决策。一旦 AI 在组织层面而非个人层面运作,交互模式就会彻底改变。

但频道层面仍然只是组织知识实际存在的一部分。

上下文层

当一个 Agent 需要在真实组织中行动时,相关的上下文分布在 Jira 工单、Confluence 文档、GitHub 历史记录以及三周前的 Slack 线程中。

一个仅从告警触发的频道中获取信息的 Agent,会遗漏它所需的大部分内容。

这才是更棘手的架构问题。不仅仅是让 Agent 支持多人协作,还要让它们能够访问跨所有系统的组织知识,并且要对权限有感知,保持最新状态。

独立 Agent

这正是 Glean 着手解决的问题。

企业希望 Agent 能够与团队一起自主行动。但如果 Agent 跨关键系统独立行动,却没有围绕其能访问什么、记住什么以及允许做什么建立结构,就会带来真正的风险。

Glean 的独立 Agent 立足于你公司的上下文、流程、权限和已连接的应用。Agent 理解工作、调查问题并采取下一步最佳行动,同时它所做的每件事都保持可追溯,并处于你组织设定的护栏内。

有四个特征使其在实践中发挥作用。

身份

如今大多数 Agent 都作为使用者的扩展来运行。它们继承用户的权限、用户的会话、用户的上下文窗口。

独立 Agent 拥有自己的身份。它们对所需工具和数据拥有自己配置的访问权限。它们在工作所涉及的系统中拥有自己的存在。

你可以精确控制每个 Agent 能访问和不能访问的内容。负责工程的 Agent 和负责销售的 Agent 不同。不同的记忆、不同的工具、不同的数据访问权限。没有信息会泄露。

每一个操作都可以追溯回:是哪个 Agent、具有哪些权限、在什么时间、由什么输入触发、执行了什么操作。这个审计追踪使得自主执行真正值得信赖。

记忆

频道层面的记忆很强大——Agent 知道那个 Slack 频道里发生了什么。

生产级 Agent 需要更深入、随时间累积的记忆。

它们首先从组织的现有知识中学习:SOP、Runbook、记录在案的流程。在第一个事件发生之前,Agent 就已经知道团队如何处理升级。

然后它们从每一次交互中学习。犯过的错误会被纠正并锁定。有效的模式会被强化。经过几个月,Agent 会积累起新员工需要一年才能吸收的机构知识。

主动性

Claude Tag 有一种环境模式。它会主动从它所在的各个频道中标记出相关信息,无需被询问。它会跟进已经沉寂的线程。它会在你意识到需要之前就把事情呈现出来。

大多数 Agent 设置不是这样工作的。你提问,它回答。一旦你停止提示,它就停止工作。

生产级 Agent 需要以不同的方式运作。Agent 监控正在发生的事情,识别出需要注意的事项,并在无需等待被询问的情况下采取行动。

问责

Agent 运行得越自主,就越需要能够看到它确切做了什么。

每个工具调用都可见,每个决策都可解释,每个操作都能追溯回触发它的输入。

当出现问题时,必须有一个立即的关闭开关。不是提交工单,不是配置变更,而是一个紧急停止按钮,能在任何地方立即禁用该 Agent。

问责不是事后添加的功能。它是区分能真正部署的 Agent 和不敢在无人监督下运行的 Agent 的关键。

这在实践中是什么样

最清晰的例子是 Glean 的 OnCall Assistant

告警触发。值班工程师打开 PagerDuty,开始阅读日志,在 Confluence 中搜索 Runbook,在 GitHub 上检查最近的部署,滚动浏览 Slack 以查找上次发生此事的情况。

OnCall Assistant 同时完成所有这些工作。它读取升级信息,从 Jira、Confluence、GitHub 以及最近的 Slack 线程中提取上下文,追查多个根因理论,草拟修复方案,并标注正确的负责人。

等到工程师打开笔记本电脑时,调查已经完成。

该 Agent 拥有自己的身份和配置的访问权限。它在第一个事件发生之前就已经从团队的 Runbook 中学习过了。每个操作都完全可追溯,管理员随时可以使用紧急停止功能。

Glean 通过 100 多个连接器索引组织整个技术栈中的知识,构建一个理解文档、人员、项目和决策之间关系的知识图谱。Agent 不仅知道某个文档存在,还知道它与拥有它的团队、它所属的项目以及塑造它的决策是如何关联的。

图像

转变

Karpathy 称 Claude Tag 是我们与 LLM 交互方式的第三次重大重新设计。

这一转变并非关于更好的界面,而是关于 AI 在组织内部的位置以及它如何运作。

频道层面的上下文是起点。跨所有系统的组织上下文是目标。

身份、记忆、主动性、问责,以及跨越整个组织的上下文层——这才是构建能够像同事一样工作的 Agent 真正需要的。

  • 原文链接: x.com/sumanth_077/status...
  • 登链社区 AI 助手,为大家转译优秀英文文章,如有翻译不通的地方,还请包涵~

相关文章

0 条评论