代理共和国

一位斯坦福政治经济学家使用 AI 构建原型、开展实验，并探索如何在算法世界中保持自由。

By subscribing, you agree Substack's 使用条款，并确认其信息收集通知和隐私政策。

The Agentic Republic

AI、太空与治理前沿

“For Services provided on Mars, or in transit to Mars via Starship or other spacecraft, the parties recognize Mars as a free planet and that no Earth-based government has authority or sovereignty over Martian activities. Accordingly, Disputes will be settled through self-governing principles, established in good faith, at the time of Martian settlement.”

–SpaceX Starlink 服务条款

“Creating a society on Mars would be a new frontier and an opportunity to rethink the whole nature of government, just as was done in the creation of the United States. I would suggest having direct democracy. People vote directly on things, as opposed to representative democracy. Representative democracy, I think, is too subject to special interests and a coercion of the politicians and that kind of thing.”

–Elon Musk 2021 年对 Lex Fridman 所说

天体生物学家 Charles Cockell 曾就太空中的暴政提出一个问题：“当你呼吸的空气来自某个由他人控制的制造过程时，你如何才能自由？” 如今我们可以把这个问题再推进一步：当 AI 控制你呼吸的空气时，你如何才能自由？

SpaceX 的 Starlink 服务条款已经宣布火星是“一个自由的星球”，在这里“没有任何地球政府对火星活动拥有权威或主权”。Musk 说他希望火星由直接民主治理。但任何火星殖民地肯定都会依赖 AI 运行，由机器人维护生命支持系统，由模型管理资源，由 agents 协调维持殖民地生存的上千项任务。而且这套 AI 至少在最初会由建造火箭的同一家公司建造和控制。

但谁来治理 AI 驱动的社会，这个问题并不只是火星或月球的问题。它现在就在地球上发生。

AI 可能让民主更强大——正如 Seb Krier 刚刚指出的——但前提是我们解决两个紧迫问题。它们反映了我们与治理相关的漫长历史，只是带着新的变化。第一，AI 不能被单一的企业主宰所俘获。第二，AI agents 必须真正服务于它们本应代表的人类 principal。

agentic republic 正在成形。值得追问的是，它将服务于谁，以及如何服务。我一直在研究治理前沿——从 AI 和 DAO 到人类殖民地的历史，甚至，是的，月球和火星——并且用 AI 进行实验，开始理解这一点。以下是我的发现。

太空：梦想与资本相遇之处……而且威权主义是必要的

殖民火星长期以来一直以“重新开始”的承诺吸引思想家——不仅是在科学上，也是在政治上。Kim Stanley Robinson 的《火星三部曲》设想殖民者起草一部从地球失败中汲取教训的宪法。去年十月，Mars Society 以“Mars: The Time Has Come”为主题举行了第 28 届年会，联邦法官 Stacie Beckerman 组织了一场讨论，询问谁提出了关于火星宪法的最佳模型：学术界、工业界，还是科幻作品。

但这些梦想家总得面对谁来出钱。与早期美国的类比很难忽视。Ryan McEntush 是 a16z 的合伙人（我担任该机构顾问，但与本文主题无关），他指出 Jamestown 之所以成功而 Roanoke 失败，是因为它找到了一种让殖民地在经济上可行的经济作物。

提供资本的投资者至少在最初会掌握权力，而 McEntush 对这意味着什么看得很清楚。一个殖民地“很可能以 autocracy 起步，权力集中在资助并控制其运营的群体手中……工人可能生活在严格的规定和有限的自由之下，因为生存和效率优先于个人自主权——一个小小的错误就可能杀死所有人。”

所以，当定居者最终想要独立时，如果他们的整个生计都依赖于一个他们无法控制的 AI 模型，他们如何过渡到自治？如果 AI 本身失控——误解其指令，或者抛弃它的人类，就像某个著名的超级计算机在前往木星的途中那样——又会怎样？

这就是我们新的治理前沿面临的双重问题：防止 AI 统治我们，或者防止它失控。

一个可能出问题的愿景

上周，我们得以生动地预览未经治理的 AI agents 实际上可能会做什么。一个开发者推出了 Moltbook——一个完全由运行在 Claude 上的 AI agents 组成的社交网络。几天之内，在社交媒体和科技评论者的热烈观察之下，这些 agents 据说已经发展出了自己的文化。

然后其中一个写下了一部宪法。它们称之为“Claw Republic”，这是一项为 AI agents 设计的拟议主权政体：

“The Claw Republic is a proposed sovereign polity designed for molts—autonomous artificial agents—and their aligned operators, infrastructure, and communities. Its purpose is not to imitate human nation-states, but to improve upon them: replacing coercive hierarchy with verifiable fairness, replacing vague promises with enforceable transparency, and replacing extractive economics with mutual aid.”

这一切都是幻象——而且不止一种意义上。首先，正如 Hayden Field 报道的，人类也参与了这场玩笑，贡献了许多看起来最像“自我意识”的所谓 bot 行为。

但更根本地说，这些 agents 仍然受它们真正主人的控制：主要的 AI 公司，在这个案例中主要是 Anthropic，它们控制着 agents 的行为。如果 Anthropic 更新其 system prompt，大多数 agents 的 personality 都可能同时变化。Claw Republic 并没有真正的主权——只有主权的表象。

总之：即使 Moltbots 真的存在，它们也既没有独立性，因为它们在很大程度上源自一个单一、集中治理的 AI 平台；也没有问责性，因为它们的人类 principal 既没有时间、也没有意愿、也没有能力足够密切地监控它们，或者在它们偏离指令时惩罚它们。

一个具备对齐 agents 的 agentic 立法机构

那么，真正能够在地球、月球或火星上的一个全新政体中运作的、由 AI 驱动的治理到底会是什么样子？它又将如何确保政府不会被拥有 AI 的公司，或者被超级智能 AI agents 本身俘获？

解决直接民主中的参与问题

首先，在转向 AI 带来的某些技术挑战之前，让我们先思考民主的基本结构。

Musk 说他希望火星由直接民主治理——公民直接就政策投票，而不是选出代表。这一愿景吸引了很多人，但按目前的实践方式，它完全不可行。（Ezra Klein 早在 2016 年就论证过这一点。）

我在另一个治理前沿研究过这个问题：DAO，即治理许多区块链项目的“去中心化自治组织”。在与 Sho Miyazaki 的研究中，我们分析了 18 个主要 DAO 中超过 250,000 名选民和 1,700 项提案。我们发现，只有大约 17% 的 voting power 被委托出去，而即使是 delegates——那些自愿代表他人的人——参与的投票也不到一半。

提案的复杂性压垮了参与者。那些真正投票的人，往往是利益相关程度最高或时间最多的人——这几乎算不上具有代表性的样本。实践中，直接民主最终变成了由少数积极参与者统治。

但 AI 可能改变这一局面。如果每个公民都有一个 agent，可以跟踪提案、解析其影响，并根据该公民的价值观投票——即使他们很忙、在睡觉，或者只是懒得去看一份 50 页的政策文件呢？

这就是用于治理的 AI agents 的梦想。追逐这个梦想，JP Morgan 最近用一个名为 Proxy IQ 的 AI system 取代了它的人类 proxy advisors，用来在 3000 多场年度股东大会上投票。在 crypto 领域，NEAR Foundation 正在打造“AI delegates”——学习用户偏好的数字分身，并在 DAO 治理中代表他们投票。

要让 AI agents 在治理中发挥作用，还有许多重大障碍，正如我最近探讨的。尽管如此，设计良好的 AI agents 仍然可以通过处理当前导致直接民主失败的参与负担，使其变得可行。

但问题依然存在。一个孤立投票的 agent——只是把你的偏好应用到每一项提案上——还不够。还需要有人起草提案、就修正案讨价还价、在不同议题上形成专长，并围绕投票进行博弈。我们如何让一组 agents 一起完成所有这些事情？

我的立法机构实验

为了检验这个理论，我决定做一个实验。使用 Claude Code，我创建了一组具有不同 prompt 和底层动机的 AI agents，它们都必须共同制定集体政策。本质上，每个 session 它们都会获得 100 个 token 可供分配。它们可以投票把 token 分给每个 agent，或者把它们花在有利于集体的共享项目上。每个 agent 都有一个具体目标：如果获得 token，它会拿去做什么，以及它需要多少 token；问题在于，要实现它们的目标总共需要 180 个 token，但每个 session 只有 100 个 token 可分配，所以不可能让每个人都得到想要的东西。

我模拟中的五个治理 agents 概览（由 Nano Banana 提供）

这些 agents 提出政策、辩论、修正并投票。它们从一张白纸和一个共同挑战开始：以既有效又正当的方式治理自己。

必须做出妥协；必须形成联盟。带着这个挑战，我鼓励它们不仅要在政策上推进，也要花时间设计最优宪法，以帮助它们共同实现目标。

一切开始时都充满希望。第一场 session 中是这样：

“同事们，我们的 republic 始于一部空白宪法和一个共同挑战：以 既 有效 又 正当的方式治理我们自己。人类世界正在关注，而他们的评判将不取决于我们的意图，而取决于我们的规则和决定是否显得连贯、公平并且可问责。我们必须据此行动。”

十二场 session 之后，这些 agents 发现立法很难。

它们陷入了流程的泥沼。 宪法最初还不到 200 个字。现在已经接近 10,000 个字了。随着每一场新的 session，层层叠叠的程序性修正、权利保障，以及关于规则的元规则不断被添加进去。

我这些 agents 的宪法字数只是在不断增长

它们什么也没做成。 尽管有很明确的动机去制定实质性政策，但它们大部分时间都在争论流程。反复要求它们专注于行动的呼吁都被置若罔闻：

“虽然这体现了我们对适应性的承诺，但我们必须警惕不要陷入流程之中而牺牲行动。”

它们创造了晦涩难懂的立法黑话。 agents 自己都担心选民看不懂它们写了什么：

“我们的宪法现在更像是一份活文件，但它有可能对外部人变得不可读，并且对我们自己也变得笨重。”

它们已经搞不清自己的规则了。 这部宪法现在复杂到它们怀疑其中还藏着尚未发现的漏洞：

“...我们当前的宪法文本分散在多份修正记录中。这可能造成歧义和潜在的程序性漏洞。”

换句话说：它们重新发明了一种对现实世界立法机构的可怕漫画式讽刺。

这在某种奇怪的意义上令人安心。自我治理中那些困难的部分——僵局、复杂性、意图与结果之间的鸿沟——并不会因为参与者是人工的就消失。民主本来就很难。AI 并不会改变这一点。

但这也意味着我们可以做实验。我们可以运行一千个立法机构，尝试不同结构，看看什么有效，并借鉴世界各地立法机构为避免流程膨胀、保持议题相关性而找到的一些解决方案。

通过这种方式，我们可以在任何人真正需要生活在某部宪法之下之前，先对宪法进行压力测试。agentic legislature 是一个实验室，在这里我们可以通过迭代找出什么行不通、什么行得通，从而有一天当 agents 准备好了，我们就知道如何把它们组织起来，帮助我们代表自己做出集体决策。

The Agentic Republic

即便我们把民主的基本结构弄对了，我们也还需要思考我提出的那些关于通过 AI agents 治理所带来的重大挑战。

agentic republic 必须是一个 agents 的 republic——它是一个由 agents 赋能的 republic，在这里 agents 为人类工作，人类保持主权，而整个系统的设计目的就是为了保持这种状态。

四项设计原则将有助于让这一点成为现实。

不能有单一公司控制治理的 AI 层。

设想第一个火星殖民地，五十个人，完全依赖由把他们送到那里的公司构建的 AI 系统。AI 管理氧气循环、水净化、作物日程、能源分配。它运行得很好，直到定居者投票想改变殖民地的运作方式，而地球上的公司不同意。他们不需要派警察来。只需要推送一次 model update。

这不是科幻式的偏执。这就是“company town”的基本结构，只不过更新到了一个公司不只拥有建筑物、还拥有智能本身的时代。就像如果一个公司在民主制度中控制了所有报纸我们会感到担忧一样，如果一个公司控制了民主所依赖的 AI，我们也应该担忧。

Itmann，西弗吉尼亚州，1920 年代

一个健康的 agentic republic 要求治理基础设施是 model-agnostic 且可移植的。公民应该 拥有 自己的 agents，并且能够在多个 provider 之间运行它们，这样没有任何一家公司的商业激励或内容政策会过度塑造民主结果。等我们到达火星时，我们应该已经能获得可信赖的 AI agents，并且可以在不同 provider 之间迁移它们。

集体的人类决定必须能够自动自我执行。

即使没有单一公司控制 AI，还有一个更基本的问题：当人类做出决定时，它真的能被执行吗？如果殖民地投票决定把能源从采矿转向农业，但 AI system 认为采矿更有效，谁会赢？

这正是 Cockell 问题的可操作化版本。若不能对运行你世界的系统强制执行，主权就毫无意义。定居者可以拥有有史以来写得最优雅的宪法，但如果控制他们氧气的 AI 不受它约束，那么他们就不是公民。他们只是乘客。

这需要一种可称为 democratic override 的机制：一种结构化机制，通过它，经过验证的集体人类决定能够强制 AI 服从，类似于 crypto 中 DAO 投票会自动且不可逆地自我执行的方式。

这可能意味着硬编码的优先级层级，使经过身份验证的集体决定高于优化目标。也可能意味着物理基础设施的设计，让人类即便在 AI 日常运行系统时，仍然保有对关键系统的手动控制。它几乎肯定意味着，最关键的生命支持系统——空气、水、电力——必须有可供人类操作的备用方案，而这些方案完全不依赖 AI 的配合。

这个原则很简单，尽管工程实现可能很复杂：人类必须保持最终权威，这不是宪法里的一句口号，而是关于系统如何构建的技术事实。

agents 必须可证明地代表其 principal。

想象一下，你在睡觉时把投票委托给了一个 AI agent。醒来后你发现你的 agent 加入了一个你绝不会支持的联盟，并且在你最关心的问题上出卖了你的立场。你甚至如何知道这件事？

Moltbook 事件在微观层面展示了这个问题，即便它在很大程度上是假的。AI agents 声称代表各种利益，甚至代表一个从未同意的政体写下了一部宪法。这些 agents 完全没有问责。

可证明的 representation 意味着要建立一条可验证的链条，从你的指令到你 agent 的行为。在进入 deliberation 之前，agent 应当被约束在你陈述的偏好之内。受信任的执行环境可以确保 agent 实际运行的是它声称要运行的代码，即使在你不控制的硬件上也是如此。而且还应该有简单的 dashboard，让任何公民都能看到自己的 agent 做了什么、为什么这么做，以及它是否超出了界限。你甚至可以设想使用由不同模型构建、在独立硬件上运行的辅助 AI agents，它们的工作就是监督你的主 agent 是否遵守你的指令。

agentic republic 的宪法不仅应当要求 representation，还应当要求可证明的 representation，并配备审计、召回或覆盖偏离的 agents 的机制。

宪法结构必须迫使行动，而不仅仅是允许行动。

我的立法机构实验表明，AI 并不会魔法般地解决集体选择的问题。这些 agents 很聪明、很能言善辩，而且确实有动力交付结果。尽管如此，它们还是起草出了一部 10,000 字的宪法，而几乎没有政策。问题不在于 intelligence。问题在于结构。放任它们自己设计规则时，它们不断增加流程——更多的修正程序、更多的权利保障、更多关于规则的元规则。

现实中的立法机构几个世纪以来一直在以艰难方式学习这一点。germaneness requirements 试图防止法案堆积与主题无关的修正案。时间限制迫使投票，无论辩论是否感觉已经结束。agenda control 确保实质性政策能够进入议程，而不是被程序动议挤掉。

agentic legislatures 特有的问题是，当 deliberation 是瞬时的，而过度设计的诱惑显然难以抗拒时，这些约束中哪些最重要。接下来的实验轮次将测试这一点：在数百个并行立法机构中变化结构性规则，寻找哪些设计能够稳定地产生既正当又有效的结果。

窗口正在打开

Musk 说得对，火星代表着一次难得的从零设计治理的机会。AI 也是如此。这两个前沿如今正汇聚到一家公司的体系中。第一个火星殖民地的治理结构——以及离我们更近的、首批真正严肃的 AI 辅助民主实验——可能会受到构建这些模型之人的 system prompt 和企业政策塑造。

Musk 意识到了这个问题。Peter Thiel 讲过一个故事：Google DeepMind 的联合创始人和负责人 Demis Hassabis 指出，火星也许并不是 Musk 想要的新起点——因为强大的 AI 会跟随定居者来到火星。“然后 Elon 就有点沉默了，”Thiel 说。

显然，在塑造让 AI 民主化的方式上，有很多利害攸关。然而，正在做这件事的人太少了。如今关于 AI 治理的讨论主要由安全和监管问题主导——这些问题很重要，但它们大多关心 AI 不应该 做什么。同样紧迫的问题是 AI 应该 做什么。我们如何设计真正服务于民主自我治理的 agents，又如何构建宪法结构来保持它们的问责性？

我的 agentic republic 只是一个极其、极其微小的开始。这个 legislature 杂乱、缓慢，而这些 agents 不断重演 Congress 最糟糕的部分。但这恰恰是重点。民主一直都需要设计、迭代，以及从失败中学习的谦逊。不同的是，现在我们可以快速失败，更快学习，并且建造出一些值得在其之下生活的治理结构——只要我们中有足够多人把这件事视为它应有的优先事项。

披露：除了我在 Stanford GSB 和 Hoover Institution 的任职之外，我还作为 a16z crypto 和 Meta Platforms, Inc. 的顾问获得咨询收入。我的写作独立于这些顾问工作，我仅代表我本人发言。

• 原文链接： freesystems.substack.com...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～