全栈开放性和可验证性的重要性

全栈开放性和可验证性的重要性

全栈开放性和可验证性的重要性

也许本世纪至今为止最大的趋势可以用“互联网已经成为现实生活”来概括。它始于电子邮件和即时通讯。过去几千年来用嘴、耳朵、笔和纸进行的私人对话，现在运行在数字基础设施上。然后，我们有了数字金融——包括加密金融，以及传统金融本身的数字化。接着，是我们的健康：由于智能手机、个人健康追踪手表以及从购买行为推断出的数据，关于我们自身身体的各种信息都在通过计算机和计算机网络进行处理。在接下来的二十年里，我预计这一趋势将接管各种其他领域，包括各种政府流程（最终甚至包括投票）、对公共环境进行物理和生物指标及威胁的监测，以及最终，通过脑机接口，甚至包括我们自己的思想。

我不认为这些趋势是可以避免的；它们的好处太大了，而且在一个竞争激烈的全球环境中，拒绝这些技术的文明将首先在竞争力方面落后，然后将主权输给那些拥抱它们的文明。然而，除了提供强大的好处之外，这些技术深刻地影响着权力动态，无论是在国家内部还是国家之间。

从新一轮技术浪潮中获益最多的文明不是那些消费技术的文明，而是那些生产技术的文明。集中计划的、平等访问锁定平台和API的计划充其量只能提供这一目标的一小部分，并且在超出预定的“正常”范围的情况下会失败。此外，这种未来涉及将大量的信任投入到技术中。如果这种信任被打破（例如，后门、安全漏洞），我们会遇到非常大的问题。即使仅仅是这种信任可能被打破的可能性也会迫使人们退回到根本上具有排他性的社会信任模式（“这个东西是由我信任的人建造的吗？”）。这创造了自下而上传播的激励机制：主权者是决定例外状态的人。

为了避免这些问题，需要跨堆栈的技术——软件、硬件和生物——具备两个相互交织的属性：真正的开放性（即，包括自由许可的开源）和可验证性（理想情况下，包括最终用户直接验证）。

健康领域中开放性和可验证性的重要性

在新冠疫情期间，我们看到了不平等地获取技术生产资料所造成的后果。疫苗仅在少数几个国家生产，这导致了不同国家获得疫苗的时间之间存在巨大差异。富裕国家在2021年获得了顶级疫苗，其他国家在2022年或2023年获得了质量较低的疫苗。有倡议试图确保平等获得，但由于疫苗的设计依赖于资本密集型的专有制造工艺，而这种工艺只能在少数几个地方进行，因此这些倡议只能做到这么多。

疫苗的第二个主要问题是不透明的科学和沟通策略，试图向公众假装它们实际上没有任何风险或缺点，这是不真实的，最终极大地促成了不信任。今天，这种不信任已经演变成对半个世纪以来的科学的拒绝。

事实上，这两个问题都是可以解决的。像Balvi资助的PopVax这样的疫苗开发成本更低，并且以更加开放的流程制造，从而减少了获取方面的不平等，同时也使其更容易分析和验证其安全性和有效性。我们可以更进一步，在设计疫苗时首先考虑可验证性。

类似的问题适用于生物技术的数字方面。当你与长寿研究人员交谈时，你普遍听到的第一件事是，抗衰老医学的未来是个性化的和数据驱动的。为了知道今天应该向一个人推荐什么药物和什么营养变化，你需要了解他们身体的当前状况。如果可以大量地以数字方式收集和处理数据，并实时进行，那么这将更加有效。

同样的想法适用于旨在预防负面影响的防御性生物技术，例如对抗流行病。流行病发现得越早，就越有可能在源头阻止它——即使不能阻止，每一周也为准备和开始制定对策提供了更多时间。在流行病持续期间，能够知道人们生病的地方，以便实时部署对策，这很有价值。如果患上流行病的普通人在一小时内得知并自我隔离，这意味着比他们四处感染他人三天减少高达72倍的传播。如果我们知道哪些20%的地点导致了80%的传播，那么改善那里的空气质量可以带来进一步的收益。所有这些都需要（i）大量传感器，以及（ii）传感器实时通信以向其他系统提供信息的能力。

如果我们更进一步朝着 "科幻 "方向发展，我们就会涉及脑机接口，它可以提高生产力，帮助人们通过心灵感应更好地相互理解，并为高度智能的人工智能解锁更安全的路径。

如果生物和健康追踪（针对个人和空间）的基础设施是专有的，那么默认情况下数据将落入大型公司手中。这些公司有能力在其上构建各种应用程序，而其他人则不能。它们可能会通过API访问提供它，但API访问将受到限制并用于垄断性寻租，并且可以随时被取消。这意味着少数人和公司可以访问21世纪技术的一个主要领域中最重要的要素，这反过来限制了谁可以从中获得经济利益。

另一方面，如果这种个人健康数据不安全，那么黑客可以利用任何健康问题敲诈你，优化保险和医疗保健产品的定价以从你那里榨取价值，并且如果数据包括位置跟踪，他们就知道在哪里等你绑架你。反之，你的位置数据（经常被黑）可以用来推断你的健康信息。如果你的脑机接口被黑客入侵，这意味着敌对方实际上是在阅读（或更糟，写入）你的思想。这不再是科幻小说：在这里可以看到一种合理的攻击方式，通过这种方式，脑机接口的黑客攻击会导致某人失去运动控制。

总而言之，巨大的好处，但也存在重大风险：强烈强调开放性和可验证性非常适合缓解这些风险。

个人和商业数字技术中开放性和可验证性的重要性

本月早些时候，我必须填写并签署一份法律职能所需的表格。当时我不在国内。当时存在一个国家电子签名系统，但我当时没有设置好它。我不得不打印出表格，签名，走到附近的DHL，花了很多时间填写纸质表格，然后支付表格的快递费，寄到半个地球之外的地方。所需时间：半小时，费用：119美元。在同一天，我必须签署一项（数字）交易，以在以太坊区块链上执行一项操作。所需时间：5秒，费用：0.10美元（而且，公平地说，如果没有区块链，签名可以完全免费）。

这些类型的案例很容易在公司或非营利组织的治理、知识产权管理等等中找到。在过去的十年中，你可以在所有区块链创业公司的很大一部分的宣传册中找到它们。最重要的是，还有“以数字方式行使个人权力”的所有用例之母：支付和金融。

当然，这一切都存在很大的风险：如果软件或硬件被黑客入侵怎么办？这是加密领域早期就认识到的风险：区块链是无需许可和去中心化的，因此，如果你失去对资金的访问权限，就没有资源，没有可以求助的天上的叔叔。不是你的密钥，就不是你的币。出于这个原因，加密领域早期就开始思考多重签名和社交恢复钱包，以及硬件钱包。然而，在现实中，在许多情况下，缺乏天上的可信叔叔不是一种意识形态的选择，而是场景中固有的部分。事实上，即使在传统金融中，“天上的叔叔”也未能保护大多数人：例如，只有4%的诈骗受害者能够挽回损失。在使用涉及托管个人数据的用例中，即使在原则上也不可能恢复泄漏。因此，我们需要真正的可验证性和安全性——包括软件的，以及最终的硬件的。

重要的是，在硬件的情况下，我们试图防止的风险远远超出了“制造商是否邪恶？”。相反，问题在于存在大量的依赖关系，其中大多数是闭源的，并且其中任何一个疏忽都可能导致不可接受的安全结果。本文展示了最近的例子，说明了微体系结构的选择如何破坏在仅关注软件的模型中可证明安全的设计的旁路攻击抵抗能力。像EUCLEAK这样的攻击依赖于更难找到的漏洞，因为有太多的组件是专有的。如果AI模型在在受损硬件上训练，则可以在训练时插入后门。

在所有这些情况下，另一个问题是封闭和中心化系统带来的缺点，即使它们是完全安全的。中心化在个人、公司或国家之间产生持续的影响力：如果你的核心基础设施是由一个潜在不可信的公司在一个潜在不可信的国家构建和维护的，那么你很容易受到压力（例如，参见Henry Farrell关于武器化相互依赖的文章）。这正是加密技术旨在解决的问题，但它存在的领域远不止金融领域。

数字公民技术中开放性和可验证性的重要性

我经常与各种各样的人交谈，他们试图找出更适合他们在21世纪各种环境下的政府形式。有些人，比如Audrey Tang，试图将已经发挥作用的政治制度提升到一个新的水平，赋能当地的开源社区，并使用公民大会、抽签和平方投票等机制。另一些人则从底层开始：这是一个由一些俄罗斯出生的政治科学家最近为俄罗斯提出的宪法，其中包含对个人自由和地方自治的有力保障、对和平和反对侵略的强大制度性偏见，以及对直接民主的前所未有的强大作用。还有一些人，比如研究土地价值税或拥堵费的经济学家，试图改善他们国家的经济。

不同的人可能对每个想法有不同程度的热情。但他们都有一个共同点，那就是他们都涉及高带宽参与，因此任何现实的实施都必须是数字化的。纸和笔对于记录谁拥有什么以及每四年举行一次的选举来说还可以，但对于要求我们以更高的频率或带宽提供输入的东西来说就不行了。

然而，从历史上看，安全研究人员对电子投票等想法的接受程度从怀疑到敌对不等。这是一个很好的总结，说明了反对电子投票的理由。引用该文件：

首先，该技术是“黑盒软件”，这意味着公众无权访问控制投票机的软件。虽然公司保护其软件以防止欺诈（并击退竞争），但这也会使公众对投票软件的工作方式一无所知。公司可以简单地操纵软件以产生欺诈结果。此外，销售机器的供应商彼此竞争，并且不能保证他们以选民的最大利益和选票的准确性来生产机器。

有许多真实世界的案例证明了这种怀疑是合理的。

这些论点适用于所有其他情况。但我预测，随着技术的进步，在广泛的领域中，“让我们根本不做”的反应将变得越来越不现实。由于技术的发展，世界正在迅速变得更加高效（无论好坏），而且我预测，任何不遵循这一趋势的系统都会变得越来越与个人和集体事务无关，因为人们会绕过它。因此，我们需要一种替代方案：真正做难的事情，并弄清楚如何使复杂的技术解决方案安全和可验证。

从理论上讲，“安全和可验证”和“开源”是两个不同的东西。一件东西绝对有可能既是专有的又是安全的：飞机是一种高度专有的技术，但总体而言，商业航空是一种非常安全的出行方式。但是，专有模型_无法_实现的是对安全性的共同认知——被相互不信任的参与者信任的能力。

像选举这样的公民系统是一种共同认知安全性很重要的情境。另一种是在法庭上收集证据。最近，在马萨诸塞州，大量的呼气测醉器证据被裁定无效，因为发现有关测试中错误的信息被掩盖了。引用该文章：

等等，那么所有的结果都是错误的吗？不是。事实上，在大多数情况下，呼气测醉器测试都没有校准问题。然而，由于调查人员后来发现州犯罪实验室隐瞒了证据，表明问题比他们说的更广泛，因此法官弗兰克·加齐亚诺写道，所有这些被告人的正当程序权都受到了侵犯。

法院的正当程序本质上是一个需要的不仅仅是公平和准确，而是对公平和准确性的共同认知的领域——因为如果没有对法院正在做正确的事情的共同认知，社会很容易陷入人们自行解决问题的境地。

除了可验证性之外，开放性本身也具有内在的好处。开放性允许当地团体以与当地目标相符的方式设计用于治理、身份识别和其他需求的系统。如果投票系统是专有的，那么想要试验新系统的国家（或省或城镇）将面临更大的困难：他们要么说服公司将他们首选的规则作为一项功能来实现，要么从头开始，完成所有使其安全的工作。这增加了政治系统创新的高成本。

在任何这些领域中，一种更开放的黑客伦理方法会将更多的权力交到本地实施者手中，无论他们是以个人身份行事，还是作为政府或公司的一部分。为了使这成为可能，需要广泛提供用于构建的开放工具，并且需要免费许可基础设施和代码库，以允许其他人在其上构建。在一定程度上，目标是最小化权力差异， copyleft尤其有价值。

未来几年将要紧的最后一个公民技术领域是物理安全。在过去的二十年中，监控摄像头无处不在，引起了许多公民自由的担忧。不幸的是，我预测最近无人机战争的兴起将使“不做高科技安全”不再是一种可行的选择。即使一个国家自己的法律不侵犯个人的自由，如果该国无法保护你免受其他国家（或流氓公司或个人）强加于你的法律，那也毫无意义。无人机使此类袭击变得容易得多。因此，我们需要对策，这可能涉及大量的反无人机系统以及传感器和摄像头。

如果这些工具是专有的，那么数据收集将是不透明和中心化的。如果这些工具是开放和可验证的，那么我们就有机会采取更好的方法：可以证明仅在有限数量的情况下输出有限数量的数据并删除其余数据的安全设备。我们可以拥有一个数字化的物理安全未来，它更像是数字看门狗而不是数字全景监狱。人们可以想象一个世界，在这个世界里，公共监控设备必须是开源和可验证的，并且任何人都有合法权利随机选择一个公共监控设备，将其拆开并验证它。大学计算机科学俱乐部可以经常这样做作为一种教育练习。

开源和可验证的方式

我们无法避免拥有深深嵌入在我们（个人和集体）生活各个方面的数字计算机事物。默认情况下，我们可能会得到由中心化公司构建和运行的数字计算机事物，这些事物针对少数人的利润动机进行了优化，由其东道国政府设置了后门，并且世界上大多数人无法参与其创建或知道它们是否安全。但是我们可以尝试朝着更好的替代方案努力。

想象一个世界，其中：

• 你有一个安全的个人电子设备——具有手机的强大功能、加密硬件钱包的安全性和接近机械手表的检查水平。
• 你的消息应用程序都是加密的，消息模式使用混合网络进行混淆，并且所有代码都经过形式化验证。你能够确信你的私人通信实际上是私人的。
• 你的财务是在链上（或在将哈希和证明发布到链上以保证正确性的服务器上）的标准ERC20资产，由你的个人电子设备控制的钱包管理。如果你丢失了你的设备，它们可以通过你的其他设备、家庭成员、朋友或机构的某种组合（你选择的）来恢复（不一定是政府：如果任何人都可以轻松做到这一点，例如，教会也可能会提供它）。
• 存在类似星链基础设施的开源版本，因此我们获得了强大的全球连接，而无需依赖少数几个参与者。
• 你有设备上的开放权重LLM扫描你的活动，提供建议和自动完成任务，并在你可能获得不正确的信息或即将犯错误时发出警告。
• 操作系统也是开源的并且经过形式化验证。
• 你佩戴着24/7的个人健康追踪设备，该设备也是开源和可检查的，允许你获取你的数据并确保未经你的同意，没有人能够获取它。
• 我们有更先进的治理形式，使用抽签、公民大会、平方投票，以及通常巧妙地将民主投票与从专家那里选择想法的方法相结合，以确定如何实现目标。作为参与者，你实际上可以确信系统正在按照你理解的方式实施规则。
• 公共空间配备了监控设备来跟踪生物变量（例如，CO2和AQI水平、空气传播疾病的存在、废水）。但是，该设备（以及任何监控摄像头和防御无人机）都是开源和可验证的，并且存在一种法律制度，公众可以通过该制度随机检查它。

这是一个我们拥有比今天更多的安全、自由和平等地进入全球经济的世界。但是，要实现这个世界，需要在各种技术上进行更多的投资：

• 更先进的密码学形式。我称之为密码学的埃及神卡—— ZK-SNARKs、全同态加密和代码混淆—— 是如此强大，因为它们允许你在多方上下文中计算数据上的任意程序，并保证输出，同时保持数据和计算的私密性。这使得更强大的应用程序成为可能，这些应用程序可以保护隐私。与密码学相邻的工具（例如，区块链，以实现具有强大保证的应用程序，即数据不会被篡改并且用户不会被排除在外，以及差分隐私，以向数据添加噪声以进一步保护隐私）也适用于此处。
• 应用程序和用户级安全性。只有当用户实际理解并验证它们所做的安全保证时，应用程序才是安全的。这将涉及使具有强大安全属性的应用程序易于构建的软件框架。重要的是，它还将涉及浏览器、操作系统和其他中介（例如，本地运行的监视器LLM）都尽自己的一份力量来验证应用程序，确定其风险级别，并将此信息呈现给用户。
• 形式化验证。我们可以使用自动证明方法以算法方式验证程序是否满足我们关心的属性，例如，在不泄漏数据或不受未经授权的第三方修改方面。Lean最近已成为一种流行的语言。这些技术已经开始被用于验证以太坊虚拟机（EVM）和其他加密货币中高价值、高风险用例的ZK-SNARK证明算法，并且类似地被用于更广泛的世界。最重要的是，我们需要在其他更普通的安全性实践中取得进一步进展。

• 开源和以安全为中心的操作系统。 越来越多的此类操作系统开始涌现：GrapheneOS作为Android的以安全为中心的版本，最小的以安全为中心的内核（如Asterinas），以及华为的HarmonyOS（它具有开源版本）正在使用形式验证（我希望许多读者会认为 “如果是华为，肯定有后门”，但这忽略了重点：是谁生产的东西并不重要，只要它是开放的，并且任何人都可以验证它。这是一个很好的例子，说明开放性和可验证性如何对抗全球巴尔干化）。

• 安全开源硬件。如果不能确定硬件实际上正在运行该软件，而没有单独在侧面泄漏数据，那么任何软件都是不安全的。在这方面，我最感兴趣的是两个短期目标：

  • 个人安全电子设备 ——区块链人士称之为 “硬件钱包”，开源爱好者称之为 “安全手机”，只是在了解安全和通用性的必要性后，这两者最终会融合为同一件事。
  • 公共空间的物理基础设施 ——智能锁、如上所述的生物监测设备，以及通用的 “物联网” 技术。我们需要能够信任它。这需要开源和可验证性。

• 用于构建开源硬件的安全开源工具链。 如今，设计硬件取决于一系列闭源依赖项。这大大提高了制造硬件的成本，并使该过程更加需要许可。它也使硬件验证变得不切实际：如果生成芯片设计的工具是闭源的，你就不知道你要验证什么。即使是今天存在的工具（如扫描链）也往往在实践中无法使用，因为太多必要的工具是闭源的。这一切都可以改变。

• 硬件验证（例如IRIS和X射线扫描）。我们需要扫描芯片的方法，以验证它们实际上具有它们应该具有的逻辑，并且它们没有允许意外形式的篡改和数据提取的额外组件。这可以_破坏性_地完成：审计员随机订购包含计算机芯片的产品（使用看起来像普通最终用户的身份），然后将芯片拆开并验证逻辑是否匹配。使用IRIS或X射线扫描，可以_非破坏性_地完成它，从而允许潜在地扫描_每个_芯片。

• 为了实现对信任的共同认知，我们理想情况下需要大量人群可以使用的硬件验证技术。今天的X射线机尚未达到这种状态。这种情况可以通过两种方式改进。首先，我们可以改进验证设备（和芯片的验证友好性），以便这些设备可以更广泛地访问。其次，我们可以用即使可以在智能手机上完成的更有限的验证形式来补充 “完整验证”（例如ID标签和由物理不可克隆函数生成的密钥的签名），这些验证形式验证了更严格的声明，例如“这台机器是否是已知制造商生产的一批机器的一部分，已知该批机器的随机样本已由第三方团体详细验证？”

• 开源、低成本、本地环境和生物监测设备。社区和个人应该可以测量他们的环境和他们自己，并识别生物风险。这包括许多形式的技术：个人规模的医疗设备，如OpenWater、空气质量传感器、通用空气传播疾病传感器（如Varro）和更大规模的环境监测。

从这里到那里

这种愿景与更 “传统” 的技术愿景之间的关键区别在于，它对本地主权以及个人赋权和自由更加友好。安全不是通过搜索整个世界并确保任何地方都没有坏人来完成的，而是通过使世界在各个层面上更加强大来完成的。开放性意味着开放地构建和改进技术的每一层，而不仅仅是集中计划的开放访问API程序。验证不是专有橡皮图章审计员保留的东西，他们可能与推出该技术的公司和政府勾结——这是一种权利，是一种被社会鼓励的爱好，为了人民。

我相信这种愿景更强大，并且与我们支离破碎的全球二十一世纪更加兼容。但是我们没有无限的时间来执行这个愿景。涉及放置_更多_中心化数据收集和后门并将验证完全减少到“这是由受信任的开发人员或制造商制造的”的中心化安全方法正在迅速发展。几十年来，人们一直试图用中心化的尝试来替代真正的开放访问。它可能始于Facebook的internet.org，并将继续下去，每次尝试都比上一次更复杂。我们需要迅速采取行动来与这些方法竞争，并向公众——人民和机构——表明，更好的解决方案是可能的。

如果我们能够成功实现这个愿景，那么理解我们所获得的世界的一种方式是，它是一种复古未来主义。一方面，我们获得了更强大的技术的好处，这些技术使我们能够改善我们的健康，以更有效和更有弹性的方式组织自己，并保护自己免受新旧威胁。另一方面，我们获得了将1900年每个人都习以为常的特性带回来的世界：人们可以自由地拆卸、验证和修改基础设施以满足自己的需求，任何人都能够参与，而不仅仅是作为消费者或 “应用程序构建者”，而是在堆栈的任何层，并且任何人都能够确信设备可以完成它所说的事情。

为可验证性进行设计是有代价的：对硬件和软件的许多优化都在提高速度的同时，以使设计更加神秘或脆弱为代价。在许多标准商业模式下，开源使得赚钱更具挑战性。我相信这两个问题都被夸大了——但这并不是世界一夜之间就会相信的事情。这导致了一个问题：务实的短期目标是什么？我将提出一个答案：致力于一个完全开源且验证友好的堆栈，目标是高安全性、非性能关键型应用——包括消费者和机构、长途和面对面。这将包括硬件、软件和生物技术。 大多数真正需要安全的计算并不真正需要速度，即使在需要速度的情况下，通常也有方法组合高性能但不可信和可信但非高性能的组件，从而为许多应用实现高水平的性能和信任。为所有事物实现最大的安全性和开放性是不现实的。但是我们可以从确保这些属性在那些真正重要的领域可用开始。

• 原文链接： vitalik.eth.limo/general...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～