“仅当开源时才支持”应该成为更普遍的观点

“只有开源我才支持” 应该成为更普遍的观点

“只有开源我才支持” 应该成为更普遍的观点

我们经常听到关于某些激进技术的担忧，即它们可能会加剧权力不平等，因为它们不可避免地只对富有和强大的人可用。

这是一段引言，来自一位担心延长寿命后果的人：

“有些人会被落下吗？我们会让社会比现在更加不平等吗？” 他问道。Tuljapurkar 预测，寿命的繁荣将仅限于富裕国家，那里的公民可以负担得起抗衰老技术，政府可以资助科学研究。这种差距使当前关于获得医疗保健的争论变得复杂，因为富人在质量和寿命长度上都与穷人越来越远。

“大型制药公司在向那些无力支付的人提供产品方面有良好的记录，” 他说。

如果抗衰老技术在不受约束的自由市场中分发，“我完全认为我们会最终得到永久性的全球下层社会，这些国家将陷入今天的死亡率状况，” Tuljapurkar 说…… “如果发生这种情况，你就会得到负反馈，一个恶性循环。那些被排除在外的国家将一直被排除在外。”

以下是一些同样强烈的措辞来自一篇文章，担心人类基因增强的后果：

本月早些时候，科学家宣布他们已经编辑了人类胚胎中的基因以去除致病突变。这项工作令人震惊，也是许多父母祈祷的回应。谁不希望有机会阻止他们的孩子现在将会遭受的不必要的痛苦？

但这不会是终点。许多父母会希望确保他们的孩子通过基因改良获得最好的优势。有能力的人可以获得它们。随着能力的到来，伦理问题超出了这种技术的最终安全性。程序的费用将产生稀缺性，并加剧已经持续增长的收入不平等。

以及其他技术领域中的类似观点：

• 一般数字技术: <https://www.amnestyusa.org/issues/technology/technology-and-inequality/>
• 太空旅行: <https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html>
• 太阳地球工程: <https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57>

你可以在许多对新技术的批评中找到这个主题。一个有些相关但又非常不同的主题是，技术产品被用作数据收集、供应商锁定、故意隐藏的副作用（例如，现代疫苗受到了这种批评）和其他形式的滥用的载体。较新的技术往往会创造更多的机会，在不赋予他们对事物的所有权或关于事物的完整信息的情况下，给他们提供事物，因此从这个角度来看，较旧的技术通常看起来更安全。这也是一种技术以牺牲他人为代价来加强强者的方式，但这是一个通过技术进行的制造商对抗用户的权力投射问题，而不是先前示例中的担忧，即获得机会的不平等。

我个人非常支持技术，如果这是一个“继续前进”与“停留在原地”的二元选择，我将很乐意推动一切，除了一个非常小的清单（例如，功能增益研究、武器和超智能人工智能），尽管存在风险。这是因为总的来说，好处 - 更长寿和更健康的生活，一个更加繁荣的社会，在人工智能迅速发展的时代保持更多的人类关联性，通过年长的世代 作为人 而不仅仅是历史书籍中的回忆录来维持文化连续性 - 远远大于缺点（通常最终被高估）。

但是，如果我把自己放在一个对积极影响不太乐观，或者更担心有权势的人会利用新技术来延续他们的经济统治并施加控制的人的角色中呢？例如，我已经对“智能家居”的东西有这种感觉 - 能够与灯泡交谈的好处被我不想让我的个人生活被流式传输到 Google 或 Apple 的想法所抵消。如果我有更悲观的假设，我也可能会对某些媒体技术有这种感觉：如果它们使有权势的人能够比其他人更有效地广播信息，那么它们可以用来施加控制并淹没其他人，并且对于许多这样的技术，我们拥有更好的信息或更好的娱乐所带来的收益不足以弥补它们重新分配权力的方式。

开源作为第三条道路

我认为在这些情况下被严重低估的一种观点是：仅在技术是开源的情况下才支持其开发。

有一个非常合理的理由认为开源会加速进步：它使人们更容易在彼此的创新基础上进行构建。还有一个非常合理的理由认为 要求 开源会减缓进步：它阻止人们使用一大类潜在的赚钱策略。但是，开源最有趣的后果是那些朝着与“更快与更慢的进步”轴无关的方向发展的后果：

• 开源提高了访问的平等性：如果某事是开源的，那么它自然可以被任何国家的任何人访问。对于实物商品和服务，人们仍然需要支付 边际（每次购买的）成本，但在很多情况下，专有产品的价格很高，因为 固定成本（例如，NRE）太高而无法吸引更多竞争，因此边际成本通常非常便宜（例如，这在制药领域绝对是正确的）。
• 开源提高了成为生产者的访问的平等性。对人们免费访问 最终产品 （即使是毫无疑问的好产品，例如医疗保健）的一个批评是，它无助于这些人获得技能和经验，并提升全球经济以实现繁荣，这是持久获得高质量生活的最可靠的保证（例如，参见 Magatte Wade 抱怨非洲援助的这一问题）。开源并非如此：它从根本上是关于使世界各地的任何人都能成为供应链各个部分的生产者，而不仅仅是消费者。
• 开源提高了可验证性：如果某事是开源的（理想情况下，应该不仅包括输出，还包括用于提出它的 过程 ，做出参数选择等），那么更容易验证你所获得的是提供者声称你所获得的，以及第三方进行研究以识别隐藏的缺点。
• 开源消除了供应商锁定的机会。如果某事是开源的，那么制造商无法通过远程删除功能或仅仅通过破产来使其变得毫无用处（例如，参见对高度计算机化/网络化的汽车的担忧，如果制造商倒闭，将不再工作）。你始终有自行维修东西的权利（或通过向不同的提供商询问）。

我们可以从我在文章开头列出的一些更激进技术的角度分析这一点：

• 如果我们拥有专有的寿命延长技术，那么它可能只能被亿万富翁和政治领导人访问（我个人预计这项技术的价格会迅速下降，但你对此的看法可能比我更怀疑）。但如果是开源的，那么任何人都可以去使用它并以低廉的价格提供给他人。
• 如果我们拥有专有的人类基因增强技术，那么它可能只能被亿万富翁和政治领导人访问，从而创建一个上层阶级。（同样，我个人认为这种技术会扩散，但在最富有的人获得的和普通人获得的之间肯定会存在 一些 差距）。但如果是开源的，那么关系良好和有权势的人获得的和每个人获得的之间的差距将小得多。
• 对于一般的任何生物技术，一个开放科学安全测试生态系统可能比公司认可其自身产品的安全性并获得顺从的监管机构的批准更有效和诚实。
• 如果只有少数人可以进入太空，那么根据政治的发展方式， 有些 人可能会为自己夺取整个行星或卫星。如果该技术得到更广泛的传播，他们这样做的机会就会减少。
• 如果你的智能汽车是开源的，那么你可以验证制造商是否在监视你，并且你不会依赖制造商才能继续使用你的汽车。

我们可以用一张图表来总结这个论点：

开源和滥用风险

有时提出的反对开源强大技术的一个主要论点是零和行为和非等级形式的滥用风险。给每个人核武器肯定会结束核武器的不平等（这是一个真正的问题；我们看到多个强大国家利用核武器访问的不对称性来欺负其他国家），但几乎肯定会导致数十亿人死亡。为了举例说明没有故意伤害的负面社会后果，给每个人进行整容手术很可能会导致一场零和竞争游戏，每个人都会花费大量资源甚至冒着健康风险来让自己看起来比其他人更美丽，但最终我们都习惯了更高水平的美丽，社会最终并没有真正变得更好。某些形式的生物技术最终可能会在更大的范围内产生这些影响。许多技术（实际上，很多生物技术）都介于这两个极端之间。

这是一个有效的论点，希望朝着相反的方向发展：“只有在值得信赖的守门人仔细控制的情况下，我才支持它”。守门人可以允许一项技术的积极用例，同时排除消极用例。守门人甚至可以被赋予公共授权，以确保每个人都能获得非歧视性访问，只要他们不违反某些规则。但是，我对这种方法持强烈的默认怀疑态度。最大的原因是，我通常怀疑，尤其是在现代世界中，真正存在值得信赖的守门人。许多最零和和有风险的技术用例是军事用例，而军方在约束自己方面有着不良的历史。

苏联生物武器计划就是一个很好的例子：

霍夫曼指出，鉴于他对战略防御倡议和核武器的克制，戈尔巴乔夫与苏联非法细菌武器计划相关的行动令人困惑。

当戈尔巴乔夫在 1985 年上台时，苏联拥有勃列日涅夫发起的广泛的生物武器计划，尽管它是《生物武器公约》的签署国。除了炭疽热外，苏联还在研究天花、鼠疫和土拉菌病，但他们对这些武器的意图和目标尚不清楚。

“卡捷耶夫的论文表明，在 80 年代中后期，中央委员会发布了多项关于生物战计划的决议。很难相信这些决议都是在戈尔巴乔夫不知情的情况下签署和发布的，” 霍夫曼说。

“甚至还有 1990 年 5 月发给戈尔巴乔夫的一份关于生物武器计划的备忘录——一份仍然没有讲述全部故事的备忘录。苏联误导了世界，也误导了他们自己的领导人。

哦，还有这个链接论证了在苏联解体后，这个生物武器计划最终可能提供给其他国家（！！）。

其他国家也有很大的错误需要自己承担。我不需要链接到已经揭露的关于许多国家参与功能增益研究及其所暗示的风险的所有内容（这本书很好）。在数字软件（例如金融）领域，武器化的相互依赖的历史表明，原本intended作为滥用预防的措施如何轻易地滑向运营商的单方面权力投射。

这是守门人的另一个弱点：默认情况下，他们将由国家政府控制，而这些国家的政治制度很可能 incentives 确保 在国内 获得平等的准入机会，但没有一个强大的实体有权确保 在国家之间 获得平等的准入机会。

需要明确的是，我并不是说“守门人也很糟糕，所以让我们自由发挥”（至少，对于功能增益研究而言不是）。相反，我想说两件事：

• 如果某事有足够的 “所有人反对所有人的滥用”风险，以至于你只会在以中心化守门人锁定的方式看到它完成才会感到舒服，那么请考虑 正确的解决方案可能是不做它（并投资于具有更好风险概况的替代技术）
• 如果某事有足够的 “权力动态”风险，以至于你目前根本不喜欢看到它完成，请考虑正确的解决方案可能是做它，但 以开源方式进行，以便每个人都有公平的机会来理解和参与。

另请注意，“开源”并不意味着“自由发挥”。例如，我赞成以开源和开放科学的方式进行地球工程。但这与“任何人都可以去改道任何河流并将他们想要的东西洒到大气中”不同，并且实际上也不会导致这种情况：法律和国际外交是存在的，并且这种行为很容易被发现，从而使任何协议都具有很强的可执行性。开放性的价值在于 (i) 确保它 更加 民主化（例如，可供多个国家而不是一个国家使用），以及 (ii) 增加信息的易获取性，因此人们可以更有效地形成他们自己的判断，即正在做的事情是否有效和安全。

从根本上讲，我将开源视为技术如何以减少财富和权力集中以及减少信息不对称的风险来完成的最强大的谢林点。人们可以尝试构建更聪明的机构，试图将技术的有益用例和有害用例分开，但在现代混乱的世界中，最有可能坚持的方法是一个非常容易公开理解的保证，即事情正在公开进行，任何人都可以去了解发生了什么并参与其中。

在许多情况下，这些担忧不如使技术更快发展The treme value重要（或者，在少数情况下，尽可能减慢The treme value，直到反措施或实现相同目标的替代方法可用）。然而，在边缘情况下，第三种选择 - 减少关注进步的速度，而更多关注进步的风格，并使用期望开源作为一种易于理解的杠杆来将事物推向更好方向的规范 - 是一种被低估的方法。

• 原文链接： vitalik.eth.limo/general...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～