Vitalik: 我的技术乐观主义

Vitalik: 我的技术乐观主义

特别感谢 Morgan Beller、Juan Benet、Eli Dourado、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 志愿者和其他人对反馈和审查的贡献。

上个月,Marc Andreessen 发表了他的“ 技术乐观主义宣言 ”,主张对技术持续热情,并认为市场和资本主义是建设技术和推动人类走向更加光明未来的手段。该宣言明确拒绝了所谓的停滞思想,即害怕进步并优先考虑保持世界如今的状态。这份宣言引起了很多关注,包括来自 Noah SmithRobin HansonJoshua Gans(更为积极)、Dave KarpfLuca RopekEzra Klein(更为消极)等人的回应文章。与该宣言无关,但主题类似的还有 James Pethokoukis 的“ 保守派未来主义者 ”和 Palladium 的“ 是时候为了美好而建设 ”。本月,我们看到了类似的辩论,由于 OpenAI 的争端 ,其中涉及许多围绕超智能人工智能的危险以及 OpenAI 进展过快的讨论。

我对技术乐观主义的看法是温暖的,但也是微妙的。我相信未来会因为彻底变革性的技术而变得比现在明显更加光明,我相信人类和人性。我拒绝那种认为我们应该尽力保持世界大致与今天相同,只是减少贪婪,增加公共医疗的心态。然而,我认为不仅规模重要,方向也很重要。有某些类型的技术比其他类型更可靠地使世界变得更好。有某些类型的技术,如果得到发展,可以缓解其他类型技术的负面影响。世界在某些技术发展方向上过度投入,而在其他方向上则不足。我们需要积极的人类意愿来选择我们想要的方向,因为“最大化利润”的公式不会自动得出这些方向。

img img img
反技术观点:安全在后面,末日在前面。 加速主义观点:危险在后面,乌托邦在前面。 我的观点:危险在后面,但前面有多条道路:有好的,也有坏的。 在本文中,我将谈论技术乐观主义对的意义。这包括激励我在某些区块链和密码应用、社会技术以及我表达兴趣的其他科学领域上工作的更广泛世界观。但对于这个更广泛的问题的观点也对人工智能和许多其他领域有着重要影响。我们在技术上的快速进步很可能会成为 21 世纪最重要的社会问题,因此认真思考这些问题是很重要的。

技术是令人惊奇的,而推迟技术的成本非常高

在一些圈子里,普遍存在一种贬低技术益处、将其主要视为末日和风险源的观点。在过去的半个世纪里,这往往要么源自环境担忧,要么源自担心技术的好处只会累积给富人,他们将巩固对穷人的权力。最近,我还开始看到自由主义者也开始担心一些技术,因为他们担心技术会导致权力集中。本月,我进行了一些民意调查 ,问了以下问题:如果一项技术必须受到限制,因为它对任何人使用都太危险,他们更希望它被垄断还是推迟十年?我很惊讶地发现,在三个平台上,不管垄断者是谁【投票选项 1,垄断者分别是:公司、美国政府、国际机构】,都统一地以推迟为压倒性的选票【投票选项 2】。

因此,有时我担心我们矫枉过正,许多人忽略了争论的另一面:即 技术的益处非常巨大,在我们可以衡量的轴上,好处远远超过坏处,甚至推迟十年的成本是难以想象的高。

举一个具体的例子,让我们看一下预期寿命图表:

img

我们看到了什么?在过去的一个世纪里,真正巨大的进步。这在整个世界都是如此,无论是历史上富裕和主导的地区,还是贫穷和被剥削的地区。

有人责怪技术制造或加剧了诸如极权主义和战争之类的灾难。事实上,我们可以在图表上看到战争造成的死亡:1910 年代(第一次世界大战)和 1940 年代(第二次世界大战)。如果你仔细观察,还可以看到西班牙流感、大跃进等非军事灾难。但图表清楚地表明了一件事:即使像那样令人恐惧的灾难也被整个世纪持续不断的食品、卫生、医学和基础设施的改善所淹没。

这也反映在我们日常生活的大幅改善上。由于互联网, 世界上大多数人可以获取到二十年前无法获得的信息。由于国际支付和金融的改善,全球经济变得更加可及。全球贫困正在迅速减少 。由于在线地图,我们不再担心在城市中迷路,如果你需要迅速回家,我们现在有更容易的方式叫车。我们的财产数字化,我们的物品变得更便宜 ,这意味着我们不再那么害怕物品被偷。在线购物减少了全球大城市和世界其他地区之间对商品的获取差距。在各种方面,自动化使我们的生活更加方便,这一点常常被低估。

这些改善,无论是可量化的还是不可量化的,都是巨大的。在 21 世纪,更大的改善很可能即将到来。今天,结束衰老和疾病似乎是乌托邦的。但从 1945 年的计算机的角度来看,将芯片放入几乎所有东西的现代时代似乎是乌托邦的:即使科幻电影中的计算机通常也是房间大小的。如果生物技术在未来 75 年的进步与过去 75 年的计算机进步一样多,未来可能比几乎任何人的预期都更令人印象深刻。

与此同时,表达对进步持怀疑态度的论点往往走向了黑暗的地方。甚至医学教科书,比如 1990 年代的这本(由 Emma Szewczak 发现),有时会做出否定两个世纪医学科学价值的极端主张,甚至认为挽救人类生命并不明显有益:

img

“增长的极限”论,这是上世纪 70 年代提出的一个观点,认为人口增长和工业最终会耗尽地球有限资源,最终激发了中国的独生子女政策印度的大规模强制绝育。在早期,对人口过剩的担忧被用来证明大规模谋杀的合理性。这些观点,从 1798 年开始被证明是错误的 ,有着悠久的历史。

正是出于这些原因,作为一个起点,我对减缓技术或人类进步的论点感到非常不安。考虑到各个领域是如此相互关联,即使是部分行业的减速也是有风险的。因此,当我写下像我将在本文后面说的那些话时,我是怀着沉重的心情说的——然而,21 世纪与众不同和独特之处使得这些细微差别值得考虑。

话虽如此,在更广泛的画面上有一个重要的细微差别要提出,特别是当我们超越“技术整体上是好的”并涉及“哪些具体技术是好的?”的话题时。在这里,我们需要谈到许多人关注的主要问题:环境。

环境,以及协调意图的重要性

在过去的一百年里, 几乎一切都变得更好 ,但一个重大例外是气候变化:

img

即使是对持续升温的悲观情景,也不会导致人类的灭绝。但这样的情景可能导致的死亡人数可能比重大战争还要多,并严重危害那些已经处境最为困难的地区的人们的健康和生计。 瑞士再保险研究所的一项研究表明,最坏情况下的气候变化可能会使世界上最贫困国家的国内生产总值下降高达 25%。 这项研究表明,印度农村地区的预期寿命可能比原本预期的要少十年,而像这项研究这项研究表明,气候变化可能导致本世纪末多出一亿人死亡。

这些问题是很重要的。我对为什么我们能克服这些挑战的能力感到乐观的回答有两个方面。首先,在经过几十年的炒作和一厢情愿的想法之后, 太阳能最终开始转变方向 ,而像电池这样的支持技术也在取得类似的进展。其次,我们可以看看人类在解决以前的环境问题方面的记录。例如,空气污染。让我们来看看过去的末日:1952 年的伦敦大雾。

img

什么之后发生了?让我们再看看我们“Our World in Data”的数据:

img

事实证明,1952 年甚至不是空气污染的高峰期:在 19 世纪末,空气污染物的浓度甚至更高,只是被接受和认为是正常。从那时起,我们见证了一个世纪持续而迅速的下降。我亲身经历了这一切,因为我去过中国:2014 年,空气中高浓度的烟雾, 据估计会导致人均预期寿命减少五年以上 ,是正常的,但到了 2020 年,空气往往看起来和许多西方城市一样清洁。这并不是我们唯一的成功故事。在世界许多地方, 森林面积正在增加 。酸雨危机正在改善臭氧层多年来一直在恢复

对我来说,这个故事的道义上是这样的。通常情况下,确实是这样:我们文明的技术版本 N 会导致问题,而版本 N+1 会解决问题。然而,这并不是自动发生的,需要有意识的人类努力。臭氧层正在恢复,是因为通过蒙特利尔议定书等国际协议,我们让它恢复了 。空气污染正在改善,是因为我们让它改善。同样地,太阳能电池并没有因为它是能源技术树中注定的一部分而大幅改善;太阳能电池之所以大幅改善,是因为几十年来对解决气候变化重要性的认识激励了工程师解决这个问题,以及公司和政府资助了他们的研究。这是有意识的行动,通过公共讨论和文化塑造政府、科学家、慈善家和企业的观点,而不是不可避免的“技术资本机器”,解决了这些问题

人工智能与其他技术根本不同,值得特别小心

我看到的许多对人工智能的轻视都来自这样一种观点:它只是“又一种技术”:与社交媒体、加密、避孕、电话、飞机、枪支、印刷机和轮子等属于同一类事物。这些事物显然具有非常重大的社会影响。它们不仅仅是对个人福祉的孤立改善:它们从根本上改变了文化,改变了权力平衡,并伤害了那些严重依赖于先前秩序的人。许多人反对它们 。总的来说,悲观主义者总是被证明是错误的。

但是有一种不同的思考方式可以看待 AI:它是一种智力迅速增长的新型思维,并且很可能性超越人类的智力,并成为地球上的新顶级物种。这一类事物的范围要小得多:我们可能会把人类超越猴子、多细胞生命超越单细胞生命、生命起源,以及以及机器在体力上超越人类的工业革命也包括在内。突然间,我们感觉自己好像走在了一条不那么平坦的道路上。

存在风险是一件大事

AI 出现问题的一种方式可能会让世界变得更糟:( 几乎 )最糟糕的方式:它可能会直接导致人类灭绝 。这是一个极端的说法:尽管最坏情况下的气候变化、人为流行病或核战争可能会造成很大的伤害,但仍然有许多文明的岛屿会保持完整,以重建。但是,如果一个超智能 AI 决定反对我们,很可能不会留下任何幸存者,永远终结人类。甚至火星也可能不安全。

担心的一个重要原因集中在工具收敛 :对于超智能实体可能拥有的非常广泛的目标类别,AI 为更好地实现这些目标可能会采取的两个非常自然的中间步骤是(i)消耗资源和(ii)确保自身安全。地球上有大量资源,人类对这样一个实体(AI)的安全构成可预测的威胁 。我们可以尝试明确给 AI 一个热爱和保护人类的目标,但我们不知道如何实际这一点,以一种不会在 AI 遇到意外情况时不至于完全崩溃。因此,我们遇到了一个问题。

img

MIRI 研究员 Rob Bensinger 尝试说明不同人对 AI 可能会杀死所有人或做一些几乎同样糟糕事情的概率的估计。许多立场是基于人们的公开声明的粗略近似,但还有许多其他人公开给出了他们的精确估计;相当多的人认为“毁灭的概率”超过 25%。

一项 2022 年机器学习研究人员调查显示,研究人员平均认为 AI 会直接杀死我们的概率为 5-10%:与你会死于非生物原因,如受伤的统计预期几率相同。

这都是一种推测性假设,我们都应该对涉及复杂多步故事的推测性假设保持警惕。然而,这些论点经受了十多年的审查,因此,似乎值得至少有点担心。但即使你不担心真正的灭绝,还有其他原因值得担心。

即使我们幸存,超智能 AI 未来是我们想要生活的世界吗?

许多现代科幻小说都是反乌托邦的,对 AI 持负面看法。即使非科幻小说试图确定可能的 AI 未来,也经常给出相当令人不快的答案 。因此,我四处提问:无论是科幻小说还是其他形式,对于包含超级智能人工智能的未来,我们希望生活在什么样的描述中。得到最多答案的是,Iain Banks 的 Culture 系列

Culture 系列展示了一个遥远的星际文明,主要由两种角色组成:普通人类和名为 Minds 的超智能 AI。人类已经得到了一些增强,但只是轻微的:医学技术理论上允许人类无限寿命,但大多数人选择只活大约 400 年,似乎是因为他们对生活感到厌倦。

从表面上看,作为人类的生活似乎很好:舒适,健康问题得到解决,有各种各样的娱乐选择,并且人类与 Minds 之间存在积极协同的关系。然而,更深层次上存在一个问题:似乎 Minds 完全掌控一切,人类在故事中的唯一角色是充当 Minds 的棋子,代表他们执行任务。

引用 Gavin Leech 的“Against the Culture” 中的内容:

人类不是主角。即使在书中似乎有一个人类主角,做着重大的事情,他们实际上也是 AI 的代理人。(Zakalwe 是少数例外之一,因为他可以做 Minds 不想做的不道德的事情。)“Culture 中的 Minds 不需要人类,但人类需要被需要。”(我认为只有少数人需要被需要--或者说,只有少数人需要到足以放弃许多舒适的生活)。大多数人的生活并不在这个范围内。这仍然是一个很好的批评)。

人类承担的项目存在不真实性的风险。他们做的几乎任何事情,机器都能做得更好。你能做什么?你可以命令 Mind 不要在你从攀爬悬崖时摔下来时抓住你-只是因为;你可以删除你的思想备份,这样你就真的在冒险。你也可以离开 Culture,重新加入一些老式的、不自由的“强烈评价”的文明。另一种选择是通过加入 Contact 来传教自由。

我认为即使在 Culture 系列中人类被赋予的“有意义”角色也是牵强的;我询问了 ChatGPT(还有谁?)为什么人类被赋予他们所扮演的角色,而不是 Minds 完全自己做一切,我个人发现它的答案相当令人失望。在一个“友好”的、由超智能 AI 主导的世界中,人类似乎很难成为除了宠物之外的任何东西。

img

我不想看到的世界。

许多其他科幻系列设想了一个存在超智能 AI 的世界,但是是由(未增强的)生物人类主人发号施令。《星际迷航》是一个很好的例子,展示了星舰与其人类操作员船员之间的和谐愿景(以及 Data)。然而,这似乎是一种极不稳定的平衡。《星际迷航》的世界在当下看来是田园诗般的美好,但很难想象它所设想的人类与人工智能之间的关系只是星际飞船完全由计算机控制之前十年的过渡阶段,人们可以不必再为宽敞的走廊、人工重力和气候控制而烦恼。

向超级智能机器发号施令的人类远不如机器聪明,它能获得的信息也更少。在一个存在一定程度竞争的宇宙中,人类退居次席的文明将胜过人类顽固坚持控制的文明。此外,计算机本身可能夺取控制权。要了解原因,想象一下你在法律上是一个八岁孩子的文字奴隶。如果你能和孩子长时间交谈,你认为你能说服孩子签一张纸释放你吗?我没有进行过这个实验,但我的直觉答案是肯定的。因此,总的来说,人类成为宠物似乎是一个很难逃脱的吸引力点。

天高皇帝远

中国谚语“天高皇帝远”概括了政治中集权的限制的基本事实。即使在名义上是一个庞大的专制帝国——事实上,尤其是如果专制帝国很大,领导层的影响力也有实际限制,领导层需要委托地方代理人来执行其意愿,这种情况下总是存在一定程度的实际自由。有时,这可能会有不利影响:远离权力的统一原则和法律的缺席可能会为地方霸主窃取和压迫创造空间。但是,如果中央集权出现问题,注意力和距离的实际限制会对其恶化程度产生实际限制。

然而,对于 AI 来说,不再如此。在 20 世纪,现代交通技术使距离的限制比以前更弱;1940 年代的伟大极权帝国在一定程度上就是由此产生的。在 21 世纪,可扩展的信息收集和自动化可能意味着注意力将不再是一个约束。对政府的自然限制完全消失可能会带来可怕的后果。

数字专制主义已经崛起了十年 ,监视技术已经给了专制政府强大的新策略来镇压反对派:让抗议活动发生,然后在事后悄悄地对参与者采取行动

更一般地说,我基本的担忧是,允许 OpenAI 为超过一亿客户提供服务的管理技术也将允许一个 500 人的政治精英团体,甚至一个 5 人的董事会,对整个国家保持铁腕控制。借助现代监视技术收集信息,并利用现代 AI 来解释信息,可能没有藏身之地。

当我们考虑 AI 在战争中的后果时情况变得更糟。复制了一篇 2019 年搜狐上的半著名帖子

“不需要政治思想工作和战争动员”首先意味着战争的最高指挥者只需要像下棋一样考虑战争局势本身,而不需要考虑棋盘上的车马炮此时此刻在想什么。战争变成了纯粹的技术竞争。

而在更深的层次上,“政治思想工作和战争动员”要求任何一个人发动战争必须要师出有名。可别小看“师出有名”这件事情,它其实是几千年来人类社会对战争正当性的一种制约。任何人,要发动一场战争,都必须给这场战争找一个至少表面上说得过去的理由或者借口。你可能会说这种制约很弱,因为历史上很多时候这也仅仅就是一个借口而已。比如十字军东征,真实目的就是抢钱抢地盘,却要以上帝的名义来进行,即使你的抢劫对象其实是上帝的君士坦丁堡。但是,再弱的制约也是制约!仅仅这个借口,实际上让战争发动者们没法完全肆无忌惮的去达到他们的目的。哪怕是邪恶如希特勒,也不能一上来就开打,也必须先花几年的时间去说服德意志民族为高贵的雅利安人种争取生存空间。

今天,“人在回路中(human in the loop)”对独裁者发动战争或在内部压迫公民的权力构成了重要的制约。回路中的人类阻止了战争促成了柏林墙的开放 ,并在大屠杀等暴行中拯救了生命。如果军队是机器人,这种制约就会完全消失。独裁者可能会在晚上 10 点喝醉,晚上 11 点因为人们在 twitter 上对他们刻薄而发怒,而机器人入侵舰队可能会在午夜之前越过边境,向邻国的平民和基础设施倾泻地狱之火。

而与以往不同的是,在以前的时代,总有一些遥远的角落,天高皇帝远,一个政权的反对者可以重新集结,躲藏起来,最终找到让事情变得更好的办法,而有了 21 世纪的人工智能,一个极权政权很可能会对世界保持足够的监视和控制,以至于永远 "被锁定"。

d/acc:防御(或去中心化,或差异化)加速

在过去的几个月里,“e/acc”(“effective accelerationist 有效加速主义者”)运动蓬勃发展。Beff Jezos 在这里总结 ,e/acc 基本上是对技术进步的巨大好处的赞赏,并希望加速这一趋势以更早地实现这些好处。

在许多情境中,我发现自己对 e/acc 的观点持有同情态度。有很多证据表明,FDA 在延迟或阻止药物批准方面过于保守,而生物伦理学总是似乎按照这样的原则运作:“医学实验中 20 人死亡是一场悲剧,但因延迟救生治疗而死亡的 20 万人只是一项统计数据”。延迟批准 covid 测试和疫苗 ,以及疟疾疫苗似乎进一步证实了这一点。然而,可能会把这种观点推向极端。

除了我对人工智能相关的担忧外,我对 e/acc 对军事技术的热情以及军事技术持有特别矛盾的态度。在 2023 年的当前背景下,这些技术是由美国制造并立即应用于保卫乌克兰,很容易看出它如何成为一种积极的力量。然而,从更广泛的视角来看,对现代军事技术作为一种积极力量的热情似乎需要相信在大多数冲突中,现在和将来,主导的技术力量将可靠地成为善良的一方:军事技术是好的,因为军事技术是由美国建造和控制的,而美国是好的。成为 e/acc 是否意味着成为美国的极大主义者,将一切押注于政府现在和将来的道德以及国家未来的成功上?

另一方面,我看到了在思考如何减少这些风险的新方法的必要性。OpenAI 治理结构是一个很好的例子:它似乎是一个本意良好的努力,以平衡满足提供初始资本的投资者的盈利需求和对抗可能导致 OpenAI 毁灭的举措的愿望。然而,在实践中,他们最近的解雇 Sam Altman 的尝试使这一结构看起来像是一个彻底的失败:它将权力集中在一个不民主、不负责任的五人董事会手中,他们基于秘密信息做出关键决定,并拒绝对决策的理由进行任何详细说明,直到受到威胁。一些非营利董事会的行为如此糟糕,以至于公司的员工临时成立了一个事实上的工会 ...支持亿万富翁 CEO 一边,对抗董事会。

我看到太多拯救世界的计划,都是赋予一小撮人极端而不透明的权力,并希望他们明智地使用这些权力。因此,我发现自己被一种不同的哲学所吸引,这种哲学对如何应对风险有详细的想法,但它寻求创造和维护一个更加民主的世界,并试图避免将中央集权作为解决我们问题的首选方案。这种哲学比人工智能更为宽泛,我认为,即使在人工智能的风险担忧被证明在很大程度上毫无根据的情况下,它也能很好地适用。我将以 d/acc 作为这一理念的名称

imgdacc3

这里的“d”可以代表许多事物;特别是防御去中心化民主差异化。首先,将其视为防御,然后我们可以看到这如何与其他解释联系起来。

有利于防御的世界有助于健康和民主治理的繁荣

思考技术的宏观后果的一个框架是看防御与进攻的平衡。一些技术使得攻击他人变得更容易,从广义上讲:做违背他们利益的事情,他们感到需要做出反应。其他技术则使得防御变得更容易,甚至可以在没有依赖大型集中化行为者的情况下进行防御。

有利于防御的世界是一个更好的世界,出于许多原因。首先当然是安全的直接好处:死亡人数更少,经济价值被破坏更少,冲突浪费的时间更少。然而,不太受重视的是,有利于防御的世界使得更健康、更开放和更尊重自由的治理形式更容易繁荣。

一个明显的例子是瑞士。瑞士通常被认为是现实世界中最接近古典自由主义治理乌托邦的国家。大量权力下放给省份(称为“州”),重大决策由全民公投决定 ,许多当地人甚至不知道总统是谁 。这样的国家如何在极具挑战性的政治压力下生存? 答案的一部分是出色的政治策略 ,但另一部分是非常有利于防御的地理环境,即其多山的地形。

img

这面旗帜是一个大加号。但山也是如此。

詹姆斯·C·斯科特在他的新书《不被统治的艺术》中描述了卓米亚的无政府社会,它们也在很大程度上保持了他们的自由和独立,这要归功于多山的地形。与此同时,欧亚大陆的草原则完全相反 。莎拉·佩恩对海洋国家与大陆国家的阐述也提出了类似的观点,尽管重点是水作为防御屏障而不是山。事实上,易于自愿贸易和难以非自愿入侵的结合,对瑞士和岛国来说,似乎是人类繁荣的理想状态。

在我为以太坊生态系统内的二次资助实验提供建议时,我发现了一个相关现象:特别是在 Gitcoin Grants 资助轮次中。在第 4 轮 ,一场小丑闹剧爆发了,因为一些最高收入的受益者是 Twitter 影响者,他们的贡献被一些人视为积极的,而另一些人视为消极的。我对这一现象的解释是存在一种不平衡: 二次资助允许你表明你认为某事是公共利益,但它没有办法表明某事是公共伤害。在极端情况下,一个完全中立的二次资助系统将资助战争的双方。因此,在第 5 轮 ,我建议 Gitcoin 应该包括负面贡献:你支付 1 美元来减少某个项目接收的资金(并隐含地重新分配给所有其他项目)。结果:很多 讨厌

img

第 5 轮后在互联网上流传的许多网络迷因之一。

这对我来说似乎是一个更大模式的缩影:创建用于处理负面外部性的去中心化治理机制在社会上是一个非常棘手的问题。去中心化治理出错的典型例子是民间正义。有关于人类心理的某些东西使得对负面的回应更加棘手,更有可能出现严重错误,而不是对积极的回应。这也是为什么即使在其他方面高度民主的组织中,如何对负面做出回应的决定通常留给了一个中心化的董事会。

在许多情况下,这一难题正是 "自由 "这一概念如此宝贵的深层原因之一。如果有人说了冒犯你的话,或者他的生活方式让你觉得恶心,你所感受到的痛苦和厌恶是真实存在的,你甚至会觉得被打一拳也没有接触到这些东西那么糟糕。但是,试图就哪种冒犯和厌恶可以被社会采取行动达成一致,其代价和危险远比提醒自己某些怪人和混蛋是我们生活在自由社会的代价要大得多。

然而,在其他时候,“面带微笑地忍受”是不现实的。在这种情况下,有时值得寻找的另一个答案是防御技术。互联网越安全,我们就越不需要侵犯人们的隐私和使用阴暗的国际外交手段去对付每个个体的黑客。我们越能够构建个性化的 Twitter 屏蔽工具浏览器中用于检测欺诈的工具用于区分误导信息真相的集体工具,我们就越不必为审查而争吵。我们制造疫苗的速度越快,我们就越不必因为超级传播者而打击人们。这样的解决方案并不适用于所有领域——我们当然不希望一个世界中每个人都不得不穿着文字的防护服——但在我们能够构建技术使世界更有利于防御的领域,这样做是非常有价值的。

这个核心思想,即一些技术是有利于防御的,值得推广,而其他技术是有利于进攻的,应该受到抑制,在有效利他主义文献中有一个不同的名字:差异化技术发展。2022 年,牛津大学研究人员对这一原则进行了很好的阐述

img

图 1:差异化技术发展如何减少负面社会影响的机制。

将技术分类为进攻、防御或中立,不可避免地会存在不完美之处。就像“自由”一样,人们可以辩论社会民主政府政策是否通过征收重税和强迫雇主减少了自由,或者通过减少普通人对许多种风险的担忧增加了自由,对于“防御”也是如此,有些技术可能会在两极之间。核武器有利于进攻,但核能是有利于人类繁荣的和进攻-防御中立的。不同的技术在不同的时间范围内可能发挥不同的作用。但就像“自由”(或“平等”或“法治”)一样,在边缘的模糊性并不是反对该原则的论点,而是更好地理解其细微差别的机会。

现在,让我们看看如何将这一原则应用于更全面的世界观。我们可以将防御技术(如其他技术 )想象成分为两个领域:原子世界比特世界。原子世界又可以分为微观(即生物学,后来是纳米技术)和宏观(即我们传统上认为的“防御”,但也包括具有弹性的物理基础设施)。我将比特世界沿不同的轴线分割:原则上很容易达成一致的攻击者是谁?。有时很容易;我称之为网络防御。而其他时候则更困难;我称之为信息防御

宏观物理防御

在宏观领域中最被低估的防御技术甚至不是铁穹 (包括乌克兰的新系统 )和其他反技术和反导弹军事硬件,而是具有弹性的物理基础设施。核战争中大多数死亡可能来自于供应链中断 ,而不是最初的辐射和冲击,像 Starlink 这样的低基础设施互联网解决方案在过去一年半中对维持乌克兰的连接至关重要。

构建工具来帮助人们独立或半独立地生存甚至过上舒适的生活,而不依赖长期的国际供应链,似乎是一项有价值的防御技术,并且具有低风险可能被用于进攻。

追求使人类成为一个多行星文明也可以从 d/acc 的角度来看:至少我们中的一些人在其他行星上自给自足可以增加我们对地球发生可怕事件的抵抗力。即使完整的愿景暂时不可行,为了使这样的项目成为可能,将需要开发的自给自足的生活形式也可能被用来帮助改善我们在地球上的文明韧性。

微观生物防御(又名 bio)

由于其长期健康影响 ,尤其是由于其长期健康影响,Covid 仍然是一个关注点 。但 Covid 远非我们将面临的最后一次大流行;现代世界的许多方面都使更多的大流行很可能即将到来:

CryptoRelief 和 Balvi 这两家公司都是在 2021 年意外获得大量柴犬币后成立并获得资金的,它们在这一领域一直非常活跃。CryptoRelief 最初专注于应对即时危机,最近一直在印度建立长期医学研究生态系统,而 Balvi 则一直专注于登月项目,以提高我们检测、预防和治疗 Covid 和其他空气传播疾病的能力。Balvi 坚持其资助的项目必须是开源的。从 19 世纪战胜霍乱和其他水传播病原体的水利工程运动中汲取灵感,它资助的项目涵盖了整个技术领域,这些技术可以使世界在默认情况下更有效地抵御空气传播的病原体(见:更新 1 和更新 2),其中包括

  • Far-UVC 辐照 R&D
  • 印度、斯里兰卡、 美国等地的空气过滤和质量监测,以及空气质量监测
  • 便宜而有效的分散式空气质量测试设备
  • 长期 Covid 原因和潜在治疗选择的研究(主要原因可能是直截了当的 ,但澄清机制和寻找治疗方法更困难)
  • 疫苗(例如 RaDVaCPopVax)和疫苗伤害研究
  • 一套全新的非侵入式医疗工具
  • 使用开源数据分析早期发现流行病(例如 EPIWATCH
  • 测试,包括非常便宜的分子快速测试
  • 当其他方法失败时的生物安全适用口罩

其他有前景的领域包括污水监测病原体改善建筑物的过滤和通风,以及更好地了解和减轻空气质量不佳的风险

是有机会建立一个更加抵御空气传播大流行的世界,无论是自然的还是人为的,默认情况下。这个世界将拥有一个高度优化的流水线,我们可以从大流行开始,自动检测到,全世界的人们都可以在一个月内获得定向、 本地可制造和可验证的开源疫苗其他预防措施,通过雾化鼻喷雾(意味着:如果需要,可以自行使用,无需针头),同时,更好的空气质量将大大减少传播速度,并防止许多大流行根本无法发生。

想象一下一个未来,它不必求助于社会强制的铁锤——没有强制和更糟的是,也没有糟糕设计和实施的强制措施,这可能会使情况变得更糟 ——因为公共卫生基础设施已经融入文明的结构中。这些世界是可能的,如果生物防御的发展是开源的、对用户免费并且作为公共产品受到保护,那么这项工作将会更加顺利。

网络防御、区块链和密码学

安全专家普遍认为当前的计算机安全状况非常糟糕。尽管如此,很容易低估已经取得的进展。数千亿美元的加密货币可以被任何能够入侵用户钱包的人匿名窃取,而且丢失或被盗的金额远远超过我所认为的,但事实上,大部分加密货币已经保持未被盗窃状态超过十年。最近,已经有了改进:

  • 用户手机内置的可信硬件芯片,实际上在手机内部创建了一个更小的高安全性操作系统,即使手机的其余部分被入侵,这些芯片也可以保持受保护状态。在许多其他用例中,这些芯片越来越被探索为一种制作更安全的加密钱包的方法。
  • 浏览器作为事实上的操作系统。在过去的十年里,已经悄然发生了从可下载应用程序到基于浏览器应用程序的转变。这在很大程度上得益于 WebAssembly(WASM)。即使浏览器存在缺陷 ,总的来说,它们的沙盒功能要比安装的应用程序更多:应用程序无法访问计算机上的任意文件。
  • 强化的操作系统。移动设备上存在 GrapheneOS,而且非常易用。桌面设备上存在 QubesOS;至少在我的经验中,它目前的可用性略低于 Graphene,但它正在改进。
  • 试图摆脱密码的尝试。不幸的是,密码很难保护,因为它们很难记住,而且很容易被窃听 。最近,人们开始更加强调减少对密码的重视,并使基于硬件的多因素身份验证真正起作用

然而,在其他领域缺乏网络防御也导致了重大挫折。保护免受垃圾邮件的需要导致电子邮件在实践中变得非常寡头化 ,使得自行托管或创建新的电子邮件提供商变得非常困难。许多在线应用程序, 包括 Twitter,要求用户登录才能访问内容,并阻止来自 VPN 的 IP 地址,使得以保护隐私的方式访问互联网变得更加困难。软件集中化也存在风险,因为存在 "武器化的相互依赖":现代技术倾向于通过中心化的咽喉点进行路由,并且这些咽喉点的运营者利用这种权力来收集信息、操纵结果或排除特定的行为者——这种策略甚至似乎正在针对区块链行业本身

这些都是令人担忧的趋势,因为它威胁到了我一直以来对自由和隐私的未来寄予的厚望之一,尽管这两者之间存在着深刻的权衡,但未来仍可能是光明的。戴维-弗里德曼(David Friedman)在《不完美的未来》(Future Imperfect)一书中预测,我们可能会得到一个折中的未来:人际世界将受到越来越多的监控,但通过加密技术,网络世界将保留甚至改善其隐私。不幸的是,正如我们所看到的,这种反趋势远未得到保证。

这就是我对区块链和零知识证明等密码学技术的强调所在。区块链让我们能够创建一个“共享硬盘”的经济和社会结构,而无需依赖于中心化的行为者。加密货币允许个人像在互联网出现之前使用现金一样存钱和进行金融交易,而无需依赖于可能随意更改规则的可信第三方。它们还可以作为一种备用的反 Sybil 机制, 使攻击和垃圾邮件变得昂贵 ,即使对于没有或不想透露他们的真实身份的用户。账户抽象化,尤其是社会恢复钱包 ,可以保护我们的加密资产,以及未来可能的其他资产,而无需过度依赖中心化的中介机构。

零知识证明可用于隐私保护,允许用户在不泄露私人信息的情况下证明自己的事情。例如,将数字护照签名包裹在ZK-SNARK中,就能证明你是某个国家的唯一公民,而不会泄露你是哪个公民。这样的技术可以让我们保持隐私和匿名的好处--这些特性被广泛认为是投票等应用所必需的--同时还能获得安全保证,打击垃圾邮件和不良行为者。

img

一个 ZK 社交媒体系统的设计提案,在这个系统中,可以进行管理操作,也可以对用户进行处罚,而这一切都不需要知道任何人的身份。

今年早些时候在Zuzalu孵化的Zupass就是一个很好的实践范例。Zuzalu 已有数百人使用了这个应用程序,最近Devconnect也有数千人在购票时使用了这个应用程序,它允许你持有门票、会员卡、(不可转让)数字收藏品和其他证明,并在不泄露你的隐私的情况下对它们进行证明。例如,你可以证明自己是 Zuzalu 的唯一注册居民或 Devconnect 的门票持有者,而无需透露你的其他信息。这些证明可以通过二维码当面出示,也可以通过数字方式登录Zupoll等应用程序,这是一个匿名投票系统,只有Zuzalu 居民才能使用。

这些技术是 d/acc 原则的极佳范例:它们允许用户和社区在不损害隐私的情况下验证可信度,并在不依赖中心化控制点的情况下保护自身安全,而中心化控制点会自行定义谁是好人,谁是坏人。与当今常用的技术(如歧视被认为不可信的整个国家)相比,这些技术创造了更好、更公平的方法来保护用户或服务的安全,从而提高了全球可访问性。如果我们想在 21 世纪保持信息安全的去中心化愿景,这些非常强大的基本原理可能是必要的。研究更广泛的网络空间防御技术,可以在未来以非常重要的方式使互联网更加开放、安全和自由。

信息防御

正如我所描述的那样,网络防御是指有理性的人类很容易就攻击者是谁达成共识的情况。如果有人试图黑进你的钱包,大家很容易就会一致认为黑客是坏人。如果有人试图对网站进行 DoS 攻击,大家很容易就会认为他们是恶意的,在道德上与试图阅读网站内容的普通用户是不同的。但在其他情况下,界限就比较模糊了。在这些情况下,我称之为 "信息防御",它是提高我们防御能力的工具。

以事实验证(又称防止 "错误信息")为例。我是 "社区笔记"(Community Notes)的超级粉丝,它在帮助用户辨别其他用户所发推文的真伪方面做了很多工作。社区笔记采用了一种新的算法,它所显示的不是最受欢迎的笔记,而是最受各政治派别用户认可的笔记。

img

社区笔记的实际应用。

我也是预测市场的粉丝,它可以在尘埃落定、人们就哪个方向达成共识之前,实时帮助确定事件的方向达成共识。Polymarket on Sam Altman 市场在每小时揭露和谈判的最终后果进行了有用的总结,为只看到个别新闻项目并不理解每个新闻项目的重要性的人提供了非常必要的背景信息。

img

预测市场经常存在缺陷。但是,愿意自信地表达他们对未来一年“将会”发生的事情的 Twitter 影响者往往更加有缺陷。预测市场仍有很大的改进空间。例如,预测市场的一个主要实际缺陷是除了最高知名度的事件外,交易量很低;解决这个问题的一个自然方向是开发由人工智能参与的预测市场。

在区块链领域,我认为我们需要更多的一种特定类型的信息防御。换句话说,钱包应该更加有主见并积极地帮助用户确定他们正在签署的事情的含义,并保护他们免受欺诈和诈骗。这是一个中间情况:什么是骗局,什么不是骗局,比对有争议的社会事件的观点更不那么主观,但比区分合法用户和 DoS 攻击者或黑客更主观。Metamask 已经有一个骗局数据库,并自动阻止用户访问骗局网站:

img

Fire 这样的应用是更进一步的一个例子。然而,这样的安全软件不应该需要显式安装;它应该成为加密钱包的一部分,甚至是浏览器的默认设置。

由于其更主观的性质,信息防御本质上比网络防御更加集体:你需要以某种方式接入一个庞大而复杂的人群,以确定可能是真实的或虚假的,以及哪种应用是欺骗性的庞氏骗局。开发人员有机会在开发有效的信息防御方面走得更远,并加强现有形式的信息防御。像 Community Notes 这样的东西可以包含在浏览器中,不仅覆盖社交媒体平台,还覆盖整个互联网。

超越“防御”框架的社会技术

在某种程度上,我可以被指责通过将一些这些信息技术描述为“防御”来硬塞。毕竟,防御是帮助善意的行为者免受恶意行为者(或在某些情况下,免受自然)伤害的。然而,一些这样的社会技术实际上是关于帮助善意的行为者形成共识

一个很好的例子是 pol.is,它使用类似于 Community Notes 的算法(并且早于 Community Notes)来帮助社区确定在许多方面存在分歧的子部落之间的共识点。Viewpoints.xyz 受到 pol.is 的启发,具有类似的精神:

img

类似这样的技术可用于对有争议的决策进行更加去中心化的治理。同样,区块链社区也是一个很好的试验场,在这里,这种算法已经显示出了价值。一般来说,关于对以太坊协议进行哪些改进("EIPs")的决策是由一个相当小的小组在名为"所有核心开发人员电话会议 "的会议上做出的。对于技术性较强的决策,大多数社区成员都不会有强烈的意见,因此这种方式效果还算不错。而对于影响协议经济性或更基本的价值观(如不变性和抵制审查)的更具后果性的决策,这样做往往是不够的。早在 2016-17 年,当围绕实施DAO 分叉、减少发行量和(不)解冻 Parity 钱包等一系列有争议的决策时,Carbonvote 等工具以及社交媒体投票帮助社区和开发者了解了大部分社区意见的倾向。

img

Carbonvote on the DAO fork

Carbonvote 存在其缺陷:它依赖于 ETH 持有量来确定谁是以太坊社区的成员,使结果被少数富裕的 ETH 持有者(“鲸鱼”)所主导。然而,借助现代工具,我们可以做一个更好的 Carbonvote,利用诸如 POAPs、Zupass 印章、Gitcoin 护照Protocol Guild 成员资格以及 ETH(甚至是独立抵押的 ETH)持有量来衡量社区成员资格。

这样的工具可以被任何社区用来做出更高质量的决策,找到共同点,协调(物理或数字)迁移,或者在不依赖不透明的中央领导的情况下做一些其他事情。这不是防御加速本身,但肯定可以被称为民主加速。这样的工具甚至可以用于改进和民主化在人工智能领域工作的关键行为者和机构的治理。

那么,超级智能的未来道路是什么?

上述都很好,可以使世界在未来一个世纪变得更加和谐、更安全、更自由。然而,它还没有解决房间里的大象问题:超级智能人工智能。

许多担心人工智能的人提出的默认前进路径基本上导致了最小人工智能世界政府。近期的版本包括提议建立一个 “跨国人工智能联盟”(“MAGIC”)。如果这样一个联盟得以建立并成功实现其创建超级智能人工智能的目标,那么它自然而然地会成为事实上的最小世界政府。长期来看,还有像 “关键行为” 理论这样的想法:我们创造出一种人工智能,这种人工智能会实施单一的一次性行为,从而将世界重新排列成一个游戏,从那时起,人类仍然是游戏的主宰,但游戏的棋盘在某种程度上更有利于防御,更适合人类的繁衍生息。

到目前为止,我所看到的主要实际问题是,人们似乎并不真正信任任何有能力建立这样一个东西的具体治理机制。我最近在推特上发起了一项民意调查,询问人们是更愿意看到人工智能被一个单独的实体垄断并领先十年,还是更愿意看到人工智能为每个人推迟十年:

img img
img

每次投票的规模都很小,但这些投票在各种来源和选项的广泛多样性上的结果的一致性弥补了这一点。在九种情况中的九种,大多数人宁愿看到高度发达的人工智能被推迟十年,也不愿看到被一个集团垄断,无论是公司、政府还是跨国机构。在九个案例中,有七个案例以至少二比一的延迟优势胜出。对于任何寻求人工智能监管的人来说,这似乎都是一个需要了解的重要事实。目前的做法主要是制定许可计划和监管要求,试图将人工智能的发展限制在少数人的范围内,但这些做法遭到了民众的反对,这正是因为人们不希望看到有人垄断如此强大的东西。即使这种自上而下的监管建议降低了灭绝的风险,它们也有可能增加某种永久锁定中心化集权极权主义的机会。自相矛盾的是,直接禁止极端先进的人工智能研究(或许生物医学人工智能可以例外),同时强制开放未被禁止的模型的源代码,以此来减少利益驱动,同时进一步改善获取的平等性,这样的协议会不会受欢迎呢?

反对 "让一个全球组织来做人工智能,并使其管理非常非常好 "路线的人倾向于采用的主要方法是多神论人工智能:有意确保有很多人和公司在开发很多人工智能,从而使其中任何一个都不会比其他强大得多。理论认为,这样一来,即使人工智能变得超级智能,我们也能保持力量平衡。

这种哲学很有趣,但我在以太坊生态系统内试图确保“多神论”的经验使我担心这是一个不稳定的均衡。在以太坊中,我们有意试图确保堆栈的许多部分的去中心化:确保没有一个单一的代码库控制超过一半的权益网络 ,试图抵消大型权益池的主导地位 ,改善地理去中心化等。基本上,以太坊实际上试图执行一个使用社会压力而不是政府作为反垄断监管机构的市场社会的古老自由主义梦想。在某种程度上,这是成功的:Prysm 客户端的主导地位从 70%以上下降到 45%以下。但这不是某种自动的市场过程:这是人类意愿和协调行动的结果。

我在以太坊内的经验与我从整个世界的更广泛的学习相呼应,许多市场已被证明是自然垄断 。当超级智能人工智能独立于人类行动时,情况甚至更加不稳定。由于递归自我改进 ,最强大的人工智能可能会非常快地拉开差距,一旦人工智能比人类更强大,就没有力量可以将事情重新平衡。

此外,即使我们确实获得了一个稳定的超级智能人工智能的多神论世界,我们仍然有另一个问题:我们得到了一个人类是宠物的宇宙。

一个幸福的路径:与人工智能融合?

我最近听到的一个不同的选择是,少把人工智能作为独立于人类的东西来关注,而更多地关注能够增强人类认知而不是取代人类认知的工具

一个近期的例子是 AI 绘图工具。今天,制作人工智能生成的图像最突出的工具只有一个步骤,人类在其中提供他们的输入,然后人工智能完全接管。另一种选择是更多地关注 AI 版本的 Photoshop:艺术家或 AI 可能会制作图片的初稿,然后两者合作通过实时反馈的过程改进它。

img

Photoshop 生成 AI 填充,2023 年。 来源 。我尝试了一下,需要时间来适应,但它实际上效果相当不错!

与此精神类似的另一个方向是开放机构架构,它建议将人工智能 "大脑 "的不同部分(如制定计划、执行计划、解释来自外部世界的信息)拆分为不同的组件,并在这些部分之间引入不同的人类反馈。

到目前为止,这听起来很普通,而且几乎每个人都同意,如果有这样的功能就好了。经济学家达龙-阿斯莫格鲁(Daron Acemoglu)的研究与这种人工智能未来主义相去甚远,但他的新书《权力与进步》(Power and Progress) 却暗示,他希望看到更多这样的人工智能。

但如果我们想进一步推断这种人类与人工智能合作的想法,就会得出更激进的结论。除非我们建立一个强大的世界政府,足以侦测并阻止每一小撮人使用笔记本电脑入侵个人 GPU,否则终究会有人创造出超级智能的人工智能--它的思维速度比我们快千倍--而任何使用双手工具的人类组合都无法与之抗衡。因此,我们需要把人机合作的理念推向更深更远。

第一步自然是脑机接口。脑机接口可以让人类更直接地接触到越来越强大的计算和认知形式,将人机之间的双向通信循环从几秒缩短到几毫秒。这也将大大降低让计算机帮你收集事实、提供建议或执行计划的 "脑力劳动 "成本。

这样的路线图的后续阶段确实变得奇怪。除了脑机接口,还有通过生物学创新直接改进我们的大脑的各种途径。融合这两条路径的最终步骤可能涉及上传我们的思维直接在计算机上运行。这也将是对身体安全的最终保障:保护我们免受伤害将不再是一个保护不可避免的脆弱人体的难题,而是一个简单得多的数据备份问题。

img

这样的方向有时会引起担忧,部分原因是它们是不可逆转的,部分原因是它们可能会让有权势的人比我们其他人拥有更多的优势。脑机接口尤其具有危险性--毕竟,我们谈论的实际上是读写人们的大脑。正是出于这些担忧,我认为在这条道路上,最理想的领导者应该是以安全为重点的开源运动,而不是封闭的专有公司和风险投资基金。此外,与人类紧密相连的增强型人工智能相比,独立于人类运行的超级智能人工智能所面临的所有这些问题都更为严重。由于谁能使用和不能使用 ChatGPT 的限制,"增强型 "和 "非增强型 "之间的鸿沟如今已经存在。

如果我们希望未来既是超智能的,又是“人类的”,一个人类不仅仅是宠物,而是实际上保留对世界有意义的代理权,那么这似乎是最自然的选择。还有很好的理由认为这可能是更安全的 AI 对齐路径:通过在决策的每一步都让人类参与反馈,我们减少了将高层次规划责任推卸给人工智能本身的动机,从而降低了人工智能自己做出完全不符合人类价值观的事情的几率。

支持这一方向的另一个论点是,它可能比简单地喊叫"暂停人工智能 "而不提供另一条前进道路的补充信息更容易被社会接受。这需要从哲学上转变当前的心态,即触及人类的科技进步是危险的,而脱离人类的科技进步则默认是安全的。但这也有一个巨大的反作用:它让开发人员有事可做。如今,人工智能安全运动向人工智能开发者传递的主要信息似乎是"你应该停下来"。人们可以致力于对齐研究,但如今这缺乏经济激励。与之相比,常见的 e/acc 信息 "你已经是个英雄了,就像你现在这样 "就极具吸引力,这是可以理解的。D/ACC 信息,即 "你应该建造,建造有利可图的东西,但要更有选择性,更有意识地确保你建造的东西有助于你和人类的繁荣",可能会成为赢家。

d/acc 是否与你现有的理念相容?

  • 如果你是e/acc,那么 d/acc 是 e/acc 的一个分支-只是更加选择性和有意图性的一个分支。
  • 如果你是 有效利他主义者,那么 d/acc 是有效利他主义的差异技术发展的一个重新包装,尽管更加强调自由和民主价值观。
  • 如果你是自由主义者,那么 d/acc 是技术自由主义的一个分支,尽管是一个更加务实的分支,更加批判“技术资本机器”,并愿意在今天接受政府干预(至少,如果文化干预不起作用的话),以防止明天出现更糟糕的不自由。
  • 如果你是格伦-韦尔(Glen Weyl)意义上的多元主义,那么d/acc这个框架就很容易包含多元主义所重视的更好的民主协调技术。
  • 如果你是公共卫生倡导者,那么d/acc理念就能为你提供更广阔的长期愿景,并为你提供与 "技术人员 "找到共同点的机会,否则你可能会觉得与他们格格不入。
  • 如果你是区块链拥护者,那么 d/acc 是一个更现代、更广泛的叙事,比十五年前对通货膨胀和银行的强调更具包容性,将区块链放入一个具体战略中的众多工具之一。
  • 如果你是太阳朋克,那么d/acc就是太阳朋克的一个分支,同样强调意向性和集体行动。
  • 如果你是月球朋克,那么你会欣赏d/acc通过维护隐私和自由来强调信息防御。

我们是最明亮的星

我热爱技术,因为技术扩展了人类的潜力。一万年前,我们可以制作一些手工工具,改变一小块土地上的植物生长,并建造基本的房屋 。今天,我们可以建造 800 米高的塔楼 ,在我们的手中存储人类知识的全部内容,即时在全球范围内进行通信,延长我们的寿命,过上快乐充实的生活,不再担心我们最好的朋友经常因疾病而死亡。

img

我们从底部开始,现在我们在这里。

我相信这些事情都是非常好的,将人类的触角进一步伸向行星和恒星也是非常好的,因为我相信人类是非常好的。在某些圈子里,对此持怀疑态度是很时髦的:人类自愿灭绝运动认为,没有人类存在,地球会变得更好,还有更多的人希望看到人数少得多的人类在未来的几个世纪里看到这个世界的光明。通常有人争辩人类是坏的,因为我们欺骗和偷窃,参与殖民主义和战争,虐待和消灭其他物种。我对这种思维方式的回答就是一个简单的问题:与什么相比?

是的,人类经常很卑鄙,但我们更经常表现出仁慈和怜悯,并为我们的共同利益而合作。即使在战争期间,我们也经常注意保护平民--当然还远远不够,但也比2000 年前的我们多得多。下个世纪很可能会出现广泛供应的非动物性肉类,从而消除人类今天理应承担的最大的道德灾难。非人类动物并非如此。猫不会因为道德原则而采取不吃老鼠的生活方式。太阳每年都在变亮,预计在10 亿年左右,地球就会因为太热而无法维持生命。太阳甚至想过它将造成的种族灭绝吗?

因此,我坚信,在我们所知道和看到的世界万物中,我们人类是最亮的一颗星。我们是我们所知道的即使不完美,有时也会认真努力地关心 "善",并调整我们的行为以更好地为 "善 "服务的事物。20 亿年后,如果地球或世界中的任何地方还保留着地球生命的美丽,那将是人类的人工智能,如太空旅行和地球工程,使之成为现实。

img

我们需要建设,需要加速。但有一个非常现实的问题需要提出:我们加速前进的目标是什么?21 世纪很可能是人类的关键世纪,是决定我们未来几千年命运的世纪。我们是要掉进众多陷阱中的一个而无法自拔,还是要找到一条通往未来的道路,让我们保留自由和能动性?这些都是极具挑战性的问题。但我期待着观看并参与我们人类为寻找答案而做出的巨大集体努力。

点赞 1
收藏 0
分享
本文参与登链社区写作激励计划 ,好文好收益,欢迎正在阅读的你也加入。

0 条评论

请先 登录 后评论
Vitalik Buterin
Vitalik Buterin
https://vitalik.ca/