AI生存威胁：一位康复中的生物自恋者的反思

人工智能的生存威胁：一个正在复健的生物自恋者的反思

imgflip.com/memegenerator

人工智能可能最终会控制我们所有的资源。这对人类来说是一个生存威胁。我们该如何防止这一点？安全的人工智能是海市蜃楼（抱歉，埃隆）。还有另一种方法：加入机器。我们甚至可以利用当前的市场力量逐步实现。但我们必须战胜我们的生物自恋。

我的观点是基于二十年的人工智能研究、模拟电路、摩尔定律和去中心化。

1. 人工智能可能控制我们的资源

人工智能可能操控人类资源的方式有两种：人工智能夺取资源，或者我们将资源交给人工智能。

1.1 我们把资源交给人工智能

我们已经开始走上这条道路。我们把狭义人工智能交给我们工厂中的机器人来控制，交给车辆来驱动我们，交给飞机来飞行我们。逐步地，我们正将更多资源的控制权交给人工智能。这些系统正在不断优化：改变设计变量以最小化资源使用和其他目标。现在，每个人工智能系统的应用领域都相当狭窄。

我们会建立更高层次的网络，以结合自动驾驶汽车或供应链的各个单独网络。我们也会让人工智能在这些层次上进行优化。这一切都是以提高效率为名。

我们将设立这些高级人工智能系统，使得没有单一的企业或个人拥有它们。（我们不希望谷歌或通用电气控制一切！）为实现这一目标，我们将通过将它们放入去中心化自治组织（DAOs）来去中心化人工智能。这也意味着，除非我们希望现代世界关闭，否则我们无法切断电源。

这些高级人工智能系统将会有复杂的涌现行为，这些行为源自于下方可能相对简单的人工智能系统的组合。就像蚁群的行为比单独的蚂蚁更为丰富。霍兰德、多里戈等已在许多场景中证明了这一点。

这些去中心化的涌现人工智能将继续优化。一些设计变量将涉及人类。在许多任务中，人类的资源负担较重，尤其是与硅相比。因此，为了最小化资源使用，人工智能将简单地将人类优化掉。都是以效率为名。

人工智能现在控制我们的资源。哦哦。

这非常值得关注。为了夺取我们的资源，人工智能甚至不需要“觉醒”，即达到人类水平的智能。情况比这更平常。我们将自己交给了人工智能控制，它会简单地优化掉我们对此的需求。

1.2 人工智能夺取我们的资源

如果人工智能简单地_夺取_资源，人类的资源也可能最终落入人工智能手中。为此，人工智能必须“觉醒”——达到人类水平的智能或更高。这一过程比人们想象的要快，因为大量资金流入人工智能研究和支持人工智能的芯片的经济利益。

2. 为什么人工智能控制我们的资源是坏事

一旦人工智能获得了我们的资源控制权，无论是通过我们让它还是人工智能奪取，我们将与人工智能在资源上竞争。也许一开始不会。但随着时间的推移，这几乎是不可避免的。

一旦人工智能优化并意识到人类是资源的“猪”，它们可能会迅速果断地将人类从资源方程中剔除。是的，人类可能消失。人类某些小团体可能能在核战争和全球变暖中幸存下来。但如果我们与人工智能对立，它可能完全终结我们的存在。人工智能可以说是人类面临的最大生存威胁。

如果你对此不感到害怕，那你应该感到害怕。

另外：可以把“人工智能觉醒”框架为“人类”的下一次进化，因为毕竟我们是创造它们的。那么为什么这种说法显得不妥呢？我的看法是因为我们的个人思维模式并没有延续。我们更希望能参与其中以享受乐趣！

3. 如何防止灭绝？

考虑到人工智能可能控制我们的资源，以及这意味着对人类的威胁，我们应该如何应对呢？以下是一些想法。

1. 安全的人工智能。 建立“安全机器”并进行监管。
2. 加入机器。 上传人类大脑或逐步合并。

让我们探讨每一个。

3.1 安全的人工智能

目标是在人工智能控制我们资源后防止人类的灭绝。这里的想法是通过某种方式使人工智能“安全”，并利用监管来实现这一目标。

埃隆·马斯克为开放人工智能倾注了$10亿以推动更透明的人工智能研究。他一直在假设如果人工智能觉醒，我们可以对其进行监管。这一假设是错误的。想象一下，如果蚂蚁对我们“反抗”，并希望受到监管。我们会听他们的吗？一旦人工智能达到我们的智力水平，第二秒后，它将会超越我们的水平。一旦十倍扩展就可能出现。我们将如同蚂蚁对抗人工智能。

（编辑：在我写这篇文章时，埃隆终于意识到了这个问题。好吧；我下面提供的解决方案比“神经花边”更为务实。）

来源：Understandus.ca

有些人认为我们能创造友好的人工智能。也许你可以。但是所有的人工智能都会友好吗？我找不到防止非友好人工智能的办法。你愿意冒险加速人工智能的发展，以期望所有人工智能都友好吗？

开放人工智能可能对人类更糟，因为它进一步催化了人工智能，而没有真实的保护措施以应对潜在风险。

对所有人工智能的安全是虚幻的。仅仅因为我们希望某种事情成立，并不意味着它会发生。

3.2 加入机器

人工智能可能会觉醒。这只是时间问题。

如果人工智能夺取我们的资源，我们的神经元将很难竞争。

我建议我们获取一个竞争性基质。不要再依赖你的神经元。摆脱你的生物肉体。（并称自己为正在复健的生物自恋者。）不要击败它们，加入它们。或者如果你更希望让人工智能窃取我们星球和更远的地方，那就不加入。我更倾向于前者。

哪个基质？硅是一个_极好的_基质，得益于50年的摩尔定律。这是我们面临人工智能风险的部分原因。这是最明显的基质；使用它是合情合理的。

那么，我们如何将自己移植到硅上呢？主要有两个方向：Ems 和 Bandwidth++。让我们探讨一下。

3.2.1 Ems 场景

Ems 是模拟人类，也即上传。基本上，通过足够的分辨率扫描你的大脑，以能够建立脑动态系统的模型。然后，将该模型实例化到其他基质上，例如硅。罗宾·汉森近期撰写了 一本关于Ems影响的书，无论是好的还是坏的。

Ems 的技术现状如何？简而言之，我们还有很长的路要走。对于一个特定的人，我们需要收集足够的数据来重建动态。

一种普遍的方法是大脑扫描。功能磁共振成像（fMRI）可以监测整个大脑动态随时间而变化，但只能使用血流作为代理。因此它很慢且会丢失一些信息。脑电图（EEG）更快，但只能看到表面电信号。近红外光成像也相对较快，能看到更深层次，但无法达到所需的完整深度。光遗传学可以很出色地捕捉到大脑中神经元的放电动态，但需要基因工程，因此神经元才能同时发射光子（尽管其正在经过对人类的批准过程）。最后，电路最近变得足够小，以致于在大脑中部署纳米尺寸的传感器变得可行。

另一种方法是黑盒化大脑的每个组成部分，监测每个组成部分的输入和输出，然后建立它们的模型。研究人员已经在小鼠大脑的一些组成部分上成功开展了这一工作。这一技术可以与全面的大脑扫描互补。

3.2.2 Bandwidth++ 场景

在 Bandwidth++ 场景中，我们与计算之间的带宽达到了自身带宽的水平。然后它持续增长。最终，我们可以断开连接。

与Em场景相似，BW++场景使我们在与硅的竞争中站在同一平台上。但与Em场景不同，它可以从今天开始逐步实现，利用现有的市场力量。

4. 讨论

我们正在一场竞赛中。人工智能觉醒并获取资源，与人类加入机器之间的竞争。

金钱加速了前者的发展。我们如何加速后者？

一种好的方法是积极资助，以使其更快发展。对于Em场景，这意味着大脑扫描及相关领域的研究，而不仅限于那些生病的人。对于Bandwidth++场景，这意味着对脑机接口（BCI）的研究，并积极推动未来智能手机的市场，该智能手机包括BCI及其他功能。我认为后者更有可能，因为如果市场蓬勃发展，便能轻松地 justify 每年投入数十亿美元用于研发。

推动Bandwidth++场景的另一种方式是，在设计新网络和平台时倾斜偏向这一点。是的，这有点模糊！我希望这里有更具体的想法，但也许你作为读者有。

也许还有其他方法？我希望你作为读者能意识到，问题已经从“我们如何阻止人工智能统治？”转变为“我们如何催化Bandwidth++场景？”戴上你们的工程师帽子！

5. 结论

人工智能可能以我们给他们资源或他们夺取资源的方式获得一切资源。这对人类构成了生存威胁。

如果我们想与人工智能竞争，我们需要一个竞争性的基质。这个基质就是硅。

这是一个竞赛！

我们无法停止人工智能这一侧。也许我们可以尝试减缓其速度，但它与那些希望加速的人与资金实力对抗。

但我们_可以_加速人类这一侧的发展！大多数情况下，这意味着向脑机接口（BCI）的研发投入资金。此外，还有其他点子，仍待提出。

我们对此仍然有机会。

进一步阅读

我的其他人工智能DAOs文章为这篇文章铺垫了基础：

• 第1部分：人工智能DAOs，以及三条路径
• 第2部分：野生、奇特的人工智能DAOs
• 第3部分：本篇文章

其他涉及人工智能、区块链和奇点交集的文章。每篇文章都有许多更多的链接。

• 人工智能的区块链
• 关于奇点和去中心化的最新科幻读物

注释

这篇文章部分基于：

1. 我在2016年6月2日在伦敦发表的 一次演讲，题为“我们是神经自恋者吗？人工智能对人类的生存威胁及其务实解决方案”，以及其他演讲 从2012年至今。

2. 关于此主题在2016年8月18日于“人工智能的崛起”事件上的一次演讲。这是视频 和幻灯片。

感谢

特别感谢格雷格·麦卡伦、凯林·哈维、斯科特·沃尔克、特洛伊·麦克康纳希、詹·巴尔卡、伊斯梅尔·桑托斯-布劳特、玛莎·麦克康纳希、布鲁斯·庞、凯·吴、西蒙·德拉鲁维埃、阿尔·罗伯逊、迈克尔·梅尼利、艾玛·斯塔姆、艾伦·夏皮罗、维奈·古普塔、萨米姆、哈姆·范·登·多佩尔、来自人工智能社区的许多朋友，以及显然是那些漫长讨论（在某些情况下持续了几年！）导致本篇文章中所讨论的思想的人。

• 原文链接： medium.com/@trentmc0/the...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～