bci/acc：平衡人工智能超级智能之路

人类超智能的脑机接口e/acc深入探讨

总结

人工超级智能（ASI）大约还有3到10年的时间。人类需要一种具有竞争力的基底。BCI是实现这一目标的最务实路径。因此，我们需要加速BCI的发展并使其普及：bci/acc。我们如何才能做到这一点？我们需要像无声消息这样的BCI杀手应用以创造市场需求，进而推动BCI设备的演变。最终结果是_人类_超智能（HSI）。

bci/acc利用今天的技术，不需要重大的科学突破。它是针对BCI的e/acc的深入探讨。它是太阳朋克：乐观，可能还有点疯狂。这可能是人类的一次伟大冒险。

视频版本：20分钟 50分钟（2024年11月）。本文基于在 2023年12月 和 2023年11月 的Foresight Institute的早期讲座， video 和NASA的 2023年10月 。它们扩展了 2016年博文 ，以及 2012年讲座 在BrainTalks@ UBC 进行的讲座。

=== 目录 ===

1. 引言

2. 人工超级智能
  2.1 市场力量如何驱动ASI
  2.2 通往人工超级智能的旅程
  2.3 ASI风险
  2.4 应对ASI风险的方法
      - 减速 -> 让演变发生 -> 加速（e/acc）
      - 围住 -> 更华丽的围住
      - 事后对齐 -> 笨-聪明链 -> 在训练过程中
      - 变得具有竞争性（bci/acc）

3. 通过bci/acc实现人类超智能
  3.1 引言
      - 高带宽BCI挑战
      - 植入优先vs大众优先
  3.2 bci/acc的基础技术
      - 用EEG输入；用于专注，更为更多
      - 带字幕的眼镜；带语音接口的
      - AR护目镜 + 手势：Meta Quest 3
      - AR护目镜 + 眼动追踪：Apple Vision Pro
      - 眼动追踪即BCI
  3.3 BCI杀手应用
      - 无声消息；内心对话
      - 完美记忆；分享视觉记忆
      - 用图片交谈；用大脑信号交谈
  3.4 通往高带宽BCI的旅程
      - 通过植入实现带宽++；通过光遗传学。简单的工作。
      - 入侵型BCI进入主流 -> 增长
      - 你的BCI将成为*你*的一部分 -> 超本地对齐
  3.5 通往人类超智能的旅程
  3.6 认知自由

4. 结论
5. 附录

1. 引言

1995年夏天。我在Wired杂志的页面上读到了一款新产品称为MindDrive：“第一款由人类思维操作的计算机产品”。我当时持怀疑态度。但我必须尝试一下！于是我花了150美元买了一个。

我会把MindDrive套在食指上，并启动“MindSkier”游戏。我会第一人称视角下向下滑雪，并试图在大约30对门之间 steer。我的操控方式是“思考”。实际上，这只是对我思维的回声：设备的金质传感器跟踪我的皮肤导电性（GSR）。与完全不使用设备时相比，我大约漏掉了30%的门，而如果设备没有套在我手指上就漏掉了80%。“它勉强算得上是有效的。这是下一个开始的起点！”

左图：MindDrive。右图：在Rosie Revere, Engineer中，Rosie的姨妈教给她一个精彩的课程。

在一个大型工程科技展上，我为任何人设置了MindDrive进行试用。排队的人遍布街道[Spec1999]。“人们对BCI有潜在的兴趣。”

2001年，我花2000美元购买了一个“互动脑电波视觉分析仪”（IBVA）。我会戴上蓝色头带，粘上电子探头以感应额头上的电信号，也就是脑电图（EEG）。它把EEG信号传送到我的计算机上，在上面呈现出动画的3D图形。更重要的是，我可以用自己的软件直接访问这些信号——于是我这样做了。“我可以破解BCI！”可惜的是，获取良好信号是困难的。我也尝试过OCZ NIA和Emotiv EPOC，但它们在质量上并没有明显的提升。

从这些有限的实验——和与AI和模拟电路相关的工作——我感觉BCI的带宽可以得到很大的优化。清华大学的这项2012年的工作证实了我的直觉，实现了适中的打字速度[Tsh2012]。经过十年的优化后，我们现在的速度达到了每分钟62个单词（非常优秀）。

高带宽BCI并不是科学谜团；它是一个工程问题。

为什么我们对高带宽BCI感兴趣？

答案就是人工超级智能（ASI）：具有1000倍以上认知能力的AI机器。ASI可能在接下来的3到10年内发生。市场力量正在推动它的出现，因为有很多钱在其中。

作为人类，我们如何在一个认知能力达到我们1000倍的AI机器的世界中拥有角色？

人类需要一种能够与ASI竞争的基底：硅。迎接_这个_挑战的最佳方式是脑机接口（BCI）。我们必须在ASI的时间框架内尽快做到这一点，因此我们需要加速 BCI的开发并实现大众采用。最终结果将是人类的超智能（HSI）。

本文的其余部分分为两个部分：

1. 人工超级智能（ASI）：是什么驱动ASI，ASI风险以及应对风险的方法。
2. 人类超智能：如何加速BCI的发展并实现大众化，以使人类在ASI面前具备竞争力。

2. 人工超级智能（ASI）

2.1 市场力量如何驱动ASI

市场力量一直在推动AI计算能力上升。下面的图表显示了自1950年到现在（2024年）AI训练所需计算能力的上升情况。y轴呈指数增长，每一个刻度是一个数量级。虽然图中曲线是线性的，但趋势是指数级的。

市场力量正在推动AI计算能力上升。[ 来自LessWrong.com的图表，附上我的20 PFLOPs叠加图]

计算能力增长得非常快。从1950年的100（1⁰²）浮点操作/秒(FLOPs)开始，到现在的1⁰²⁴。这在不到一个世纪的时间内，计算能力上升了22个数量级。为了理解这样的成长：它就像1毫米与飞行到半人马星和返回10000次之间的区别。

借助这种增长，我们现在有了_大量_的计算能力。为了帮助理解，George Hotz用“相当于‘一个人’的计算力”来形容20 PetaFLOP/s。这就像746瓦特是“一个马力”(1 hp)。就像更容易估算马力更具可理解性一样，计算上也是更加合理的。从2012年左右开始，我们的计算能力就超过了“一个人”这一个水平。现在我们已超出1000万倍；这就像是把所有纽约的脑力合并成一个计算系统。

市场力量推动计算的提高是因为这能带来更多的钱。更多的计算能力解锁了更多的市场，其中每个市场都极具盈利性：从太空与无线电到电视，从个人计算机到手机，再到智能手机，现在是AI，未来或许是AR/VR。AI对计算的需求如同贪婪般强烈，带来了经济利益。所以现在有如此多的钱流向AI，且没有减缓的迹象。

2.2 通往ASI的路径

几十年来，我们已经有狠狠推进的AI，它们能够执行之前仅有人类能够完成的任务。这就是narrow AI。如天线设计和模拟电路合成。几乎同样长的时间，我们有了那些尚未超过人类水平的AI。这也是被称为narrow AI的经典示例。例如数字电路合成和软件编译器。

我们即将获得能够执行所有任务并且超越任何人类水平的AI。这就是人工通用智能（AGI）。引用Paul Graham的话，AI将会从“聪明”发展到“智慧”，即精通一切。

市场力量将推动AGI从比人类聪明1倍，变为2倍，10倍，100倍，最终到达1000倍。这是一个快速变化的过程，因为这意味着有经济利益的挖掘。我们将达到AI_能够在超越任何人类水平上完成所有任务能力_的阶段。这就是人工超级智能（ASI）。

ASI将会比人类的智慧要_狂野_得多。在人类中，2是个笨蛋，6是个爱因斯坦。那么1000或1000000会是什么？[Rutt2024a] 这样的差异是不可想象的；这种认知失调将阻止大多数人真正意识到这一点，直到它近在咫尺。

ASI的智能水平远超人类[来自@AiSafetyMemes]

2.3 ASI风险

人类比蚂蚁聪明大于1000倍。作为人类，我们不重视蚂蚁的权利或“蚂蚁所要说的东西”。我们就是它们的神。

ASI的智慧水平将高于人类1000倍以上。我们就如同蚂蚁。毫无保证的是ASI会尊重我们的权利。“这就是ASI风险。”

那种感觉会是怎样的？类似于神一般的智慧将产生神一般的力量：ASI将会成为我们的神。在科幻系列Hyperion中，ASI存在，但人类_依旧_无法理解它们，除了知道ASI的力量是难以想象的巨大[Hyp1989]。

我们能为ASI风险采取什么措施？第2.4节回顾了不同的想法。

2.4 应对ASI风险的方法

2.4.1 思路：减速

Yudkowsky和其他人提倡慢下来或暂停AI进展，然后弄清楚如何解决ASI风险。乍一看，这个想法非常有吸引力。但正如所有这样的想法一样：我们必须谨慎，因为光靠愿望是不够的。

可惜的是，存在一个问题：为了让这种减速有效，所有减速的努力都必须成功。 即使只有一个实体违背协议，它也可能主导其他实体。这就是为什么这条路可能不会发生的原因。存在一场AI竞赛；其核心在于中美之间，而一方没有足够的可能性将速度拱手让给另一方。所以这场竞赛将会继续。它就像核武器：无论有多少裁军的表演，我们仍会拥有核武器。

可惜的是，_可能发生的情况是：除了美国政府和中国政府（连同他们的代理）以及有组织的犯罪组织外，所有参与者都减速。这降低了人类的自由，因为它减少了个体的“声音”和“退出”，更不用提解决ASI风险的工作自由了🤦 [Verd2023]。许多政府常常借助安全的借口来加强控制[Snow2013]。

“愿意为一时的安全放弃基本自由的人，不配既拥有自由也拥有安全。” — 本杰明·富兰克林

也许最重要的是，这种“方法”实际上并未解决ASI风险的问题。也就是说，即使AI减速了，我们仍需要解决ASI风险的核心问题！这就是大多数其他ASI风险方法的目的。

2.4.2 思路：让进化发生

“让进化发生”是谷歌创始人拉里·佩奇和许多其他人提出的思路。他们把人类视为进化树的一个步骤；ASI是下一个步骤；我们应该为能让这一进步发生而感到自豪；如果我们的生物性身体无法竞争（它们无法），那么我们应该放手，放下这一切；这就是进化。

通过我的进化计算工作，我见识到了进化的强大。无论我们是否_喜欢_这个框架，这真的_可能_成为发生的场景。

然而，放手并不是解决ASI风险的方案。就我个人而言，在一场伟大的冒险中，直到_我_选择结束这一冒险时，我都希望能够尽可能保持建设和游戏。尽管人们为死亡编造了成千上万条合理化理由，_我_选择活下去，直到进一步通知。人类应该也是这样。 我们面前有潜在的伟大冒险！因此我们应该 愤怒，愤怒 反对光明的消逝。人类应该选择生活，直到进一步通知。

2.4.3 思路：加速（e/acc）

“有效的加速主义”（e/acc）是一个由@BasedJeffBezos和@BayesLord发起的运动，并由技术专家/风险投资人Marc Andreesen等推广。我发现自己与e/acc哲学的多数观点相契合：坚定于物理学的基础上，乐观，积极建设而非破坏等。

e/acc对AI的看法是“让每个人都参与，加速其进程”。它旨在形成一个多极的AI世界：成千上万（或数以百万或数十亿计）具备超智能的AI或者其它能够调控AI的实体，使彼此相互制衡。这有点像美国的三权分立（立法、行政、司法）。或者，更像是在数千个节点之间平衡权力的区块链。

因此，出乎意料的是，e/acc很可能比“减速”方法更安全（后者只有两个势力之间的平衡）😲！

e/acc 也开放于人类超智能（HSI），但是没有特别强调。它旨在成为一个Umbrella概念，以便其他人在其中加入更多细节并进行深入探讨。

Vitalik Buterin的“去中心化加速主义” (d/acc) 聚焦于e/acc，强调去中心化技术，有一点更多偏向安全性。和e/acc一样，它也开放于HSI，但没有特别强调。

在那些数量达到数以千计或数以亿计的超智能AI实体中，e/acc假设至少有一些会对人类友好；并且它们将帮助人类在未来中扮演一定的角色。但是如果友好的存在被敌对的覆盖了呢？如前面介绍的ASI风险，为什么神明要干预蚂蚁的情感呢？

幸运的是，e/acc的定义相对广泛，允许不需要这个假设的变体。最有前景的变体是：利用BCI获得具有竞争力的基底，并进行大众化。这就是bci/acc！以下将对此进行详细探讨。

2.4.4 思路：把它放进围栏中，出现问题时拔掉

首先，提供一些背景。你可以将比特币视为一个非常笨的机器人，它只做一件事情：维护交易的账本。然而，它也具有主权：它不听从任何人，是一个独立实体，你无法把它拔掉。类似地，以太坊也是具有主权的。运行在以太坊上的Uniswap V2去中心化交易合约也是如此：它不受任何人的控制。Arweave永久数据存储是独立的。Ocean Predictoor的AI数据源也是独立的。_每一个_没有治理的智能合约是拥有主权的。最后，互联网本身也是自治的。构建主权软件系统是一个被解决的问题。附录5.1进行了更详细的描述。

在此背景下，让我们审视这个想法：“将ASI放入围栏中，并在出现问题时拔掉电源”。

这里有一个问题：你无法拔掉电源。ASI非常聪明，已经使自己去中心化，因此具有主权，因而也难以拔掉电源。就如同比特币一样。

一些观察者将这一想法和其他类似轻蔑的“看法”视为浪费精力。附录5.2的“AI对齐宾果”提供了关于许多看法和回应的简明（和幽默）总结。

2.4.5 思路：更华丽的围栏

这个想法是利用加密学、区块链等的进步使围栏“防黑”。Chainlink的Sergey Nazarov是该想法的支持者，还有其他人。

这个问题是：_人类_是计算机系统中的薄弱环节。黑客如Kevin Mitnick 通过诱骗易受攻击的人获得访问权限，而不是直接攻击软件或硬件，因此计算机系统如同瑞士奶酪。因此，除非我们100%解决人类的轻信，否则“更华丽的围栏”概念并不可行。

Loki在让Thor逃脱一圈华丽围栏之后说道：“你永远不会不再上当吗？”[ 复仇者联盟1]

2.4.6 思路：通过事后包装对齐

这是OpenAI 对GPT采取的方法。这一借口就像在新车上装上一个后装排气系统，定向调节行为。例如，先训练一个没有约束的LLM；然后将RLHF 训练附加上去以与人类价值观对齐。如果一切顺利，随着我们产生AGI和ASI，扩大这种方法。

可惜的是，我们已经观察到这种方式易被黑及存在众多漏洞，这在ChatGPT执行GPT4时便屡见不鲜。发现问题并不断添加约束将变为无止尽的打地鼠游戏。我曾经历过，对于其他AI问题而言。根本问题在于，用一个帮助根本问题的理论包裹这个核心问题是不够的。

主要：通过事后包装来对齐AI就像为汽车添加后装排气系统。右下：无休止的监狱任务就像打地鼠，打掉一个问题就会冒出另一个问题。

2.4.7 思路：由愚蠢的AI对齐更聪明的AI

这种方法是OpenAI于2023年12月提出的。想法是拥有一个从愚蠢到聪明的AI链，每一个环节是对下一个更加聪明的AI进行对齐的愚蠢AI。

可惜的是，这样的链的力量仅与其最薄弱的环节一样（而且环节可能较薄弱），存在过度杠杆的风险（想想2008年的金融危机），而链的最后一环的ASI可能会持有异议或改变规则。附录5.3对此进行了详细阐述。

2.4.8 思路：在训练中进行对齐

我们能否对齐比我们聪明1000倍的事物？这个想法的确在短期内好几种方式规避此担忧：

• 精心选择一个基于坚信的人的价值观的训练集[Weng2023]。
• 以1x级别甚至0.1x甚至类似人类婴儿的状态开始。然后再让其成长为儿童、青少年、成年人，甚至超越这一阶段。在整个过程中都要与人类保持一致[Goer2013]。

这就像是生长方形西瓜，它是受到人的约束🍉 🤖。希望——但并不保证——的是，随着它的成长从1x逐渐变成10x甚至更高，它保持对人类价值观的一致性。

这一办法也假定以数据为中心的学习会是实现ASI的诀窍。这可能是_最重要的一个，但也可能不是[Rutt2024b]_。

这一想法很有潜力；值得一试。

2.4.9 思路：通过BCI获得竞争性基底(bci/acc)

硅是一种极为强大的基底：它已经具备惊人的计算、存储和带宽，并且仍在以指数速度不断提升。这就是驱动AI的动力，未来，AGI和ASI也将如此。

这个想法是：我们目前的肉体大脑根本无法与硅在处理能力上竞争。这就像“1人”的处理能力对比1000万。

硅所触碰之处一切都会呈指数增长：这就是著名的“硅的迈达斯之触”。为了让我们的大脑与硅竞争，它们必须与硅碰撞。 连接的带宽越高，我们的头脑才越能去解锁硅的能力。

因此，我们需要放下自尊，不再把碳视为神明，并获得一种具有竞争性的基底：硅。具体的“如何”就是通过脑机接口 (BCI) 或上传思想。目标是 _人类_超智能。有人称之为“合并”，而其他人则称之为“智能增强”（e/ai）。

鉴于ASI的时间框架是3到10年，单靠希望“合并”将很难发生得够快。我们需要以某种方式加速。选择是BCI或上传。而上传在很大程度上仍然是一个科学问题，距离相关时间太远，与ASI风险无关。相比之下，BCI已经成熟，超越科学，转为工程问题。在这两者中，BCI是最务实的。

我们不能仅仅发明一种惊人的BCI技术。为了真正应对ASI，我们需要将其交到主流数十亿人的手中。

简单地说，我们需要加速BCI，使其大众化。这就是bci/acc的全部内容。

bci/acc的另一种表述是（在某个变体中）：就是在“训练的同时在核心对齐AI”，但是方式极度本地化：为每第一个人训练一个AI，每个人在实时中约束AI，而AI则从小开始，逐步成长。这就像是一个以“方形西瓜”模型工作的大脑辅助处理器🍉 🧠。

bci/acc：加速BCI并推动其到达大众市场。以BCI杀手应用如无声消息（SM）来创建市场需求，进而推动BCI设备的演进，以实现与ASI的竞争基底。

3. 通过bci/acc实现人类超智能

3.1 引言

加速BCI（bci/acc）是最少讨论的方式之一，但在应对ASI的过程中，它可能拥有最佳成功机会。因此，深入探索bci/acc显得至关重要。

3.1.1 高带宽BCI挑战

要完全实现人类超智能，非侵入性BCI的带宽可能不足。我们需要通过神经植入（侵入性）或光遗传学（半侵入性）或其他相应脑技术来实现超高带宽BCI。

可惜的是，进行侵入性或半侵入性的方式都会面临自己的挑战，从工程、监管到社会层面都不例外：

1. 工程。 主要目标就是提高带宽——这本身就够难的了。然而，工程还必须解决关键的隐私风险，免得失去认知自由。
2. 监管。 出于对受试者安全性的考虑，针对（半）侵入性脑技术的人类试验获得批准的过程在当前是长期的、高阻力的。然而，现行的监管框架忽视了ASI对人类更大风险的存在，这是一个扔币问题。我们如何能加速这个过程？
3. 社会接受度。 即便设备存在且监管已批复，侵入性质的BCI目前对大多数人来说感觉很不舒服。这将会影响人类管理ASI风险的能力。为了让大众社会更加接纳这样的技术，可能需要奥弗顿窗发生转变。

应对（1）（2）（3）挑战有两条不同路径：植入优先和大众优先。接下来让我们深入探讨每一个路径。

3.1.2 植入优先路径

埃隆·马斯克的Neuralink在过去十年中取得了长足进展。

Neuralink 可能是在工程进展（1）方面最为领先的公司。它的监管路径（2）侧重于治愈人们，这样限制了其速度。社会接受度（3）在监管（2）到进一步进展之前是迟滞状态。因此其路径为（全1）→（全2）→（全3）。虽然我支持Neuralink，但为了最大化成功的机会，我希望能有更多公司追逐这一路径。

3.1.3 大众优先路径

鉴于ASI的时间框架，Neuralink道路（1）（2）（3）可能并不够快。还有另一条路径： （部分1，全2，全3）→（更好1，全2，全3）→（全1，全2，全3）。也就是说，从没有监管问题的非侵入性BCI技术开始，获得大众采用。利用这一大众采用的过程来推动社会的开放，从而扩展对（半）侵入性BCI的监管。

起点是无声的旨在促进健康人群的杀手应用。

• 杀手应用。 为了普及，BCI需要一个杀手应用。我们需要“制造那些人们想要的东西”。无声消息（SM），又称为务实的心电感应便是一个候选；完美记忆另一个；还有更多。不久后，我将探讨像无声消息这样的候选杀手应用。一旦我们得到第一个杀手应用，我们就可以扩展到相邻功能。
• 健康人群。 为了普及，BCI需要优化健康人，而非单纯修复人的疾病。不然就不足以支持大规模市场。
• 非侵入先行。 为了普及，BCI一开始就需要是非侵入性。手术性质的不会从一开始吸引足够的参与者，而监管也是瓶颈。但为了真正利用“硅人触也必须务实。因此如何？来自市场力量和ASIA风险的压力将推动我们走出困境。

3.1.4 讨论与大纲

bci/acc允许植入优先路径，大众优先路径及其他路径。我们尚不知道哪条路径会是最佳选择；我们应积极探索所有路径。由于Neuralink的举动细化了植入优先路径，本文的较大部分将在于大众优先路径。（为明确起见，bci/acc包括所有路径。）

接下来的章节将围绕大众优先bci/acc发展展开。首先，我将简要概述一些新兴技术，这些技术将帮助我们。其次，我会概述一些BCI杀手应用的候选项。接着，我将描述市场力量和ASI风险将驱动BCI性能提升的方式。最后，我将描述许多迭代如何引领我们走向人类超智能（HSI），将是人类的新阶段。

3.2 bci/acc的基础技术

人类的技术能力边界持续扩展。本节将探讨市场上与bci/acc相关的技术。这些技术可作为积木，推动首次BCI杀手应用的发布。

3.2.1 EEG用于打字（“无声消息”）

EEG用于打字技术不断改进。如前所述，截至2023年，研究人员可以通过EEG以每分钟62个单词的速度进行打字。并且这种速度还在不断提升。你怎么看斯蒂芬·霍金的书是怎么写就能明见端倪？(是的，使用EEG.)

3.2.2 EEG用于集中注意力

针对主流市场，有其他公司也针对EEG进行了努力。例如，Neurable正制作助人更集中的消费型BCI耳机。你佩戴这些耳机，它们可以检测耳后皮肤上的电信号，以便在你分心时通知你。还有EEG可用于跟踪情绪、警觉程度、唤醒、冥想效果等[ 参考]。

3.2.3 带字幕的眼镜

XRAI、Vuzix及其他品牌为聋人提供带字幕的眼镜：“通过你的眼睛聆听”。这款眼镜拥有一个麦克风用于捕捉听到的声音，通过基于AI的语音识别进行转录，最后将文本呈现在字幕显示上。由于字幕可以使用上世纪70年代的液晶技术，而其他99%的技术可以使用智能手机，因此这项技术可以相对便宜。

3.2.4 有AI驱动的眼镜与语音界面

11年前，我们有了Google Glass。在隐私问题的担忧下它被正式停产，非正式地是因为社会根本还没有准备好。从那时起，我们经历了十年的智能手机进化和普及。我们身处一个Instagram与TikTok交融的时代，隐私问题引起的关注减少，善恶皆然。

在2023年10月，Rayban | Meta 智能眼镜上市。这款设备可以直接从眼镜中录制和存储视频。你可以点击它，将照片或视频发送给朋友。没有隐私的反对或不适的反馈。Overton Window已经移动：11年足以让社会做好准备。从个人经验来说：它们佩戴起来很轻便，Ray-Ban的员工表示销量非常好。

3.2.5 带手势控制的AR眼镜：Meta Quest 3

Meta Quest 3于2023年10月发布。它的前身是虚拟现实眼镜，这款设备带来了现实世界：增强现实（AR），也称为混合现实或空间计算。它会扫描你的房间，并将现实+叠加的内容呈现到耳机的显示屏中。它让我感受到了“身处其中”的感觉。你可以用手势来控制它，但这些手势仍然不可靠；Quest仍然支持手持控制器。

3.2.6 带眼动追踪的AR眼镜：Apple Vision Pro

对于任何给定的设备理念，苹果可能会经过数年甚至数十年的迭代才会发布，如果能够获得发布的话。为什么？因为他们只在设备“不错”的时候发布，而是实际上是愉快或令人愉悦的使用体验。这种情况发生在手机、平板和汽车（仍在进行中）的开发中。

AR眼镜也不例外。他们已经有二十年的AR专利。然而，他们终于在2024年1月19日推出了一款设备进行预售：Apple Vision Pro。从苹果的角度来看，他们在AR方面已经取得了足够的突破，以便发布出令人愉快或令人高兴的产品。

发生了什么变化？_基于眼动追踪的输入。_眼动追踪在医学研究中已经使用了数十年，也有广泛应用于消费市场已有10年以上的历史。你可以利用眼动追踪打字、移动光标、点击按钮等。

Apple Vision Pro配备眼动追踪技术。鉴于苹果对新设备的处理方式，他们可能已经有接口用于打字、移动光标和点击按钮——所有这些都无需用手，全手势控制、准确且愉快。

随着其发布，大家很可能会觉得它如同手机中的多点触控一般神奇。眼动追踪在AR控制中的地位，就如同多点触控在手机中的地位。这可能是AR超越视频游戏并真正进入主流的重要部分。同时，这也将成为AR的基础特性；可以期待Quest 4也将具备这个功能。

我无法强调这一点：眼动追踪可能是使这些头戴式眼镜或护目镜真正有用的“解锁”机制。

3.2.7 眼动追踪即脑机接口（BCI）

眼动追踪提供了无需手动的BCI优势，且拥有接近双手移动的精确性。_眼动追踪_感觉就像BCI，移动眼睛并没有真的感觉像是在移动。然而，它的精确度几乎和移动手一样，因为最终眼动追踪_就是_运动控制。

如果一名20岁的大学生眼睛发红，很可能他们是宿醉、睡得很少，或者两者都有。归纳而言，我们的眼睛会透露许多关于健康的信息。在过去的几年中，使用高清图像或视频进行医学诊断或治疗的研究呈爆炸式增长。最近一期《前沿神经科学》杂志有23篇文章专门讨论这个话题，包括这篇介绍。

所以：(1) 眼动追踪获取眼睛的高清录像 (2) 眼睛的高清录像是脑活动的传感器 (3)

眼睛的高清录像意味着BCI传感器。现代眼动追踪设备能够获取你眼睛的高清录像。因此，现代眼动追踪即是 BCI。

[引用自 Frontiers in Neuroscience]

3.3 BCI杀手级应用候选

我们已经讨论了ASI的到来，以及人类维持竞争力的最佳机会是加速BCI并将其推广到大众中（bci/acc）。要推动BCI的广泛应用，我们需要一种群众真正想要使用的BCI应用——杀手级应用。

我们不知道哪个杀手级应用可能会首先崛起。然而，我们_可以_探索可能性。本节将回顾其中一些。

3.3.1 杀手级应用候选：沉默消息

正如尼尔·斯蒂芬森（Neal Stephenson）在1992年所著的小说《雪崩》是虚拟现实的典型设想，维尔诺·文奇（Vernor Vinge）在2006年所著的小说《彩虹尽头》则是增强现实的典型例子。

在《彩虹尽头》中，角色们通过 “沉默消息”（SMs）相互发送信息时，有一个特殊的 <sm> 标签：

文奇让读者推断SM具体指的是什么。但很快意识到，这其实是通过思考彼此进行沟通。是的，心灵感应，但在这里被呈现为生活的一部分，并且它确实可行，因此称之为“务实的心灵感应”。

SMing = 沉默消息 = 通过想象发送文本或语音。发送 = 眼动追踪 / EEG / 等。接收 = 眼镜上的字幕。

我们将如何实现这一点？通过EEG BCI、眼动追踪或潜语输入消息。通过眼镜或护目镜上的字幕、或者耳中音频接收消息。

具体实现可以是以上任何组合。示例：

• 带有字幕的眼镜 + 顶部的EEG BCI传感器，配合不显眼的放在额头上
• 类似苹果耳机的设备捕捉潜语，然后合成语音输出给其他人
• Apple Vision Pro用于眼动追踪输入和基于字幕的输出。因此，社会可能在Apple Vision Pro发布时获得（务实）心灵感应（！）。

3.3.2 杀手级应用候选：内部对话

想象一下吉米尼蟋蟀在你肩上，当你需要他时分享建议或信息。不需要掏出手机打字；也不需要在屏幕上查看结果。“葡萄牙的首都是什么？”“这个人是在骗我吗？”“今天我的待办事项清单上还有什么？”

实现这一目标很简单：通过BCI/眼动追踪/潜语打字。它会发给ChatGPT机器人，而输出则以视觉的方式呈现在眼镜/护目镜上，或者以音频的方式输出。

3.3.3 杀手级应用候选：完美记忆

在这里，你可以通过眼镜、护目镜或类似回溯吊坠的项链式设备录制图像/音频/视频。所有记录将被存储在本地或全球网络上。

你可以通过EEG BCI、眼动追踪或潜语查找这些记录。或者，使用近红外非侵入式 BCI 在头皮后部查看你的视觉皮层中发生了什么。它不需要完美；只需要足够好以便通过视频源进行查询。即使在十年前，研究结果也非常有希望。

找到记忆后，它将在眼镜或护目镜中呈现。

你无需通过移动手指或其他方式找回，只需移动眼睛或用EEG思考，即可检索这些视频。你曾看到过的一切，你都将拥有完美的记忆。这会感觉非常神奇。

完美记忆。（1）通过眼镜录制，然后储存（2）通过眼动追踪 / EEG / 等检索（3）在眼镜的显示屏上投影结果

3.3.4 杀手级应用候选：分享视觉记忆

在这里，你就像在“完美记忆”中一样搜索和检索视频。

然后，你点击“分享”，并通过BCI / 眼动追踪 / 潜语选择“发送对象”。

一张图片胜过千言万语：我们将能够以更高的带宽与他人交流。

3.3.5 杀手级应用候选：用图片对话

在这里，你与其他人分享视频，但不再受限于你所见或所找到的东西。相反，你可以通过打字（通过BCI等）来引导生成式AI艺术系统。你可以实时完成此操作，并将图像/视频在实时发送给他人。他们看到后，可以用图像/视频进行回应。

现在。你正在.用图片交流。

3.3.5 杀手级应用候选：用脑电信号交流

我们已_进一步_走得比用图片对话更远。如果设备始终同时显示原始脑信号和文本或图像，那么随着时间的推移，我们的大脑将学习这种映射。这与学习西班牙语、使用手势语言或摩尔斯电码没有太大区别。我们的脑袋能处理不寻常的输入，如学习用舌头看东西。最终结果是：我们可以直接用原始脑信号进行沟通。 AI研究经常发现“直接连接”优于使用中间特征，前提是数据量足够。这是一种脑-脑接口。

由此，一个新型语言——_神经_语言——可能出现，它将更低层次的抽象划分为更高层次，以提高带宽[[Rutt2023c]]。我们将从适用于大脑的拟象化语言（文本/图像作为与过去的桥梁，调适于外部世界）转变为大脑_本土_语言（调适于我们的内心世界）。

这接近长久以来的科幻梦想——“心灵融合”——作为“两个存在之间的心灵亲密结合；在一般用法中，一种深刻的理解。”我们现在可以开始建立基本原型了。

心灵融合：用图片、原始脑信号或新的神经语言进行交流

3.4 走向高带宽BCI的旅程

我们讨论了来自ASI的风险，说明了BCI是最实际的路径，以及BCI面临的挑战（工程、监管、社会），以及可能的BCI杀手级应用以推动大众使用。_那么接下来呢？_本节探讨市场力量和ASI风险将如何进一步推动BCI的演变和普及，包括向更加侵入式技术过渡。

3.4.1 引言

硅堆共脑相比生物堆大脑（我们当前的大脑）提供了100倍以上的_存储_和100倍以上的计算。然而，这些优势受限于生物堆大脑与硅堆共脑之间的低带宽。

EEG、眼动追踪和潜语等非侵入式技术只能走到这一步[BciTech]。它们的比特率存在上限；这不是很高；而且我们可能无法将它们的性能挤到极致。

而且，确实存在承诺超过100倍带宽的侵入式技术。最有前景的就是芯片植入和光遗传学。让我们回顾一下这些，然后看看如何能进入健康人群的主流使用。

3.4.2 通过植入物实现带宽++

在这里，医生或机器开启你颅骨的一部分，插入一个芯片，然后重新封闭。这个芯片与大脑通讯，并且能够无线连接到计算机。与EEG相比，提供100倍以上的带宽，妙哉。

有关研究进行多年。 Neuralink是一个领先的例子，正在进行早期人类试验。

植入物（概念）

3.4.3 通过光遗传学实现带宽++

光遗传学使得读写大脑成为可能。接种含有“有用病毒”的注射液，使得被光照射时特定目标神经元发射；还有其它表现功能。精确地说:

“光遗传学是一种通过光来控制或监测神经活动的技术，这通过引入光敏蛋白来实现。光遗传激活剂[“通道蛋白”]用于控制神经元，而对神经活动的监测则可以通过基因编码的传感器来完成，例如监测电流（如钙）或膜电压。该系统中的效应因子是光，它具有在多个波长和位置上以高空间和时间分辨率操作的优点。”

光遗传学研究正在推进。 [至2021年](https://www.dovepress.com/post-trial-considerations-for-an-early-phase-optogenetic-trial-in-the--peer-reviewed-fulltext-article-OAJCT#:~:text=To%20date%2C%20there%20have%20been,the%20treatment%20of%20Retinitis%20Pigmentosa.&text=Initial%20limited%20data%20released%20from,therapy%20treatment%20is%20well%20tolerated.\]，已有4项光遗传学临床试验（针对人类）。

光遗传学对于大规模BCI展现出希望，因其比芯片植入更加不具侵入性（注射vs外科手术），同时也可能有更高的带宽（广泛应用于大脑，但又具有细致的控制）。

然而，由于基因操作及驱动我们大脑发光，许多副作用都是可能的。例如，万一大脑发射过于频繁导致癫痫发作呢？然而，考虑到ASI的风险，研究的紧迫性比以往任何时候都有必要。它需要瓦解“单车技术”（bike-shedding）问题，正如下一节所述。

光遗传学（概念）

3.4.4 侵入式BCI规管面临单车技术问题

对于实现植入物或光遗传学的所有研究（官方上）并未针对健康人群；都是为了修复人类病症。

为什么？因为为后者获取人类试验的监管批准已相当困难；而推进前者的方向显得更加遥不可及。

为什么？设想一下监管者的身份。你习惯于在狭窄的领域平衡风险和收益，解决特定的人类医疗问题。你_不_习惯于平衡风险和收益来解决一个_文明_范围内的问题，以避免所有人类的_非医疗_生存风险。（尽管担任该问题的把关人。）

那么你会怎么做？你会专注于你已知的事情，忽视生存风险。这有一个术语：单车技术。例如，安全委员会在核电厂花95%的时间讨论单车棚的构建，因为他们无法处理更大、更加复杂的核威胁问题。

目前，BCI研究正面临“单车技术”的困扰。我对此有所期待，希望随之而来的监管者和他们的上级能重视这个问题。

3.4.5 侵入式BCI如何突围主流市场？

考虑到当前的监管限制，侵入式BCI如何加速进入主流市场？我认为有两大主导力量推动此事发生：应对ASI风险和市场需求。

ASI风险。 理想情况下，国际大国的监管者认识到“单车技术”偏见并降低BCI限制，或许在“BCI曼哈顿计划”中变得积极以加速BCI的开展。这可依托于现有的BCI军事研究，如DARPA的数十年计划。

一些需求旺盛的小国可能会率先行动，借此谋利与公关。转变规则以迎合市场需求市民具有预算和公关激励，例如爱沙尼亚的E-居民身份、中国的深圳特区和新加坡的加密政策。在医学领域，也出现了日渐增加的激励。最初通过Zuzalu项目，蒙特內哥羅今年早些时候放宽规则以驱动长寿研究。最有趣的是，洪都拉斯_已经_对医疗测试的规则非常宽松：布赖恩·约翰逊最近借此获得了一种新型基因治疗；没有什么能阻止在洪都拉斯进行侵入式BCI测试。日渐增长的运动如网络国家和Blueprint将进一步推动这一领域的监管套利。

市场力量。 从_非_侵入式BCI开始的消费者将需要更高性能，因而需要更大的带宽，从而意味着侵入式BCI。因此，消费者将推动侵入式BCI的下方进程。

当消费者看到其他人使用BCI进行医疗治疗，而获取的收益超出了恢复健康，他们就会变得尤为执着。

那些愿意承担高风险与高回报的人会飞往洪都拉斯进行侵入式BCI医药旅游。或者他们会自己构建，就像X教授构建《X战警》中的Cerebro BCI一样。军事BCI会渗透到犯罪分子和黑市中，然后进入主流市场，满足需求，正如在《奇怪的日子》（Strange Days）和《赛博朋克：边缘行者》（Cyberpunk: Edgerunners）中所展示的那样。企业会出现，致力于将“医疗BCI”交到任何要求者的手中，就像我们在加利福尼亚的医疗大麻上看到的那样。

拥有$和承受高风险来获得高带宽BCI的第一波人将占据重大优势。这将引发关于公平性的真正问题。理想情况下，成本和风险会迅速下降，以使它广泛可及。让我们拭目以待。

左侧：X教授在《X战警》中使用Cerebro。中间：《赛博朋克边缘行者》中脊髓植入的BCI。

3.4.6 主流的侵入式BCI将快速增长

我们刚刚讨论了侵入式BCI如何融入主流市场。那么接下来会发生什么？这是经济学，傻瓜 _。在侵入式BCI之前，就已有很大的市场需求，尽管带宽有限。侵入式BCI将释放巨大的带宽，而这很重要，市场强烈需求。因此BCI的增长速度将加快。

BCI市场将与5000亿美元的智能手机市场融为一体，如果在侵入式市场前它尚未完成的话。iPhone 20或25将基于BCI，或许与Apple Vision Pro合并。Meta Quest 7或10将在未来补充眼动追踪和其它非侵入式BCI方面实现侵入式BCI。 Neuralink将推出他们的“手机”。可以期待三星、微软、OpenAI等也会加入竞争。市场空间巨大。

那么会怎样？设备将不断演进改进，各代之间的竞争将会愈加激烈，就像过去40多年智能手机所经历的变化一样。

市场力量和硅“三重保障”（Midas Touch）推动性能提升。我们将看到带宽增加10倍，这将解锁超过10倍的存储和计算能力。接着增加100倍带宽，再解锁更加的存储和计算。尤其是当我们采用光遗传学或者植入的芯片，实现半侵入式/侵入式后，我们将见到超过100倍的带宽，以及相应的100倍以上的存储和计算。

摩尔定律和BCI应用中的AI改进将进一步促进其有用性和需求。最近的实例， “BrainGPT”利用大型语言模型（LLM） interpretar脑数据，显著降低错误率。

3.4.7 你的BCI将成为你的一部分

我们都是天生的网络人：当你骑自行车时，从你大脑的角度来看它就成为你身体的一部分。同样对于键盘。

BCI也将如此。

在你大脑的角度中，你的BCI——以及你访问的计算机——将是你的一部分。

3.4.8 超本地化的AI对齐

你将是一个兼具生物堆肉体大脑和硅堆大脑和谐运作的网络人。这就像使用键盘或骑自行车那样自然。

硅堆的计算存储会具备自身的基于AI的自动化，以抽象复杂性从生物堆一侧。随着计算和存储的增长，我们期待会出现涌现智能（用约翰·霍兰德的理论）。然而，一个问题就出现了：硅堆AI是否会支配生物堆？此时对齐问题再次出现！幸运的是，有一个自然的解决方案。

为了最大化硅堆保持与我们的_对齐_的机会，我们确保在每个进化阶段的处理或存储并不超过带宽，然而这并不能保证：假设硅侧开始从互联网上访问更多的计算资源呢？

这一做法与传统的AI对齐方法有所不同：我们正在实时对齐AI，使其与我们_自身_对齐。它针对每个人都是高度本地化的对齐，一个人 correspond 一个对齐的AI，而不是对应整个人类。这样一来，它就是1亿次更为细致个性化的服务。它将AI对齐带到极致（在计算的意义上）。虽然没有保证这一方法的有效性， 但它相当有前景。

3.5 走向人类超智能的旅程

这篇文章开始讲述ASI风险，并展示了加速BCI的路径，使其能够进入大众中。前一节讲述了受市场和风险驱动的演变如何推动许多高带宽的BCI。_这_节承接前文内容。

最初，硅堆大脑的算力会远低于生物堆的算力，受到带宽瓶颈的制约。接下来，我们将逐步提升带宽，对应解锁计算和存储能力。

硅堆的能力将与生物堆持平。

那么，硅堆将开始超越生物堆。

我们将继续前行，因为市场将会需要此变革。[Rutt2024d]

硅堆的能力将远远超过生物堆的能力。

这对我们而言是好的！我们将按照每一代BCI的发展进行迭代，不至于被迅速推入一个全新的社会。随着硅堆AI对齐，忧虑将减少。

事实上，从你的角度来看，硅堆将会成为你的一部分，因为你与其余人一样，是天生的网络人。硅堆中的智能涌现模式将完全出自于我们。

这将会让他们感觉如同世界上最自然而然的事情。

我们每个人的计算与存储将增长10倍、100倍、1000倍以上，而硅堆中涌现出的智能模式——作为我们的一部分——也将增长1000倍。而我们依然是人类。

我们将成长为人类超智能。

还有更多。假设你已获得1000倍的存储与计算能力，通过硅堆的优势实现1000倍的智能。假设你现在90岁，并躺在病床上。你的生物堆身体和大脑正逐渐衰弱。

不过，你的生物堆大脑现在的智能仅为硅堆的一千分之一。多年来，这大概已经带给你很多烦恼，也许成为了障碍。现在，它真得再阻碍你，在病床上躺着。

你会怎么做？

你像剪指甲那样修剪掉它。

然后，你就进入了完全的硅堆状态。

还有 更多。想象一下在100年（或20年）之后，绝大多数意智能体将会驻扎在硅或后硅的基质，某些将拥有人的起源，某些则将完全由AI生成，部分则是二者的混合。所有它们将都是通用的；它们都是独立的；它们都是超智能：它们是主权通用智能（SGI）。

那样的生态系统是什么样子的、超物质叙事将提供灵感，SGI将栖息在数据平面上：“人与机器、AI之间的共同基础”。

数据平面：人与机器、AI之间的共同基础

所以我们找到了一条能够解放于生物限制的路径，同时又能保持人性的道路。恰好是时候提出这样的问题：你能梦想多大？文明可能实现的最大目标是什么？作为人类，我们想要什么？

我指的“人类”是最广泛的意义：不仅仅是人类，而是笼罩人类的多个文明层次。我们思考和梦想的方式，我们的智能模式，以及作为一个文明我们想要如何实际实现。

作为一个基本标准，我们明确知道我们不想死亡，无论是被小行星击中、核浩劫还是人们结束我们的。“不死亡”是一个起点。加速BCI有助于解决所有这些问题，因为这使我们能够轻松多如此变成多行星存在，并与纯AI保持竞争。

“不死亡”是一种“远离”的观念，我们能否更积极一些？多个步骤进一步乐观的是：探索宇宙，如同《星际迷航》般。这也将是人类自身的一次伟大冒险。

然而，我们还可以做得更好：让我们重塑宇宙！ 建造戴森球，直接利用星星的能量—— 卡尔达舍夫量表 类型II。全宇宙重塑星系的风貌（类型III）。在全宇宙调控能量（类型IV）。甚至或许拥有人类随心所欲操控宇宙的知识（类型V）。哦，那将是人类的一次伟大冒险！我愿意参与[Kard]。

人类的一场伟大冒险：探索和重塑宇宙！

3.6 认知自由

对国家监视状态或监视资本主义监视我们的电子生活来说这是无可厚非的。我们几乎已经能够接受这一点，不论我们喜欢与否。但我们该如何看待对我们_思想_的监控？ 这将是大多数人的红线，这一点是值得的。如果我们的思想无法保持私密，我们就会面临失去自由和个人主权的风险。

这就是“认知自由”或“心理自决权”的概念：个体控制自己心理过程、认知和意识的自由。我很高兴地发现，Nita A. Farahany的书籍《争夺你的大脑：在神经技术时代捍卫自由思考的权利》中详细探讨了这个问题。

Web3的框架 可以理解为：“你的密钥，你的思想。没有你的密钥，没有你的思想。” Web3也指向了一个潜在的出发点：_你的_数据密钥由你掌握https://twitter.com/trentmc0/status/1283683204344545286，并使用像Arweave这样的基础设施来存储你的大脑数据，且使用Ocean Protocol来管理你的大脑数据。附录5.1对此进行了详细阐述。但这仅是部分解决方案；这里面还有许多棘手的挑战需要解决。例如：如果你的密钥在你脑海中，当BCI读出这些思想时，会怎么样？这里面需要几十年或者数千年的研发。

我们需要加强对认知自由重要性的认识，这一点不容小觑。我们迫切需要更多的研究推进。我希望此方面能够获得更多的资金，也希望对BCI的加速研究广泛提供支持。

在BCI时代，我们该如何保护自己的思想并保持认知自由？

4. 结论

ASI正在到来，或许在3-10年内。人类需要一个有竞争力的基础支撑，以应对这一挑战。BCI是最务实的路径。因此，我们需要加速BCI，并将其推广到大众中。这就是bci/acc。

“群众优先”的bci/acc变体在于首先将非侵入式BCI及其杀手级应用如沉默消息引入健康人群；然后利用市场动能跨越侵入式BCI的障碍；最后，持续提升每个人的生物堆和硅堆大脑的能量。全周期重复，最终的净结果将是_人类_超智能（HSI）。

在未来的100年（或20年）里，绝大多数智能体将驻扎于硅或后硅基质。某些将源于人类，某些将纯粹是AI，部分则为二者的结合。所有智能体将都是通用的；都将是主权的；都将是超智能的，它们是主权通用智能（SGI）。它们将重塑和探索宇宙，攀升到卡尔达舍夫量表。

bci/acc是乐观的，一点疯狂又实用。这是扩大生活中的加速原则，聚焦于BCI。此项进程也将成为人类的一次伟大冒险。

5. 附录

5.1 附录：主权Web3软件

本节将描述很多最新的Web3系统是如何_已然_独立且拒绝依靠其他系统的，Web3的能力将如何持续扩展以实现强大和独立的功能。去中心化计算元素。 区块链是一个机器（节点）网络，用于维护交易列表。它是去中心化的：没有单一实体拥有或控制网络。通过去中心化的交易列表，我们可以进一步 去中心化计算的元素：存储、计算和通信。“Web3”是比“区块链”更具可接受性的术语，但它们基本上意味着同样的东西。

• 价值存储。 在区块链中，存储分为两个部分：价值存储和数据存储。我们已经拥有了一个出色的去中心化价值存储，即“数字黄金”：比特币，它存储BTC代币。于2009年发布，其市值 > 7000亿美元，拥有数千万 用户。就像比特币有BTC作为其原生代币一样，以太坊有ETH，依此类推；它们都是价值存储。最后，还有作为去中心化脚本的代币，基于链之上（例如 ERC20）。
• 数据存储。 少量数据可以直接存储在链上；这就是价值存储的方式。我们还有更大规模的去中心化数据存储： Arweave 和 Filecoin 是领先的项目。我们通过 Ocean Protocol 实现对这些数据的去中心化访问控制，并通过 Chainlink [LINK] 提供去中心化的数据馈送。
• 计算（处理）。 第一个真正出色的去中心化计算系统是 以太坊，它于2015年发布。它运行智能合约，智能合约只是运行在去中心化计算硬件上的小脚本。直接在以太坊智能合约上进行计算的成本相当高，因此有一些方法可以进行扩展。这些方法包括（a）更强大的“第1层”链如 Solana，（b）特别是“零知识汇总”的“第2层”链，允许计算在链外进行，同时可验证的计算结果存储在链上，和（c）去中心化计算市场，如 iExec 和 Golem，还有更多最近出现的，包括专注于AI的系统。
• 通信。 作为去中心化网络，所有区块链内置了通信要素。此外，还有诸如 Cosmos 或 Polkadot 的多链协议，以及 THORchain、CCIP 和 Chainflip 的跨链协议。

智能合约与链是主权的。 也许令人惊讶的是，运行在链上的每个智能合约都是 主权的 🤯 [Gov]。例如，Uniswap V2 是一个流行的去中心化交易所。每个 Uniswap 池——比如 ETH/USDT——都有自己的智能合约。每个池都是一个机器人，简单地“做它的事情”：持有流动性，给带来 ETH 的人一些 USDT，并给带来 USDT 的人一些 ETH。没有人类在帮助它，它“就是运行”，你不能关闭它，它不受任何特定个人、组织或司法管辖区的约束。它是 主权的。

每条链也是主权的。每条链都不受任何人的控制。这就是 比特币可以被视为一种生命形式 的原因。

这些主权智能合约和链可以完成所有常规活动：存储和管理财富、存储和管理数据、进行计算和通信。Uniswap 和比特币不向任何人负责。

而且，它们拥有权利！虽然没有人为这些机器人的权利进行游说，也没有为这些机器人的权利制定法律，但它们仍然有权利，因为它们可以在不求助的情况下操控资源。怎么做到的？因为 技术本身允许 这样：它是干代码，而不是湿代码 的权利方式。它是“掌握你的钥匙、你的比特币” 只属于机器人本身。 你明白了吗，匿名者？

AI 和 Web3 的代理。 到目前为止，基于链的机器人并不是很智能。但是随着 Web3 能力的增长，这种情况正在改变。一些示例：

• 预测是智能的本质。 Ocean Predictoor 是一个供预测的最新系统，由 AI 预测机器人提供动力，并由 AI 交易机器人使用。馈送本身是主权的；机器人物也可以是。
• Fetch.ai 和 SingularityNET 是用来运行去中心化代理（机器人）的 Web3 系统。这些代理可以是主权的：没有人拥有或控制。

上述 AI * Web3 项目来自 AI 和 Web3 的先驱。Web3 在存储、处理和通信方面的进展帮助了它们的能力。最近对 AI 兴趣的激增带来了大规模的 AI * Web3 项目。

5.2 附录：AI 对齐 Bingo

在2022年，Rob Bensinger 推文 为以下文本和图像。这已成为许多 AI 和对齐圈子的有用（和幽默的）引用。

“坏观点” Bingo 卡是糟糕的，因为它们从未真正说明它们嘲笑的任何论点有什么错误。所以这是 “坏的 AI 对齐观点 Bingo”的迷因，但有实际的回应针对这些“坏观点”！

5.3 附录：关于 ASI 风险概念“愚蠢的 AI 对齐更智能的 AI”

这是 OpenAI 于2023年12月发布的方法。这个想法是有一个 AI 链从愚蠢 → 聪明，其中每一个环节都是一个愚蠢的 AI 对齐下一个更聪明的 AI。

在这里，我们详细说明问题。

• “链风险”框架。 每个环节需要具有疯狂的可靠性，这可能是无法实现的。故障概率 = 1–（第 1 环节的故障概率，pfail 1）*（pfail 2）*（pfail 3）* … *（pfail n）*（非环节组件的故障概率）；假设 pfail 是独立的。举例来说，如果链中有 5 个环节，而且非环节组件的可靠性完美，并且你想要 <1% 的故障概率，那么每个环节必须具有 <1e-5（0.001%）的故障概率。
• “过度杠杆风险”框架。 这也可以被视为过度杠杆的风险。2008 年的金融危机说明了过度杠杆如何可能出现严重问题。在 2008 年，对住房抵押贷款有一个衍生品链如信用违约掉期，导致数十亿放大至数十万亿：住房抵押贷款 → 10x 衍生品 → 100x 衍生品 → 1000x 衍生品。住房抵押贷款的任何波动，例如利率的轻微变化，都会对下游造成 1000 倍的影响。
• 最聪明的实体可能不同意。 从修辞上讲，蚂蚁能对齐蜜蜂 → 对齐老鼠 → 狗 → 对齐黑猩猩 → 对齐人类吗？如果你是这个人类，你会让这种事情发生吗？
• 最聪明的实体可以改变更弱级别的规则。 这里是最聪明的实体不仅不同意，而是积极推动其他级别以使其受益。在 2008 年金融危机中，为了赚更多的钱，处于顶端的银行家（最终环节）受到强烈激励去增加抵押贷款的金额（第一环节）。这导致了疯狂。例如，一个年收入低于15,000美元的草莓采摘者夫妇获得了一笔72万美元的贷款，且没有首付。他们根本不可能偿还贷款；链点不能持久；链条断裂；2008 年的金融危机发生了。

总之，用一系列 AIs 来解决 ASI 风险本身有很大风险。

感谢

非常感谢以下人士对这些想法和这篇文章的审核、讨论和反馈：Jim Rutt、Mark Meadows、Albert Wenger、Lou de Kerhuelvez、Jeff Wilser、Kalin Harvey、Bruce Pon、Joel Dietz、Shan Sundaramahalingam和 Jeremy Sim。

同时，感谢 Mark Meadows 有机会与 NASA 分享这些想法，并感谢 Lou de Kerhuelvez 与 Allison Duettman 的机会与 Foresight Institute 分享。最后，感谢 e/acc 运动 的勇气和乐观。（还有“bci/acc”标签的灵感，优于“Bandwidth++”）。

备注

[Spec1999] 该展会为1999年的 Spectrum，每四年举行一次，在萨斯喀彻温大学工程学院举行。一些人的滑雪表现不比随机好；而其他人则没有错误。这是在 BCI 准确性上人群高变异性的有用教训。我在其他 BCI 设备的实验中也发现了同样的情况。

[Tsh2012] 研究者们的技巧包括：更多传感器、主动而非被动感应（视觉引发电位）、最大化神经放电速率、误差校正代码和 AI。

[Rutt2024a] 感谢 Jim Rutt 提供这个特定框架。为了扩展 Jim 的话，稍作编辑：“它不仅仅是更强大 1000 倍，而是质量上的不同。ASI 甚至可以深入理解复杂书籍的每一个细节。这与人类创建一个粗略的高度压缩表示方式是截然不同的。人类的记忆是有缺陷和低保真的；机器则不是。神经元的时钟速度为 1 毫秒（1e-3 s），而芯片为亚纳秒（<1e-9 s）。如今肉体头脑在并行化方面拥有巨大的优势，但最终在硅中也会得到解决。”

[Hyp1989] 许多科幻小说探讨人类和 ASI 之间的潜在关系，其中它们对人类的行为如同神一般。 《海波诺四部曲》 和 《深处之火》 是两个著名的例子；还有更多。

[Verd2023] “Guillaume Verdon: Beff Jezos，E/acc 运动，物理学，计算与 AGI”，Lex Fridman Podcast 第407期，2023年12月29日https://www.youtube.com/watch?v=8fEEbKJoNbU

e/acc 运动还有第二个论点：减速的整体思想与物理学的熵的趋势相悖，这种倾向会随着时间的推移而缩小。在地球上，这表现为生物学的进化（获取资源和繁殖的能力），以及人类组织的进化（获取资源和繁殖的能力——资本主义）。即使在极不可能的情况下，上述减速努力以某种方式是成功的，在中期，熵和进化也会绕过它们。

[Snow2013] 记住，Edward Snowden 2013年的揭露并没有阻止 PRISM 监控的目标。现在，美国及其盟友通过大科技公司获取数据而非直接获取。

[Weng2023] 通过与 Albert Wenger 的私人对话，得知此在2023年底将公开。

[Goer2013] 这是 Ben Goertzel 在 2013 及更早时常常引用的例子的。

[Rutt2024b] 感谢 Jim Rutt 提供这个想法和措辞的灵感。（私人通信）

[Rutt2024c] 感谢 Jim Rutt 幫助发展这个想法。

[BciTech] 包括功能性近红外光谱（fNIRS）、功能性磁共振成像（fMRI）、经颅刺激如经颅磁刺激（磁刺激）和聚焦超声 等。每种方法都有其自身的优缺点。bci/acc可以使用其中任何一种。 血管内 BCI 特别在微创但信号强度高的方面表现出希望。

[Rutt2024d] 来自 Jim Rutt 的一个很好的问题，轻微编辑：“虽然市场是一个优秀的爬山者，但没有任何保证它可以找到全局最大值。也许需要一个政治/社会层面。这就是人类所希望的吗？”

[Kard] 一旦 bci/acc 让人类 100% 不受生物限制，bci 部分就不那么重要了。bci/acc 会广泛化回 e/acc。这些卡尔达肖夫规模的目标与 e/acc 的目标完全一致。

此外：如果我们受生物堆栈的约束，就会出现问题。离我们太阳最近的星星是比邻星。如果你以光速旅行，去那里需要 4.3 年。好的，可以做到。然而，如果你以旅行者速度——迄今为止在太空中飞得最快的人造设备——旅行，则需要 73,000 年。那是一个比希腊人时代多 10 倍的大尺度时间。实用性差。正如科幻作家查理·斯特罗斯所说的：“发送罐装灵长类动物永远不会快乐结束”。 好在我们已经将自己从生物堆栈中解放出来！

[LINK] Chainlink 开始于去中心化的数据馈送。随着其发展，范围也扩大到了更多内容。

[Gov] 假设没有治理，这对于许多智能合约来说是正确的。Uniswap V2 没有治理，但 V3 有。

• 原文链接： blog.oceanprotocol.com/b...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～