安全新解：意图与行为的偏差最小化

目标

目标是最小化用户意图与系统实际行为之间的偏差。

“用户体验”也可以用这种方式定义。因此，“用户体验”和“安全”并非相互独立的领域。不过，“安全”更关注尾部风险情况（即偏差导致的下行风险较大），特别是那些由对抗行为引发的尾部风险。

完美安全的不可能性

从上述定义中可以立刻看出，“完美安全”是不可能的。这并非因为机器有“缺陷”，甚至不是因为设计机器的人类有“缺陷”，而是因为“用户的意图”从根本上来说是一个极其复杂的对象，用户自身也难以轻易把握。

假设用户的意图是“我想给 Bob 发送 1 ETH”。但“Bob”本身是一个复杂的现实世界实体，无法轻易通过数学方式定义。你可以用某个公钥或哈希来“表示”Bob，但这样一来，公钥或哈希实际上并不代表 Bob 的可能性就成为了威胁模型的一部分。还存在发生有争议的硬分叉的可能性，此时哪条链代表“ETH”就变成了主观问题。实际上，用户头脑中关于这些主题有一个清晰的图景，被概括为“常识”这个伞状术语，但这些内容很难用数学方式明确定义。

一旦涉及更复杂的用户目标——例如“保护用户隐私”这个目标——情况就变得更加复杂。许多人直观地认为加密消息就足够了，但实际上，谁与谁交谈的元数据模式、消息之间的时间模式等，都可能泄露大量信息。什么是“微不足道”的隐私损失，什么又是“灾难性”的损失？

如果你熟悉 Yudkowsky 早期关于人工智能安全性的思考，以及仅仅稳健地指定目标就是问题中最困难的部分之一，你就会意识到这是同一个问题。

“好的安全解决方案”是什么样的？

这适用于：

• 以太坊钱包
• 操作系统
• 智能合约或客户端或任何计算机程序的形式化验证
• 硬件
• ...

根本限制是：用户能够输入到系统中的任何内容，其复杂性都远远不足以完全编码其意图。我认为好的解决方案的共同特征是：用户以多种重叠的方式指定其意图，并且系统仅在这些指定的信息相互一致时才执行操作。

示例

• 编程中的类型系统：程序员首先指定程序做什么（代码本身），但同时还要指定每种数据结构在计算的每一步具有什么“形状”。如果两者不一致，程序将无法编译。
• 形式化验证：程序员指定程序做什么（代码本身），同时还指定程序应满足的数学性质。
• 交易模拟：用户首先指定他们想要采取什么行动，然后在看到该行动在链上后果的模拟后，点击“确认”或“取消”。
• 交易中的后置断言：交易同时指定了行动及其预期效果，两者必须匹配交易才能生效。
• 多重签名/社交恢复：用户指定多个代表其权限的密钥。
• 支出限额、新地址确认等：用户首先指定他们想要采取什么行动，然后，如果该行动在某种意义上“不寻常”或“高风险”，用户必须重新指定“是的，我知道我正在做不寻常/高风险的事情”。

在所有情况下，模式都是一致的：没有完美，只有通过冗余来降低风险。你希望不同的冗余规范从不同的“角度”逼近用户的意图：例如行动、预期后果、预期重要程度、下行风险的经济上限等。

大语言模型（LLM）的作用

这种思考方式也暗示了正确使用 LLM 的方式。正确使用下的 LLM 本身就是一种意图模拟。通用 LLM（除其他功能外）就像人类常识概念的“影子”。经过用户微调的 LLM 就像该用户自身的“影子”，可以更细致地识别什么是正常与不寻常。

在任何情况下，都不应仅仅依赖 LLM 作为意图的唯一决定因素。但它们是逼近用户意图的一个“角度”。这个角度与传统、显式的意图编码方式截然不同，而这种差异本身最大化了冗余被证明有用的可能性。

关于用户体验的推论

另一个推论是：安全并不意味着“让用户每做一件事都多点几下”。相反，安全应该意味着：低风险的事情应该容易完成（甚至最好是自动的），而危险的事情则难以完成。把握好这个平衡是挑战所在。

• 原文链接： x.com/VitalikButerin/sta...
• 登链社区 AI 助手，为大家转译优秀英文文章，如有翻译不通的地方，还请包涵～